Construire Bits Detection

Lors du développement de Datadog Bits Detection, notre vision initiale se résumait à envoyer un signal à un LLM pour obtenir une décision. Pourtant, la réalité du terrain nous a démontré que le véritable produit ne réside pas dans le modèle d'IA en lui-même, mais bien dans le système global qui l'entoure. En effet, détecter une anomalie est une chose, décider s'il s'agit d'un véritable incident en est une autre. Si des outils comme Watchdog ont prouvé qu'identifier une anomalie est un problème statistique, qualifier son impact (déploiement, dépendances, impact utilisateur) est un véritable défi produit.

Dans cette session, nous vous emmenons dans les coulisses de la création de Bits Detection. Vous découvrirez comment nous avons abordé la nature non déterministe des LLMs en faisant de la « confiance » et du contrôle des coûts de véritables métriques produit (évaluations, datasets, garde-fous). Vous verrez également que, contrairement aux idées reçues, les LLMs ne remplacent pas les règles déterministes : ils les rendent encore plus indispensables pour filtrer et enrichir le contexte avant toute étape de raisonnement. C'est d'ailleurs pour articuler ces éléments et répondre aux contraintes de coût, de latence et de passage à l'échelle, que nous avons bâti une architecture hybride.

Rejoignez-nous pour comprendre comment Bits Detection dépasse le simple rôle de détecteur pour s'inscrire dans une boucle plus large (Posture, Qualification, Investigation, Remédiation) et devenir un véritable système d'aide à la décision.