Table ronde : Développer, opérer et sécuriser des applications IA en production

Les agents IA ne sont plus de simples prototypes ou des expérimentations internes ; ils s'intègrent désormais dans des produits orientés client, des flux de travail de support, des outils de développement et des systèmes critiques pour les entreprises. Cependant, le développement d'applications d'IA introduit un ensemble de défis d'ingénierie bien distinct du logiciel traditionnel. Les pannes peuvent être plus difficiles à reproduire, la qualité plus complexe à mesurer, et une mauvaise réponse peut rapidement nuire à l'expérience client ainsi qu'à la confiance envers la marque.

En parallèle, les équipes doivent continuer à appliquer les principes fondamentaux de l'ingénierie de production. Concilier ces impératifs oblige les organisations techniques à repenser non seulement leurs architectures, mais aussi la topologie de leurs équipes et leurs processus opérationnels.

Lors de cette table ronde, Maxime Agostini, Group Product Manager chez Datadog, échangera avec des clients de Datadog sur les réalités concrètes du développement et de l'exploitation d'applications basées sur l'IA en production. La discussion portera sur la manière dont les équipes conçoivent l'architecture des agents, évaluent la qualité des réponses, surveillent les appels de LLM et l'utilisation des outils, déboguent les comportements inattendus, atténuent les hallucinations, gèrent les risques vis-à-vis des clients et organisent les équipes d'ingénierie autour de capacités d'IA en constante évolution.

Quel que soit le type d'application d'IA que vous développez, cette session mettra en lumière les enseignements concrets d'équipes qui ont su propulser l'IA au-delà des simples démos pour l'amener en production. Les participants repartiront avec des perspectives pratiques sur l'évolution des pratiques d'ingénierie, des stratégies d'observabilité et des structures organisationnelles nécessaires au déploiement de systèmes d'IA fiables, sûrs et prêts pour la production.