Modes de défaillance de l'IA en production — vidéos complémentaires

L'article aborde la qualité de l'IA en production comme une gestion des modes de défaillance : contexte, évaluations, fiabilité des outils, injection de prompt, données périmées, solutions de repli insuffisantes et observabilité. Cette vidéo lui associe une véritable étude de cas en production : une équipe a déployé des agents dans de nombreuses entreprises et rencontré concrètement ces défaillances.

Choix principal

1:08:40

Le paysage des agents – enseignements tirés de leur mise en production

MLOps.community

Le vice-président chargé de l'IA chez Prosus et un ingénieur en IA expliquent ce qui a réellement échoué lors du déploiement d'agents dans les entreprises du portefeuille du groupe : tests d'intrusion ciblant l'injection de prompt avant le lancement, écriture dangereuse lorsqu'un agent Jira a mal interprété une abréviation humaine, contexte périmé compensé en obligeant les agents à expliciter leurs hypothèses, et mécanismes de repli consistant à fusionner ou supprimer des agents devenus une source de charge cognitive. C'est presque le registre des défaillances de l'article rejoué sous la forme d'un retour d'incident en direct.

Ce que vous en retirerez: Identifier les modes de défaillance que vos propres agents rencontreront en premier et planifier à l'avance les tests, les mécanismes de secours et les critères de mise hors service pour chacun.

À voir ou à connaître au préalable: Connaissance des agents fondés sur des LLM, des appels d'outils et de la supervision élémentaire en production ; utilisez le registre des défaillances de l'article comme guide.

Note d’AI Expert: La vidéo date du début de l'année 2025 et les outils ont depuis évolué, mais de nouvelles équipes redécouvrent encore chacune des catégories de défaillance présentées. Concentrez-vous sur les incidents et les décisions d'exploitation, pas sur les noms des frameworks.

Ouvrir la page vidéo