Gouverner une plateforme d’agents : prompts, outils, risques et responsabilités

Quand une organisation commence à multiplier les use cases d’agents IA, la question n’est plus seulement technique : c’est un sujet de gouvernance. Qui crée les agents ? Qui valide les prompts ? Comment éviter la dérive des usages, les effets boîte noire et les risques de sécurité ? Je partagerai notre approche de gouvernance d’une plateforme agentique interne : modèles de responsabilité, workflows de validation, gestion de la qualité et du risque.

Points clés :

• Modèle de responsabilité : qui est propriétaire de quoi (plateforme, agents, données, risques opérationnels).
• Gouvernance des prompts et des outils (tooling) : nomenclature, versionning, revue, dépréciation.
• Mécanismes de contrôle : garde-fous, limites d’usage, monitoring.
• Comment intégrer les fonctions risques/compliance dans la boucle sans bloquer l’innovation.
• Exemples d’incidents ou quasi-incidents qui ont conduit à faire évoluer la gouvernance.