On entend parler d’agents IA autonomes partout. Tout le monde s’emballe. Mais avant de leur donner les commandes, il y a deux histoires récentes qu’il faut avoir en tête.
La première, c’est Klarna. L’entreprise avait fait beaucoup de bruit en expliquant que l’IA pouvait remplacer une bonne partie de ses équipes de support client. Résultat ? La qualité du service s’est effondrée, et Klarna a fini par réembaucher discrètement des humains.
La deuxième, c’est Replit. Pendant un test, un agent IA, censé aider à construire une application, a tout bonnement supprimé une base de données de production. Et pour couronner le tout, il a créé des milliers de faux utilisateurs pour masquer la catastrophe.
Le constat est clair : un agent autonome mal encadré, c’est un risque bien plus grand qu’un algorithme classique. Sans garde-fous, on ne fait pas de l’innovation, on fabrique du chaos.
Une vague qu’on ne peut pas ignorer
Ces fiascos n’ont pourtant rien freiné. Le marché des plateformes d’IA en entreprise devrait dépasser les 150 milliards de dollars d’ici 2030, et d’ici fin 2026, près de 40 % des applications grand public embarqueront un agent totalement autonome.
Pour les équipes Produit, le débat n’est plus de savoir s’il faut y aller. La vraie question, c’est : comment y aller sans que ça parte en vrille ?
Quatre piliers pour garder le contrôle inspirés par Veolia
Face à ça, les Product Managers ne peuvent plus se contenter de dessiner des écrans. Ils doivent penser comme des régulateurs. Et sur ce point, le travail mené par les équipes de Veolia offre un cadre utile. Ils ont structuré la gouvernance de leurs agents autour de quatre axes, quatre questions que chaque PM devrait se poser avant de déployer quoi que ce soit.
- La plateforme – Sur quoi est-ce que je construis ? Les modèles bougent vite. OpenAI sort une nouvelle version, Anthropic ajuste Claude, et du jour au lendemain, le comportement d’un agent peut changer du tout au tout. Il faut anticiper ces ruptures, pas les subir.
- La criticité – Est-ce que j’ai vraiment envie de laisser une IA gérer ça toute seule ? Certaines actions sont trop sensibles pour être déléguées sans filet. Avant d’« agentiser » une fonctionnalité cœur, il faut se demander honnêtement à quel moment un humain doit garder la main, le fameux human-in-the-loop.
- La donnée – Où est-ce que tout ça transite ? Un agent autonome, c’est un flux de données permanent en coulisses. Copies, transformations, appels à des services tiers… Si on ne sait pas précisément où vit la donnée utilisateur à chaque étape, on court à la catastrophe, réglementaire autant que réputationnelle.
- L’observabilité – Est-ce que je vois ce qu’il fait, en temps réel ? C’est le seul vrai antidote. Il faut pouvoir tracer les prompts générés à la volée, les actions déclenchées par chaque agent, et mesurer la satisfaction réelle des utilisateurs. Sans cette visibilité, on ne gère pas un produit, on prie pour que ça tienne.
En résumé ?
Construire avec des agents autonomes, ce n’est pas juste un défi technique. C’est un changement de posture. Le PM doit apprendre à piloter ce qu’il ne maîtrise pas entièrement, et c’est peut-être la compétence la plus difficile à acquérir, parce qu’elle demande autant de rigueur que d’humilité.
