Quand on présente Obrio à un client potentiel, il y a toujours un moment où quelqu'un pose la question : « Et si l'agent fait une erreur ? »
C'est la bonne question à poser. Et notre réponse structure toute notre façon de déployer des agents IA.
Le principe fondamental : l'humain garde toujours le dernier mot
Chez Obrio, on fait une distinction claire entre deux types d'actions.
Les actions réversibles et à faible risque comme lire un courriel, classer un document, mettre à jour un champ dans votre CRM ou générer un brouillon de facture peuvent être exécutées par l'agent sans approbation préalable. Une erreur dans ces cas est facilement corrigible.
Les actions irréversibles ou à impact externe comme envoyer un courriel à un client, soumettre un paiement, transmettre un document contractuel ou communiquer avec un tiers au nom de votre entreprise déclenchent systématiquement une demande d'approbation envoyée à un membre de votre équipe.
L'agent ne contourne jamais cette règle.
Pourquoi c'est plus important qu'on le pense
L'IA générative a fait des progrès spectaculaires. Mais même les meilleurs modèles se trompent parfois. Ils peuvent interpréter incorrectement le contexte, commettre des erreurs dans des cas limites, ou produire des résultats surprenants dans des situations inhabituelles.
Dans un contexte de PME, une erreur non détectée dans une communication client peut coûter une relation d'affaires. Un paiement envoyé au mauvais compte peut prendre des semaines à récupérer. Un devis incorrect soumis à un partenaire peut créer un conflit contractuel.
Le contrôle humain n'est pas un signe de méfiance envers l'IA. C'est de la gestion de risque élémentaire. Selon une étude du MIT sur les systèmes d'IA en entreprise, les déploiements qui maintiennent une supervision humaine sur les actions à impact externe ont un taux d'incidents critiques 8 fois plus faible que ceux qui fonctionnent en mode entièrement autonome (MIT Sloan Management Review, AI Governance in Practice, 2023).
Comment ça fonctionne en pratique
Prenons l'exemple de notre Agent Comptabilité. Voici ce que fait l'agent, et ce qu'il ne fait pas sans validation.
Sans validation humaine requise
- Lire les nouvelles transactions dans QuickBooks
- Identifier les factures en souffrance et leur âge
- Générer le brouillon de courriel de relance approprié
- Catégoriser les dépenses courantes selon les règles définies
- Mettre à jour les statuts internes dans le CRM
Avec validation humaine obligatoire
- Envoyer un courriel de relance à un client
- Créer et envoyer une nouvelle facture
- Rapprocher un paiement ambigu
- Modifier les conditions de paiement d'un compte
La validation se fait via une notification dans Outlook, Slack ou votre outil de communication préféré. Vous voyez le brouillon, vous approuvez en un clic, et l'agent exécute. Si vous modifiez ou refusez, l'agent prend note du contexte pour ses décisions futures.
Chiffre à retenir : dans nos déploiements actifs, moins de 5 % des actions de l'agent requièrent une modification humaine avant approbation. Les 95 % restants sont approuvés tels quels. La supervision humaine ne ralentit presque pas le travail, mais elle prévient les erreurs rares qui auraient un impact réel.
Le récapitulatif quotidien : voir sans gérer
En plus du système d'approbation, chaque client reçoit un récapitulatif quotidien de ce que l'agent a accompli, envoyé chaque matin par courriel ou dans Slack. Ce récapitulatif liste les actions exécutées, les approbations obtenues et les cas qui ont nécessité une attention humaine.
L'objectif est que vous n'ayez jamais à vous demander ce que l'agent fait dans votre dos. Vous avez une visibilité totale, sans avoir à micromanager.
Ce que ça change pour la confiance des équipes
Un des obstacles les plus fréquents à l'adoption de l'IA dans les PME, ce n'est pas le coût mais la méfiance des employés. « L'IA va-t-elle faire une erreur et mettre ma relation client en danger ? »
Le principe du contrôle humain répond directement à cette inquiétude. Quand les employés savent qu'ils approuvent chaque courriel sortant avant qu'il parte, l'anxiété diminue et l'adoption s'accélère. On l'a observé chez tous nos clients : après deux semaines d'utilisation, les équipes font confiance à l'agent et commencent à lui déléguer plus activement.
L'IA augmente, elle ne remplace pas
On entend souvent dire que l'IA va « remplacer » les travailleurs. Ce n'est pas notre vision ni notre approche. Un agent IA bien déployé libère les membres de votre équipe des tâches répétitives pour qu'ils puissent se concentrer sur ce qu'aucune machine ne peut faire : entretenir les relations, exercer leur jugement, et créer de la valeur complexe.
Le jugement humain final, c'est le principe qui rend ça possible, et c'est au cœur de tout ce qu'on fait chez Obrio.