Vous avez demandé un résumé, un courrier ou une note à ChatGPT, et quelque chose clochait : une date fausse, un chiffre sorti de nulle part, une référence introuvable. Ces erreurs viennent de la façon même dont ces outils fonctionnent, et une fois qu’on l’a comprise, on sait où regarder.
Pourquoi une IA se trompe
Une IA comme ChatGPT, Claude ou Gemini ne consulte pas une base de faits. Elle écrit, mot après mot, le texte le plus plausible pour répondre à votre demande. La plupart du temps, le plus plausible est aussi le plus juste. Mais quand l’information lui manque, elle ne s’arrête pas pour le dire : elle complète avec ce qui ressemble le plus à une bonne réponse. C’est ce qu’on appelle une hallucination.
Deux conséquences pratiques :
- l’erreur a le même ton que le reste. Rien dans la réponse ne distingue ce qui est vérifié de ce qui est inventé ;
- plus la question est précise, plus le risque monte. Un chiffre exact, une date, le numéro d’un article de loi : c’est là que l’outil a le moins de matière et le plus de tentation de combler.
Les erreurs les plus fréquentes au travail
Un chiffre ou une date inventés. Un pourcentage, un montant, un délai : arrondis, crédibles, et faux.
Une source qui n’existe pas. Un rapport, une étude, une décision de justice, avec un titre et une date qui ont l’air vrais. Aux États-Unis, en 2023, des avocats ont été sanctionnés pour avoir cité devant un tribunal des décisions que ChatGPT avait inventées.
Une règle périmée. Une norme ou une réglementation dans une version qui n’est plus en vigueur, présentée comme actuelle.
Un cas particulier présenté comme général. Une phrase vraie dans un contexte, étendue à tous les cas.
Cinq gestes pour réduire les erreurs
1. Donnez-lui la pièce plutôt que de compter sur sa mémoire. Joignez le document, le devis, le compte rendu. L’outil travaille alors sur votre matière, pas sur ce qu’il croit savoir.
2. Demandez d’où vient chaque chiffre. « Pour chaque chiffre, indique la page de la pièce d’où il vient. » Un chiffre sans endroit est un chiffre à vérifier, ou à retirer.
3. Autorisez-le à ne pas savoir. Ajoutez : « Si l’information n’est pas dans les pièces, écris « donnée non disponible ». » Sans cette phrase, l’outil comble. Avec elle, il vous montre les trous.
4. Relisez les chiffres un par un. Pas le texte en diagonale : chaque montant, chaque date, chaque nom propre, contre la pièce. C’est là que se cachent presque toutes les erreurs qui coûtent.
5. Gardez la décision. L’outil prépare. Ce qui part chez un client, un fournisseur ou une administration, c’est vous qui le validez.
Une liste de contrôle à copier
Avant d’envoyer un document préparé avec une IA :
- chaque chiffre a une source que je peux ouvrir ;
- chaque date et chaque nom propre ont été vérifiés ;
- aucune référence (étude, norme, article de loi) n’est citée sans que je l’aie vue ;
- aucune phrase ne promet ce que je ne peux pas tenir ;
- le document dit ce que je pense, pas seulement ce qui sonne bien.
Quand ces contrôles deviennent une habitude
Ces gestes marchent, mais ils demandent d’y penser à chaque fois. Chez Uccello Labs, nous les écrivons dans la méthode de votre clone : il travaille sur vos pièces, signale ce qu’il ne trouve pas au lieu de l’inventer, et rien ne part sans vous. Il prépare, vous relisez, vous décidez.