Hallucination (IA)
Une hallucination est une réponse fausse mais plausible produite par un modèle d’IA générative : une date inventée, une référence inexistante, un chiffre faux, formulés avec assurance.
Mise en contexte
Les modèles produisent du texte probable, pas du texte vérifié. Sans garde-fous, ils comblent les trous. En entreprise, le risque doit être maîtrisé par la conception : réponses fondées sur vos documents (RAG), sources citées, formats de sortie vérifiés par le code, seuils de confiance, validation humaine sur ce qui engage.
Nos applications d’IA sont conçues avec ces garde-fous écrits dans l’application, pas dans une consigne. Par exemple, dans la génération de documents commerciaux, les chiffres proviennent des données du client et non du modèle, qui ne fait que les mettre en forme.
L’hallucination se mesure : un jeu de tests rejoué à chaque évolution en compte les occurrences.
Questions fréquentes
Non, mais on peut les rendre rares et détectables : réponses sourcées, données factuelles issues de vos systèmes, vérifications par le code, validation humaine quand la réponse engage.
Quand elle cite une source vérifiable et que les données chiffrées viennent d’un système, pas du modèle. Nos interfaces affichent la source de chaque réponse.