Pourquoi les IA inventent parfois des réponses

Vous avez peut-être déjà vu un assistant d'IA citer un livre qui n'existe pas ou une loi imaginaire. On appelle cela une « hallucination ». Pourquoi arrive-t-elle ?

Une machine à produire des phrases plausibles

Ces modèles sont conçus pour générer la suite la plus vraisemblable d'un texte. Quand ils n'ont pas l'information, ils peuvent produire quelque chose qui ressemble à une bonne réponse sans l'être.

Des situations à risque

• Questions très précises (chiffre exact, numéro d'article de loi, référence).
• Sujets rares ou très locaux.
• Événements récents si l'outil n'a pas accès au web.
• Consignes qui poussent à répondre à tout prix.

Comment limiter le problème

• Fournissez vous-même les documents de référence.
• Demandez de répondre « je ne sais pas » en cas de doute.
• Demandez les sources puis ouvrez-les.
• Utilisez un outil de recherche avec sources pour les faits.

Retrouvez nos cinq réflexes de vérification.