Hallucinations de l'IA
Modèles & architecturesErreurs où l'IA invente des informations qui semblent plausibles mais sont fausses.
Explication
Les hallucinations de l'IA désignent les réponses générées par un modèle qui paraissent cohérentes et crédibles, mais qui sont en réalité inventées ou inexactes. Cela arrive souvent quand l'IA ne dispose pas des données nécessaires pour répondre précisément, ou quand elle interprète mal une question. Par exemple, elle peut citer un livre ou une étude qui n’existe pas, ou donner une date erronée pour un événement historique. Ces erreurs ne sont pas intentionnelles : l’IA cherche simplement à produire une réponse utile, même si elle doit combler des lacunes avec des suppositions. Pour l’utilisateur, cela souligne l’importance de vérifier les informations critiques, surtout dans des domaines comme la santé, le droit ou l’éducation.
Cas d'usage
- ✓Vérifier une source citée par un outil IA avant de l’utiliser dans un travail universitaire
- ✓Croiser les informations d’un résumé généré avec des sources fiables
- ✓Repérer des incohérences dans une traduction automatique de texte technique
- ✓Éviter de se fier à une réponse IA pour un diagnostic médical ou juridique
- ✓Corriger une erreur factuelle dans un article généré par IA