Hallucination
Modèles & architecturesErreur d'un outil d'IA qui invente des informations fausses ou incohérentes, présentées comme vraies.
Explication
Une hallucination se produit quand un modèle d'intelligence artificielle, comme un chatbot ou un générateur de texte, produit une réponse qui semble crédible mais qui est en réalité fausse ou sans fondement. Cela arrive parce que l'IA ne comprend pas vraiment le sens des mots : elle prédit simplement ce qui pourrait suivre un texte, en s'appuyant sur des motifs appris dans ses données d'entraînement. Si ces données contiennent des erreurs ou des incohérences, ou si la question est trop vague, l'IA peut « inventer » des détails pour combler les lacunes.
Cas d'usage
- ✓Vérifier les faits cités par une IA avant de les utiliser dans un rapport ou une présentation
- ✓Éviter de se fier aveuglément à une réponse d'IA pour des sujets sensibles (santé, droit, finance)
- ✓Utiliser des outils d'IA comme point de départ pour une recherche, puis croiser les informations avec des sources fiables
- ✓Former les utilisateurs à repérer les signes d'une hallucination (réponses trop précises, sources introuvables, incohérences)