Fuite de données
Données & entraînementErreur où des informations non prévues influencent les résultats d'un modèle d'IA.
Explication
La fuite de données survient quand un modèle d'IA utilise, sans le vouloir, des informations qu'il ne devrait pas connaître pour faire ses prédictions. Par exemple, si un outil est entraîné à prédire le prix d'une maison et qu'il a accès, par erreur, aux prix réels des maisons de l'ensemble de test, ses résultats seront faussés. Cela donne l'illusion d'une performance exceptionnelle, alors qu'en réalité, le modèle triche en utilisant des données qu'il ne devrait pas voir en conditions réelles.
Cas d'usage
- ✓Éviter de fausser les résultats d'un outil de prédiction financière en séparant correctement les données d'entraînement et de test
- ✓Garantir qu'un chatbot ne révèle pas d'informations sensibles qu'il aurait apprises par erreur pendant son entraînement
- ✓Corriger un modèle de recommandation qui semble trop performant car il utilise des données futures pour prédire le passé