Biais dans l'IA
Éthique & réglementationErreur systématique dans les résultats d'un outil d'IA, souvent liée aux données utilisées pour l'entraîner.
Explication
Un biais dans l'IA désigne une tendance à favoriser ou défavoriser certains groupes, idées ou résultats de manière injustifiée. Ces biais apparaissent généralement parce que les données utilisées pour entraîner l'IA reflètent des préjugés humains, des déséquilibres ou des lacunes. Par exemple, si un algorithme de recrutement est entraîné sur des CV majoritairement masculins, il pourrait moins bien évaluer les candidatures féminines, même sans intention malveillante.
Cas d'usage
- ✓Vérifier si un outil de recrutement automatisé favorise certains profils sans raison valable
- ✓Repérer des stéréotypes de genre dans les traductions automatiques d'un texte
- ✓Évaluer si un algorithme de prêt bancaire discrimine certains quartiers ou groupes sociaux
- ✓Tester un outil de modération de contenu pour détecter des censures disproportionnées
- ✓Analyser les résultats d'un chatbot pour identifier des réponses biaisées ou discriminatoires