Discrimination algorithmique
Éthique & réglementationSituation où un outil d’IA prend des décisions injustes ou biaisées envers certains groupes de personnes.
Explication
La discrimination algorithmique survient quand un système d’intelligence artificielle reproduit, amplifie ou crée des inégalités entre des individus ou des groupes. Cela arrive souvent parce que les données utilisées pour entraîner l’IA reflètent des préjugés existants dans la société. Par exemple, si un algorithme est nourri de données historiques où certains métiers étaient majoritairement occupés par des hommes, il pourrait favoriser les candidatures masculines pour ces postes, même sans intention malveillante.
Cas d'usage
- ✓Vérifier si un outil de recrutement favorise certains profils sans raison objective
- ✓Auditer un algorithme de prêt bancaire pour s’assurer qu’il n’exclut pas des clients sur des critères discriminatoires
- ✓Tester un chatbot ou un assistant vocal pour détecter des réponses biaisées envers certains groupes
- ✓Analyser les résultats d’un outil de recommandation pour éviter qu’il ne renforce des stéréotypes
- ✓Former les équipes à reconnaître et corriger les biais dans les données utilisées pour entraîner une IA