Audit éthique
Éthique & réglementationÉvaluation des risques éthiques d'un système d'IA avant son déploiement.
Explication
L'audit éthique consiste à examiner un outil ou un système d'IA pour identifier les biais, les discriminations potentielles ou les impacts négatifs sur les personnes ou la société. Il ne s'agit pas seulement de vérifier la conformité aux lois, mais aussi de s'assurer que l'outil respecte des principes comme la transparence, l'équité ou le respect de la vie privée. Par exemple, un audit peut révéler qu'un outil de recrutement basé sur l'IA favorise involontairement certains profils au détriment d'autres, simplement parce que ses données d'entraînement étaient déséquilibrées.
Cas d'usage
- ✓Vérifier qu'un chatbot ne propage pas de stéréotypes de genre
- ✓Évaluer si un système de notation de crédit exclut des populations sans raison valable
- ✓Identifier les risques de manipulation dans un outil de recommandation de contenu
- ✓S'assurer qu'un outil de reconnaissance faciale ne discrimine pas selon l'origine ethnique
- ✓Anticiper les conséquences sociales d'un outil d'IA avant son lancement