Exigences de transparence
Éthique & réglementationRègles pour rendre compréhensibles les décisions et le fonctionnement d'un système IA.
Explication
Les exigences de transparence visent à clarifier comment une intelligence artificielle prend ses décisions, quelles données elle utilise et quels sont ses limites ou biais possibles. Cela permet aux utilisateurs de comprendre, de faire confiance et, si nécessaire, de contester les résultats produits par l'outil. Par exemple, un système de recrutement automatisé doit expliquer sur quels critères il sélectionne les candidats pour éviter les discriminations involontaires.
Ces exigences sont souvent encadrées par des lois ou des bonnes pratiques, comme le droit à une explication compréhensible pour les décisions automatisées qui impactent directement une personne. Elles concernent aussi bien les créateurs d'outils IA que leurs utilisateurs finaux, qui doivent être informés de manière claire et accessible.
La transparence ne signifie pas toujours révéler tous les détails techniques, mais plutôt fournir des informations utiles et adaptées au public concerné, comme la provenance des données ou les risques associés à l'utilisation de l'outil.
Cas d'usage
- ✓Expliquer à un client pourquoi son prêt bancaire a été refusé par un algorithme
- ✓Informer les utilisateurs d'une application médicale sur les sources des données utilisées pour un diagnostic
- ✓Permettre à un enseignant de comprendre comment un outil de notation automatisée évalue les copies
- ✓Rendre visible l'origine des informations générées par un chatbot
- ✓Documenter les biais potentiels d'un outil de recommandation de produits