Dilemmes éthiques
Éthique & réglementationSituations où l'IA doit choisir entre plusieurs options, chacune ayant des conséquences morales ou sociales.
Explication
Les dilemmes éthiques en IA surviennent quand un système doit prendre une décision qui implique des valeurs contradictoires. Par exemple, une voiture autonome doit-elle privilégier la sécurité de son passager ou celle des piétons en cas d'accident inévitable ? Ces situations soulignent l'importance de définir des règles claires pour guider le comportement des outils IA, afin qu'ils respectent les principes humains comme la justice, la transparence ou la non-discrimination. Ils rappellent aussi que l'IA ne peut pas toujours trancher seule : les humains doivent encadrer son utilisation pour éviter des biais ou des conséquences néfastes. Un autre exemple concret : un algorithme de recrutement pourrait favoriser certains profils au détriment d'autres, posant la question de l'équité.
Cas d'usage
- ✓Évaluer les risques d'un outil de notation sociale pour éviter les discriminations
- ✓Définir des priorités pour une IA médicale face à des ressources limitées
- ✓Adapter un chatbot pour qu'il refuse de répondre à des demandes illégales ou immorales
- ✓Concevoir un système de recommandation qui ne favorise pas certains groupes au détriment d'autres
- ✓Encadrer l'usage d'une IA dans la justice pour garantir l'impartialité