Sara Bouchenak

L’IA a de nombreux domaines d’application et joue un rôle clé dans la prise de décision, tels que dans le domaine du diagnostic médical, ou de l’aide au recrutement, etc.
Il est donc crucial de garantir que les décisions prises par l'IA ne reflètent aucun comportement discriminatoire envers certains groupes sociaux ou populations. De nouvelles législations sont proposées dans ce sens, tel que le AI Act.
Or aujourd’hui, plusieurs IA ont fait preuve de discrimination et de biais envers certains individus, telle que l’IA utilisée dans l’outil de recrutement d’Amazon, qui privilégiait les candidats hommes par rapport aux candidates féminines.
Nous nous intéressons précisément à ce problème, et étudions de nouveaux modèles d’IA qui sont équitables et traitent le problème de biais dans la prise de décision.