« L'IA pour tous : comment détecter les biais et les compenser »
14:30 - 15:20
Conference 2 [Amphi 137]

L'IA est partout. Elle est de plus en plus utilisée que ce soit pour déterminer l'éligibilité pour un prêt ou pour trouver le meilleur candidat pour une offre d'emploi par exemple. Il est en effet devenu très facile de se coder une IA sans grande connaissance grâce aux toolkits existants comme Scikit-Learn ou TensorFlow qui fournissent de nombreux algorithmes déjà implémentés. Toutefois ce type d'algorithmes peut se baser sur des données du passé et transformer mécaniquement les biais du passé en biais éternels. Il nécessite aussi de définir des critères d'éligibilité qui peuvent mettre à mal le principe d'équité. Comment en tant que développeurs pouvons-nous aujourd'hui développer des solutions à base d'IA éthiques et sans biais ?  Dans cette session, nous ferons un rappel des différents types d'algorithmes de machine learning puis des contraintes imposées par la loi et notamment RGPD sur l'IA. Nous verrons les différents biais qui peuvent être introduits au niveau des données utilisées ou des modèles eux-mêmes, sans oublier le facteur humain inéluctable. Nous étudierons ensuite des solutions open source pour aider les développeurs à détecter les biais comme AI Fairness 360 (IBM) ou What-If (Google).