Stage, Laboratoire Jean Kuntzmann (Grenoble).| Entreprise/Organisme : | Université Grenoble Alpes | | Niveau d'études : | Master | | Sujet : | Le marché des solutions de solution utilisant l'intelligence arti cielle (IA) explose aujourd'hui sous l'impulsion de startups proposant par exemple des solutions de recommandations automatiques de candidats via une recherche sémantique sur les CV 1, des solutions d'analyse de signaux verbaux et non verbaux au cours des entretiens 2, ou encore des outils de prédiction de la capacité des candidats à s'entendre avec une équipe et à travailler e cacement 3. Toutes ces solutions promettent des recrutements plus e caces et surtout exempts de biais et de discrimination. Pourtant, si les biais et la discrimination sont des risques inhérents à toute décision de recrutement humain, les particularités qui caractérisent les technologies de l'IA, en termes d'opacité, de complexité, de comportement partiellement autonome ne fournissent pas de garanties pour réduire ces biais, et on peut même penser que l'IA peut engendrer d'autres types de biais (Lacroux et Martin-Lacroux, 2021). Par exemple, un algorithme entraîné à prendre des décisions à partir de données sociales biaisées reproduit ces biais, voire même les ampli e et crée des discriminations fortes fondées sur des critères comme le sexe, l'âge, l'origine des individus (pour un exemple, voir Besse (2020)).
Dans ce contexte, le projet IAB@R (Intelligence Arti cielle, Biais et Acceptabilité dans le recrutement) ambitionne de questionner la validité et les impacts des outils d'IA appliqués au recrutement. Force est de constater que les études sont rares alors que la demande de données empiriques est forte (Villani et al., 2018) et que les enjeux sont importants et particulièrement sensibles notamment dans le cadre de la promotion de la diversité et la lutte anti-discrimination. Cette lutte correspond non seulement à un impératif éthique mais aussi à une obligation légale en termes d'explicabilité des décisions prises sur la base de recommandations algorithmiques (la loi précise que les recruteurs doivent être capables si besoin de justi er leurs choix).
L'objectif de ce stage est d'analyser le comportement de diérents algorithmes (régression logistique, forêts aléatoire et réseaux de neurones notamment ; une phase d'apprentissage de certains algorithmes est prévue dans les 6 mois si besoin) en donnant des données biaisées en entrées et de voir l'impact sur les estimations de sortie. Pour ce faire, le ou la stagiaire analysera des plans de simulations pour estimer l'in uence du biais avec des données quantitatives et qualitatives (en s'appuyant notamment sur l'article de Besse (2020) et un stage de M1 eectué l'an dernier). Dans un second temps, une analyse sur des données mimant des recrutements réels sera faite (en partenariat avec un stage de M1 proposé en parallèle). La n du stage dépendra des résultats obtenus et du projet professionnel du ou de la stagiaire.
Aucune connaissance en science sociale n'est demandée. Ce sujet n'est pas susceptible d'aboutir sur une thèse mais des discussions sont potentiellement possibles si le ou la stagiaire serait intéressé ·e. | | Date de début : | Mars 2022 | | Durée du contrat : | 6 mois | | Rémunération : | Gratification | | Secteur d'activité : | Recherche publique | | Description : | Le marché des solutions de solution utilisant l'intelligence arti cielle (IA) explose aujourd'hui sous l'impulsion de startups proposant par exemple des solutions de recommandations automatiques de candidats via une recherche sémantique sur les CV 1, des solutions d'analyse de signaux verbaux et non verbaux au cours des entretiens 2, ou encore des outils de prédiction de la capacité des candidats à s'entendre avec une équipe et à travailler e cacement 3. Toutes ces solutions promettent des recrutements plus e caces et surtout exempts de biais et de discrimination. Pourtant, si les biais et la discrimination sont des risques inhérents à toute décision de recrutement humain, les particularités qui caractérisent les technologies de l'IA, en termes d'opacité, de complexité, de comportement partiellement autonome ne fournissent pas de garanties pour réduire ces biais, et on peut même penser que l'IA peut engendrer d'autres types de biais (Lacroux et Martin-Lacroux, 2021). Par exemple, un algorithme entraîné à prendre des décisions à partir de données sociales biaisées reproduit ces biais, voire même les ampli e et crée des discriminations fortes fondées sur des critères comme le sexe, l'âge, l'origine des individus (pour un exemple, voir Besse (2020)).
Dans ce contexte, le projet IAB@R (Intelligence Arti cielle, Biais et Acceptabilité dans le recrutement) ambitionne de questionner la validité et les impacts des outils d'IA appliqués au recrutement. Force est de constater que les études sont rares alors que la demande de données empiriques est forte (Villani et al., 2018) et que les enjeux sont importants et particulièrement sensibles notamment dans le cadre de la promotion de la diversité et la lutte anti-discrimination. Cette lutte correspond non seulement à un impératif éthique mais aussi à une obligation légale en termes d'explicabilité des décisions prises sur la base de recommandations algorithmiques (la loi précise que les recruteurs doivent être capables si besoin de justi er leurs choix).
L'objectif de ce stage est d'analyser le comportement de diérents algorithmes (régression logistique, forêts aléatoire et réseaux de neurones notamment ; une phase d'apprentissage de certains algorithmes est prévue dans les 6 mois si besoin) en donnant des données biaisées en entrées et de voir l'impact sur les estimations de sortie. Pour ce faire, le ou la stagiaire analysera des plans de simulations pour estimer l'in uence du biais avec des données quantitatives et qualitatives (en s'appuyant notamment sur l'article de Besse (2020) et un stage de M1 eectué l'an dernier). Dans un second temps, une analyse sur des données mimant des recrutements réels sera faite (en partenariat avec un stage de M1 proposé en parallèle). La n du stage dépendra des résultats obtenus et du projet professionnel du ou de la stagiaire.
Aucune connaissance en science sociale n'est demandée. Ce sujet n'est pas susceptible d'aboutir sur une thèse mais des discussions sont potentiellement possibles si le ou la stagiaire serait intéressé ·e. | | En savoir plus : | https://www-ljk.imag.fr/
Sujet_IABAR_M2.pdf | | Contact : | vincent.brault@univ-grenoble-alpes.fr |
|
