Sarah Lemay, La Gazette de la Mauricie, Trois-Rivières,
mars 2024
L’intelligence artificielle (IA) est en train de révolutionner de nombreux aspects de notre quotidien. Cette avancée promet d’améliorer nos vies, de la médecine personnalisée à l’optimisation des systèmes éducatifs et financiers. Cependant, derrière ces promesses, l’IA pose des défis inédits en matière d’égalité des genres.
Les enjeux
L’un des principaux enjeux réside dans le potentiel de l’IA à perpétuer, voire à amplifier, les inégalités existantes puisque les algorithmes peuvent intégrer et reproduire des biais genrés, mais aussi racistes. L’exemple de systèmes d’IA entraînés avec des données de recrutement biaisées illustre comment ces technologies peuvent favoriser sans qu’on s’en rende compte un genre par rapport à un autre, renforçant ainsi les stéréotypes et les inégalités professionnelles. L’un des meilleurs exemples de cela est assurément celui d’Amazon. En 2018, Amazon a rencontré un problème avec son outil d’embauche basé sur l’IA, qui avait tendance à écarter les candidatures féminines. Cet outil avait été créé à partir de CV majoritairement masculins, menant à une préférence automatique pour les profils similaires et rejetant les CV mentionnant des associations sportives féminines ou des diplômes obtenus dans des universités féminines. Les femmes, mais aussi les personnes immigrantes, les anciennes combattantes et les anciens combattants, les personnes en situation de handicap et les personnes neurodivergentes, peuvent donc faire face à un mur robotique en recrutement, en raison de la manière dont les algorithmes sont conçus et utilisés.
L’absence des femmes en IA
Au-delà des données biaisées, la question de la représentation des femmes dans les métiers de l’IA se pose. La faible présence des femmes, et plus globalement des personnes issues des groupes historiquement marginalisés (GHM) dans ces domaines, influence non seulement les perspectives et les innovations technologiques, mais aussi la manière dont les solutions d’IA sont conçues et déployées. En effet, seulement 12 % des spécialistes en apprentissage automatique sont des femmes, et en 2022 les rôles techniques chez Meta étaient occupés par seulement 2,4 % de personnes noires. Cette disparité risque de faire en sorte que les besoins spécifiques des femmes et des personnes des GHM soient moins abordés et considérés, en plus de diminuer l’efficacité des technologies développées. Afin de pallier ce défi, il est crucial d’encourager la diversité et l’inclusion dans les domaines de l’IA pour ainsi enrichir le processus de développement technologique grâce à des perspectives variées. Cela implique de soutenir l’éducation et la formation des femmes dans ces secteurs et de promouvoir des politiques de recrutement et de carrière équitables. Puisque la personne qui conçoit un algorithme peut, intentionnellement ou non, y intégrer ses propres préjugés, il est important d’instaurer des normes de diversité dans les entreprises pour réduire les préjugés dans l’IA.
Des aspects légaux et éthiques
L’égalité constitue un des fondements des valeurs sociétales au Québec et, à ce titre, elle devrait être une considération centrale dès le début et tout au long du développement des systèmes d’IA. Dans cette optique, il faudrait favoriser l’intégration des connaissances issues de domaines tels que l’éthique, le droit et la sociologie dans la création et la mise en place des systèmes d’intelligence artificielle afin de mieux comprendre les risques de perpétuation ou d’aggravation des inégalités sociales. Il faudrait en effet inclure des spécialistes en sciences humaines et sociales, mais aussi en équité, diversité et inclusion dans les équipes de développement technique de ces systèmes. Plusieurs spécialistes affirment également que les personnes qui travaillent avec des données et des algorithmes bénéficieraient grandement d’une sensibilisation aux problématiques sociales dans leur formation générale, comme le démontrent des initiatives telles que le Programme multidisciplinaire sur la responsabilité sociale de l’IA du Massachusetts Institute of Technology et le cours Biais et discrimination en IA offert par l’Université de Montréal. L’IA représente à la fois un potentiel immense pour le progrès et des risques significatifs pour l’égalité. Il est essentiel d’avoir une approche qui combine à la fois les compétences en technologie et une compréhension des enjeux sociaux pour bien avancer avec l’IA afin qu’elle profite à tous et toutes, et ce, peu importe leur identité.