PAROLES D’AUTRICES Quelles sont vos relations avec l’IA ?
AUDE BERNHEIM : Je suis généticienne à l’Institut Weizmann . Mes recherches s’intéressent à l’évolution des bactéries et plus particulièrement à comment les bactéries se défendent contre leurs virus, les bactériophages. Formée à AgroParisTech et au Centre de Recherches Interdisciplinaires, je suis Ingénieure des Ponts, Eaux et Forets et ai réalisé ma thèse à l’Institut Pasteur. Je me suis passionnée pour les conséquences potentielles de l’IA sur nos sociétés et j’ai développé avec d’autres scientifiques un cours à Sciences-Po pour travailler sur ces sujets.
FLORA VINCENT : Je suis pour ma part microbiologiste, également à l’Institut Weizmann . Ingénieure agronome diplômée d’AgroParisTech et formée au Centre de Recherche Interdisciplinaire, j’ai obtenu un doctorat à l’École Normale Supérieure. Je suis spécialisée en microbiologie et écologie marine et j’étudie l’impact des interactions entre les organismes sur l’évolution de ces derniers. J’utilise régulièrement des approches de « machine learning » (utilisées pour développer les intelligences artificielles) de types supervisées, telles que la classification automatique d’images acquises à haut débit, mais aussi non supervisées, telles que les techniques de regroupement et de réduction de dimensionnalité pour l’analyse de grands jeux de données de séquençage microbien. A titre personnel, je suis également très sensible aux impacts de l’IA sur la vie des citoyen.ne.s et je trouve par exemple incroyable que la caméra de mon téléphone puisse traduire en direct les étiquettes écrites en langue étrangère sur les produits que j’achète au supermarché !La rédaction de cet ouvrage est-elle votre première collaboration ?
AUDE BERNHEIM : Non. Nous avons co-fondé l’association scientifique et féministe Wax Science dont l’objet est de promouvoir les sciences et les femmes dans la science, à travers le développement et la diffusion d’outils innovants, à l’interface du numérique, du design, des sciences et de l’égalité femmes-hommes.Comment définissez-vous l’IA ?
FLORA VINCENT : La définition de l’IA est à géométrie variable, car elle dépend du sens que l’on donne au mot « intelligence » ; elle a évolué dans le temps, au fur et à mesure des progrès technologiques. Ainsi, l’IA désigne plus un ensemble de théories, technologies et outils, mis en oeuvre en vue de réaliser des machines capables de simuler l’intelligence.
AUDE BERNHEIM : Le propre de l’IA réside dans la capacité des algorithmes à apprendre, à s’auto-améliorer, à s’adapter ou encore à réaliser des opérations cognitives comparables à celle de l’être humain, comme analyser l’environnement, résoudre des problèmes, planifier et prendre des décisions.Pourquoi ce livre ?
AUDE BERNHEIM : Notre action militante s’est portée, depuis la co-fondation de « Wax Science », à l’interface entre les sciences, l’égalité femme-hommes, le design et le numérique. Nous oeuvrons pour favoriser l’accès des femmes aux milieux scientifiques et pour mieux faire connaître le concept d’innovations genrées, les « gendered innovations », qui explore comment le féminisme peut influencer le questionnement scientifique et les innovations technologiques.
FLORA VINCENT : Nous avons cherché à synthétiser et rendre accessible les connaissances de ces domaines sur les technologies digitales (un autre de nos hobbys), aujourd’hui majoritairement représentées par l’IA. Le propre de ce livre, c’est de parler aussi bien de l’absence de femmes dans la vie scientifique, que de problématiques inégalitaires liées aux technologies elles-mêmes, tout en proposant bien sûr des solutions !
A qui est-il destiné ?
FLORA VINCENT : Le livre s’adresse à toutes celles et ceux qui s’intéressent aussi bien à l’impact des nouvelles technologies sur notre société, qu’aux nouvelles dimensions de l’inégalité femmes-hommes face à la révolution algorithmique. Destiné aux producteur.rices et utilisateur.rices d’intelligences artificielles, militant.e.s féministes, citoyen.ne.s, cette publication, que nous avons voulu riche en exemples, permet d’identifier les enjeux cruciaux d’une IA égalitaire.
Quel est le propos de l’ouvrage ?
AUDE BERNHEIM : L’IA dont les humains dotent les machines (ordinateurs, robots…) bouleverse le 21ème siècle, envahit notre quotidien, nos vies. Mais avec 12 % de femmes (hors des fonctions supports) dans le secteur, l’IA se conjugue au masculin. A chaque étape de leur fabrication, les algorithmes des IA apprennent, certes, mais ingèrent des stéréotypes sexués, les diffusent et les pérennisent. L’ouvrage propose des solutions originales pour corriger ces biais, et faire progresser l’égalité entre les sexes, non seulement en créant les conditions pour augmenter le nombre de femmes dans le secteur, mais aussi et simultanément, en utilisant les potentialités de la technologie elle-même ; les deux éléments étant interactifs.
Comment avez-vous articulé son contenu ?
FLORA VINCENT : Ce livre s’inscrit dans la Collection « Egale à égal » du Laboratoire de l’Egalité, éditée par Belin, seule collection en France consacrée aux différents aspects de l’égalité entre les femmes et les hommes. Destinés à sensibiliser le public le plus large possible sur la question de l’égalité entre les sexes, ils partagent la même structure : constat (statistiques à l’appui), origine (historique), stéréotypes et blocages actuels, évolutions en cours, propositions concrètes pour parvenir à l’égalité, et bénéfices concrets de cette égalité. Notre livre suit donc cette trame, avec une très forte composante en sciences « dures ».
La communauté concernée par l’IA est vaste et diverse (chercheurs, industriels, régulateurs, médias spécialisés…). Est-il possible de sensibiliser ces différentes « familles » à l’importance d’une IA non-discriminante ? Quels sont les obstacles ? Quels sont les signaux encourageants ?
AUDE BERNHEIM : L’IA discriminante peut se voir sous plusieurs angles : pour les chercheurs, c’est une IA mal conçue scientifiquement, qui produit trop d’erreurs et doit donc être étudiée pour être corrigée. Pour certains industriels, une IA discriminante est une IA qui les fait passer à côté du profil parfait à recruter, mais pas répertorié, ou la garantie d’un mauvais buzz médiatique si on découvre que leur IA défavorise certaines populations. Pour les régulateurs, c’est un enjeu de justice et d’équité. J’ajoute que pour les communautés sensibilisées à l’égalité femme-homme, l’IA discriminante est un nouvel exemple d’une société patriarcale. Il est donc possible de sensibiliser ces différentes « familles », sous réserve d’identifier l’angle d’attaque le plus susceptible de leur parler.
FLORA VINCENT : Le premier obstacle est que le discours sur le féminisme en science s’est cristallisé autour des problématiques d’emploi : inégalités salariales, opportunités, récompenses, alors que la problématique des innovations genrées, c’est à dire comment intégrer la variable du sexe et du genre dans le développement scientifique et technologique, est restée sous silence. Le signal encourageant c’est que ces thématiques voient le jour en France. Le deuxième obstacle, c’est qu’en étant fichées « féministes », nous sommes parfois confrontées à un handicap, en particulier face aux personnes qui ne sont pas d’accord sans avoir entendu nos arguments. Nous ne sommes pas là pour générer des polémiques, mais pour apporter des faits rationnels, quantifiés, afin de nourrir un débat. La bonne nouvelle c’est que les espaces et occasions pour aborder ces questions d’égalité se sont multipliés.
Quelle est la prochaine échéance cruciale dans le développement de l’IA, au regard de l’enjeu d’égalité ?
FLORA VINCENT : Aujourd’hui la prise de conscience est là. Les solutions sont en développement. Il faut maintenant que ces principes deviennent des réflexes, des normes. Pour cela, une régulation plus importante, une vigilance accrue du grand public sont nécessaires.
AUDE BERNHEIM : Très concrètement, cela doit passer par l’intégration de ces concepts dans les formations. Des modules dédiés à l’éthique et à l’égalité doivent être intégrés, pour mieux former les développeurs sur leur responsabilité. |
