Méta a dévoilé mercredi un conseil consultatif sur l’IA composé uniquement d’hommes blancs. Ce manque de diversité n’est pas surprenant étant donné l’exclusion de longue date des femmes et des personnes de couleur du domaine de l’IA, malgré leurs qualifications et leurs contributions.

Meta n'a pas répondu rapidement aux demandes concernant la diversité du conseil d'administration. Ce nouveau conseil diffère du conseil d'administration et du conseil de surveillance existants de Meta, qui présentent une plus grande diversité. Le conseil d’administration d’AI n’a pas d’obligation fiduciaire et n’a pas été élu par les actionnaires. Meta a informé Bloomberg que le rôle du conseil d'administration consisterait à fournir des informations sur les avancées technologiques et les opportunités de croissance, lors de réunions périodiques.

Il convient de noter que le conseil est composé exclusivement de gens d'affaires et d'entrepreneurs, à l'exclusion d'éthiciens et d'universitaires. Alors que certains affirment que les dirigeants de Stripe, Shopify et Microsoft sont bien placés pour superviser la feuille de route des produits d'IA de Meta en raison de leur expérience, les risques uniques associés à l'IA nécessitent une perspective plus large. Les conséquences potentielles de l’IA, en particulier pour les groupes marginalisés, exigent une approche prudente.

Sarah Myers West, directrice générale de l'AI Now Institute, a souligné l'importance d'un examen critique des institutions productrices d'IA pour garantir que les besoins du public sont satisfaits. Elle a souligné les dommages disproportionnés causés par les erreurs d’IA aux communautés marginalisées, appelant à des normes plus élevées.

Les femmes sont confrontées de manière disproportionnée aux impacts négatifs de l’IA. La technologie Deepfake a été utilisée comme une arme contre les femmes, avec des contenus explicites et non consensuels les ciblant de manière disproportionnée. Des affaires très médiatisées, comme l’incident du deepfake de Taylor Swift, démontrent les défis auxquels les femmes sont confrontées, en particulier celles qui ne disposent pas des ressources d’une célébrité mondiale.

Les rapports d'étudiants créant des deepfakes explicites de leurs camarades de classe soulignent l'accessibilité de cette technologie nuisible. Les applications spécialement conçues pour « déshabiller » des photos ou créer du contenu explicite sont désormais facilement accessibles, ce qui soulève des inquiétudes quant aux risques potentiels. Le comité de surveillance de Meta enquête sur la gestion par l'entreprise des rapports faisant état de contenus sexuellement explicites générés par l'IA, à la suite d'incidents tels que la controverse publicitaire de Perky AI.

L’inclusion des femmes et des personnes de couleur dans l’innovation en IA est cruciale. L’exclusion historique des groupes marginalisés du développement technologique a conduit à des résultats préjudiciables. Les exemples incluent l’exclusion des femmes des essais cliniques et l’impact disproportionné des accidents de voiture autonome sur les individus noirs.

Les systèmes d’IA formés sur des données biaisées perpétuent les inégalités existantes. La discrimination raciale en matière d'emploi, de logement et de justice pénale est amplifiée par les algorithmes d'IA. Les assistants vocaux ont du mal à gérer des accents divers et les systèmes de reconnaissance faciale signalent de manière disproportionnée les individus noirs.

Le paysage actuel de l’IA reflète les structures de pouvoir existantes, avec des efforts limités pour résoudre ces problèmes. L’accent mis sur un développement rapide néglige souvent le potentiel de l’IA générative à exacerber les problèmes existants. Le rapport McKinsey, indiquant que l’IA pourrait automatiser les emplois occupés de manière disproportionnée par les travailleurs issus de minorités, soulève des inquiétudes quant à son impact potentiel.

Un conseil consultatif entièrement masculin et blanc dans une entreprise technologique de premier plan comme Meta soulève des questions sur sa capacité à développer des produits pour des populations diverses. Construire une technologie véritablement inclusive nécessite une approche multidimensionnelle, englobant la recherche et une compréhension des enjeux sociétaux intersectionnels. Les complexités liées à la création d’une IA sûre et inclusive mettent en évidence les limites de la composition actuelle du conseil consultatif.