Meta dio a conocer un consejo asesor de IA compuesto únicamente por hombres blancos el miércoles. Esta falta de diversidad no es sorprendente dada la prolongada exclusión de las mujeres y las personas de color del campo de la IA, a pesar de sus calificaciones y contribuciones.

Meta no atendió con prontitud las consultas sobre la diversidad de la junta. Este nuevo consejo difiere de la junta directiva y la Junta de Supervisión existentes de Meta, que exhiben una mayor diversidad. La junta de AI carece de deberes fiduciarios y no fue elegida por los accionistas. Meta informó a Bloomberg que el papel de la junta implicaría brindar información sobre avances tecnológicos y oportunidades de crecimiento, con reuniones periódicas.

Llama la atención la composición exclusiva del consejo por empresarios y emprendedores, excluyendo a éticos o académicos. Si bien algunos argumentan que los ejecutivos de Stripe, Shopify y Microsoft están bien preparados para supervisar la hoja de ruta de productos de IA de Meta debido a su experiencia, los riesgos únicos asociados con la IA requieren una perspectiva más amplia. El potencial de la IA para tener consecuencias de largo alcance, particularmente para los grupos marginados, exige un enfoque cauteloso.

Sarah Myers West, directora general del AI Now Institute, enfatizó la importancia de examinar críticamente las instituciones productoras de IA para garantizar que se satisfagan las necesidades públicas. Destacó el daño desproporcionado causado por los errores de la IA a las comunidades marginadas y pidió un estándar más alto.

Las mujeres enfrentan de manera desproporcionada los impactos negativos de la IA. La tecnología deepfake se ha utilizado como arma contra las mujeres, con contenido explícito y no consensuado dirigido a ellas de manera desproporcionada. Casos de alto perfil, como el incidente del deepfake de Taylor Swift, demuestran los desafíos que enfrentan las mujeres, especialmente aquellas que no cuentan con los recursos de una celebridad global.

Los informes de estudiantes que crean deepfakes explícitos de sus compañeros de clase resaltan la accesibilidad de esta tecnología dañina. Las aplicaciones diseñadas específicamente para “desnudar” fotografías o crear contenido explícito han sido fácilmente accesibles, lo que ha generado preocupación sobre el potencial de daño. La Junta de Supervisión de Meta está investigando el manejo por parte de la compañía de informes de contenido sexualmente explícito generado por IA, luego de incidentes como la controversia publicitaria de Perky AI.

La inclusión de mujeres y personas de color en la innovación en IA es crucial. La exclusión histórica de los grupos marginados del desarrollo tecnológico ha tenido resultados perjudiciales. Los ejemplos incluyen la exclusión de mujeres de los ensayos clínicos y el impacto desproporcionado de los accidentes automovilísticos sin conductor en las personas negras.

Los sistemas de inteligencia artificial entrenados con datos sesgados perpetúan las desigualdades existentes. Los algoritmos de inteligencia artificial amplifican la discriminación racial en el empleo, la vivienda y la justicia penal. Los asistentes de voz luchan con diversos acentos y los sistemas de reconocimiento facial señalan de manera desproporcionada a las personas negras.

El panorama actual de la IA refleja las estructuras de poder existentes, con esfuerzos limitados para abordar estos problemas. El enfoque en el desarrollo rápido a menudo pasa por alto el potencial de la IA generativa para exacerbar los problemas existentes. El informe de McKinsey, que indica que la IA podría automatizar trabajos que ocupan desproporcionadamente los trabajadores minoritarios, genera preocupación sobre el impacto potencial.

Un consejo asesor masculino, exclusivamente blanco, de una destacada empresa tecnológica como Meta plantea dudas sobre su capacidad para desarrollar productos para poblaciones diversas. Construir una tecnología verdaderamente inclusiva requiere un enfoque multifacético que abarque la investigación y la comprensión de las cuestiones sociales interseccionales. Las complejidades de crear una IA segura e inclusiva resaltan las limitaciones de la composición del consejo asesor actual.