En un movimiento histórico en el Cumbre de AI Seúl 2024 el martes, dieciséis destacadas empresas a la vanguardia del inteligencia artificial La innovación (IA) se comprometió a priorizar la seguridad y la responsabilidad en el desarrollo de la IA. Esta iniciativa colectiva, conocida como "Compromisos de seguridad de la IA de la frontera", tiene como objetivo establecer estándares de seguridad sólidos a medida que las tecnologías de IA se integran cada vez más en la vida diaria.

Líderes de la industria como Amazon, Google, IBM, Meta, Microsoft y OpenAI, junto con actores emergentes como Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI y Zhipu.ai. han unido fuerzas en este esfuerzo. Sus compromisos se ven reforzados aún más por una declaración más amplia de Seúl respaldada por las principales economías del Grupo de los Siete (G7), la UE, Singapur, Australia y Corea del Sur.

Estas empresas se han comprometido a promover la IA dentro de un marco de seguridad y confianza, subrayando la importancia de la innovación responsable. Para lograr esto, acordaron adherirse a un conjunto de principios voluntarios diseñados para mitigar riesgos significativos asociados con las tecnologías de inteligencia artificial. Un componente clave de su compromiso es la publicación de un marco de seguridad integral antes de la próxima Cumbre de IA en Francia.

Los compromisos abarcan varios aspectos de la seguridad de la IA a lo largo de su ciclo de vida, desde el desarrollo hasta la implementación. Incluyen evaluaciones exhaustivas de riesgos, el establecimiento de umbrales de riesgo intolerables y la implementación de estrategias eficaces de mitigación de riesgos. Estos gigantes tecnológicos también mantendrán la transparencia informando al público sobre sus metodologías y cualquier cambio sustancial en sus prácticas.

Significativamente, los compromisos también enfatizan la colaboración dentro de la industria. Esto implica formar equipos internos y externos para identificar y abordar amenazas emergentes, fomentar el intercambio de información y fortalecer las medidas de ciberseguridad. Además, los firmantes se han comprometido a permitir evaluaciones de sus sistemas por parte de terceros y a desarrollar tecnologías que ayuden a los usuarios a distinguir el contenido generado por IA.

La rendición de cuentas es un principio central de estos compromisos. Cada organización se ha comprometido a desarrollar marcos de gobierno interno para garantizar el cumplimiento de estos protocolos de seguridad y dedicar recursos suficientes para la mejora continua.

mira el otro noticias de IA y eventos tecnológicos correctos aquí en AIfuturize!