Em um movimento marcante no Cúpula AI Seul 2024 na terça-feira, dezesseis empresas proeminentes na vanguarda do inteligência artificial A inovação (IA) comprometeu-se a priorizar a segurança e a responsabilidade no desenvolvimento da IA. Esta iniciativa colectiva, conhecida como “Compromissos de Segurança da IA de Fronteira”, visa estabelecer padrões de segurança robustos à medida que as tecnologias de IA se tornam cada vez mais integradas na vida quotidiana.

Líderes do setor como Amazon, Google, IBM, Meta, Microsoft e OpenAI, juntamente com players emergentes como Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI e Zhipu.ai, uniram forças nesta empreitada. Os seus compromissos são ainda reforçados por uma declaração mais ampla de Seul, apoiada pelas principais economias do Grupo dos Sete (G7), a UE, Singapura, Austrália e Coreia do Sul.

Estas empresas comprometeram-se a promover a IA num quadro de segurança e confiança, sublinhando a importância da inovação responsável. Para conseguir isso, concordaram em aderir a um conjunto de princípios voluntários concebidos para mitigar riscos significativos associados às tecnologias de IA. Um componente-chave do seu compromisso é a publicação de um quadro de segurança abrangente até à próxima Cimeira da IA em França.

Os compromissos abrangem vários aspectos da segurança da IA ao longo do seu ciclo de vida, desde o desenvolvimento até à implantação. Incluem avaliações minuciosas dos riscos, o estabelecimento de limiares de riscos intoleráveis e a implementação de estratégias eficazes de mitigação dos riscos. Estes gigantes da tecnologia também manterão a transparência, informando o público sobre as suas metodologias e quaisquer mudanças substanciais nas suas práticas.

Significativamente, os compromissos também enfatizam a colaboração dentro da indústria. Isto envolve a formação de equipas internas e externas para identificar e enfrentar ameaças emergentes, promover a partilha de informações e reforçar as medidas de segurança cibernética. Além disso, os signatários comprometeram-se a permitir avaliações de terceiros dos seus sistemas e a desenvolver tecnologias que ajudem os utilizadores a distinguir o conteúdo gerado pela IA.

A responsabilização é um princípio central destes compromissos. Cada organização prometeu desenvolver estruturas de governação interna para garantir a adesão a estes protocolos de segurança e dedicar recursos suficientes para a melhoria contínua.

Confira o outro Notícias sobre IA e eventos de tecnologia certos aqui no AIfuturize!