Dalam sebuah langkah penting di KTT AI Seoul 2024 pada hari Selasa, enam belas perusahaan terkemuka di garis depan kecerdasan buatan (AI) inovasi berjanji untuk memprioritaskan keselamatan dan tanggung jawab dalam pengembangan AI. Inisiatif kolektif ini, yang dikenal sebagai 'Komitmen Keamanan AI Frontier', bertujuan untuk menetapkan standar keselamatan yang kuat seiring dengan semakin terintegrasinya teknologi AI ke dalam kehidupan sehari-hari.

Pemimpin industri seperti Amazon, Google, IBM, Meta, Microsoft, dan OpenAI, serta pemain baru seperti Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI, dan Zhipu.ai, telah bergabung dalam upaya ini. Komitmen mereka semakin diperkuat dengan deklarasi Seoul yang lebih luas yang didukung oleh negara-negara ekonomi utama Kelompok Tujuh (G7), UE, Singapura, Australia, dan Korea Selatan.

Perusahaan-perusahaan ini telah berkomitmen untuk memajukan AI dalam kerangka keselamatan dan kepercayaan, dengan menekankan pentingnya inovasi yang bertanggung jawab. Untuk mencapai hal ini, mereka sepakat untuk mematuhi serangkaian prinsip sukarela yang dirancang untuk memitigasi risiko signifikan yang terkait dengan teknologi AI. Komponen utama dari komitmen mereka adalah publikasi kerangka keselamatan komprehensif pada saat KTT AI mendatang di Perancis.

Komitmen tersebut mencakup berbagai aspek keselamatan AI sepanjang siklus hidupnya, mulai dari pengembangan hingga penerapan. Hal ini mencakup penilaian risiko secara menyeluruh, penetapan ambang batas risiko yang tidak dapat ditoleransi, dan penerapan strategi mitigasi risiko yang efektif. Raksasa teknologi ini juga akan menjaga transparansi dengan menginformasikan kepada publik tentang metodologi mereka dan perubahan substansial apa pun pada praktik mereka.

Secara signifikan, komitmen tersebut juga menekankan kolaborasi dalam industri. Hal ini melibatkan kerja sama internal dan eksternal untuk mengidentifikasi dan mengatasi ancaman yang muncul, mendorong pertukaran informasi, dan memperkuat langkah-langkah keamanan siber. Selain itu, para penandatangan telah berjanji untuk memungkinkan evaluasi pihak ketiga terhadap sistem mereka dan untuk mengembangkan teknologi yang membantu pengguna membedakan konten yang dihasilkan AI.

Akuntabilitas adalah prinsip utama dari komitmen ini. Setiap organisasi telah berjanji untuk mengembangkan kerangka tata kelola internal untuk memastikan kepatuhan terhadap protokol keselamatan ini dan mendedikasikan sumber daya yang memadai untuk perbaikan berkelanjutan.

Lihat yang lain berita AI dan peristiwa teknologi dengan benar di sini di AIfuturize!