這是具有里程碑意義的舉動 2024 年人工智慧首爾峰會 週二，十六家知名公司位居前列 人工智慧 （人工智慧）創新承諾在人工智慧開發中優先考慮安全和責任。這項集體倡議被稱為“前沿人工智慧安全承諾”，旨在隨著人工智慧技術日益融入日常生活，建立穩健的安全標準。

亞馬遜、Google、IBM、Meta、微軟和 OpenAI 等產業領導者，以及 Anthropic、Cohere、G42、Inflection AI、Mistral AI、Naver、三星電子、技術創新研究院、xAI 和zhipu.ai 等新興參與者，已聯合起來進行這項努力。七國集團 (G7) 主要經濟體、歐盟、新加坡、澳洲和韓國支持的更廣泛的首爾宣言進一步增強了他們的承諾。

這些公司致力於在安全和信任的框架內推動人工智慧的發展，並強調負責任創新的重要性。為了實現這一目標，他們同意遵守一套旨在減輕與人工智慧技術相關的重大風險的自願原則。他們承諾的關鍵組成部分是在即將舉行的法國人工智慧高峰會之前發布全面的安全框架。

這些承諾涵蓋人工智慧安全整個生命週期（從開發到部署）的各個方面。它們包括徹底的風險評估、建立不可容忍的風險閾值以及實施有效的風險緩解策略。這些科技巨頭還將透過向公眾通報其方法論以及其實踐的任何重大變化來保持透明度。

值得注意的是，這些承諾也強調業界的合作。這涉及內部和外部紅隊識別和應對新出現的威脅、促進資訊共享和加強網路安全措施。此外，簽署方還承諾對其係統進行第三方評估，並開發幫助用戶區分人工智慧生成內容的技術。

問責制是這些承諾的核心原則。每個組織都誓言要發展內部治理框架，以確保遵守這些安全協議，並投入足夠的資源進行持續改進。

看看其他的 人工智慧新聞 和技術活動的權利 在 AIfuturize 中!