획기적인 움직임으로 AI 서울 서밋 2024 화요일에는 16개의 주요 기업이 선두에 있습니다. 인공지능 (AI)혁신은 AI 개발에 있어 안전과 책임을 최우선으로 다짐했다. '프론티어 AI 안전 약속(Frontier AI Safety Commitments)'으로 알려진 이 공동 이니셔티브는 AI 기술이 일상 생활에 점점 더 통합됨에 따라 강력한 안전 표준을 확립하는 것을 목표로 합니다.

Amazon, Google, IBM, Meta, Microsoft, OpenAI 등 업계 리더들과 Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI, Zhipu.ai 등 신흥 플레이어들과 이 노력에 힘을 합쳤습니다. 이들의 약속은 G7 주요 경제국, EU, 싱가포르, 호주, 한국이 지지하는 광범위한 서울 선언으로 더욱 강화되었습니다.

이들 기업은 안전과 신뢰의 프레임워크 내에서 AI를 발전시키는 데 전념해 왔으며 책임 있는 혁신의 중요성을 강조했습니다. 이를 달성하기 위해 그들은 AI 기술과 관련된 심각한 위험을 완화하기 위해 고안된 일련의 자발적 원칙을 준수하기로 동의했습니다. 그들의 약속의 핵심 요소는 다가오는 프랑스 AI 정상회담이 열릴 때까지 포괄적인 안전 프레임워크를 발표하는 것입니다.

이 약속은 개발부터 배포까지 수명주기 전반에 걸쳐 AI 안전의 다양한 측면을 포괄합니다. 여기에는 철저한 위험 평가, 허용할 수 없는 위험 임계값 설정, 효과적인 위험 완화 전략 구현이 포함됩니다. 이들 거대 기술 기업들은 대중에게 자신들의 방법론과 관행에 대한 실질적인 변화를 알려 투명성을 유지할 것입니다.

중요한 점은 이 약속이 업계 내 협력을 강조한다는 것입니다. 여기에는 새로운 위협을 식별 및 해결하고 정보 공유를 촉진하며 사이버 보안 조치를 강화하기 위한 내부 및 외부 레드팀 구성이 포함됩니다. 또한 서명자들은 시스템에 대한 제3자 평가를 가능하게 하고 사용자가 AI 생성 콘텐츠를 구별하는 데 도움이 되는 기술을 개발할 것을 약속했습니다.

책임은 이러한 약속의 핵심 원칙입니다. 각 조직은 이러한 안전 프로토콜을 준수하고 지속적인 개선을 위해 충분한 리소스를 할당하기 위해 내부 거버넌스 프레임워크를 개발하기로 약속했습니다.

다른 것도 확인해 보세요 AI 뉴스 그리고 기술 이벤트가 맞죠? 여기 AIfuturize에서!