Trong một động thái mang tính bước ngoặt tại Hội nghị thượng đỉnh AI Seoul 2024 vào thứ ba, mười sáu công ty nổi bật đi đầu trong trí tuệ nhân tạo (AI) đổi mới cam kết ưu tiên sự an toàn và trách nhiệm trong phát triển AI. Sáng kiến tập thể này, được gọi là 'Cam kết an toàn AI ở biên giới', nhằm mục đích thiết lập các tiêu chuẩn an toàn mạnh mẽ khi công nghệ AI ngày càng được tích hợp vào cuộc sống hàng ngày.

Các công ty dẫn đầu ngành như Amazon, Google, IBM, Meta, Microsoft và OpenAI, cùng với những công ty mới nổi như Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI và Zhipu.ai, đã tham gia lực lượng trong nỗ lực này. Các cam kết của họ được củng cố hơn nữa bởi một tuyên bố rộng hơn của Seoul được sự hỗ trợ của Nhóm bảy nền kinh tế lớn (G7), EU, Singapore, Australia và Hàn Quốc.

Các công ty này đã cam kết phát triển AI trong khuôn khổ an toàn và tin cậy, nhấn mạnh tầm quan trọng của sự đổi mới có trách nhiệm. Để đạt được điều này, họ đã đồng ý tuân thủ một bộ nguyên tắc tự nguyện được thiết kế để giảm thiểu rủi ro đáng kể liên quan đến công nghệ AI. Một thành phần quan trọng trong cam kết của họ là công bố khuôn khổ an toàn toàn diện vào thời điểm diễn ra Hội nghị thượng đỉnh AI sắp tới ở Pháp.

Các cam kết bao gồm nhiều khía cạnh khác nhau về an toàn AI trong suốt vòng đời của nó, từ giai đoạn phát triển đến triển khai. Chúng bao gồm đánh giá rủi ro kỹ lưỡng, thiết lập các ngưỡng rủi ro không thể chấp nhận được và thực hiện các chiến lược giảm thiểu rủi ro hiệu quả. Những gã khổng lồ công nghệ này cũng sẽ duy trì tính minh bạch bằng cách thông báo cho công chúng về phương pháp của họ và bất kỳ thay đổi đáng kể nào đối với hoạt động của họ.

Điều đáng chú ý là các cam kết cũng nhấn mạnh đến sự hợp tác trong ngành. Điều này liên quan đến việc phối hợp nội bộ và bên ngoài để xác định và giải quyết các mối đe dọa mới nổi, thúc đẩy chia sẻ thông tin và tăng cường các biện pháp an ninh mạng. Ngoài ra, các bên ký kết đã cam kết cho phép bên thứ ba đánh giá hệ thống của họ và phát triển các công nghệ giúp người dùng phân biệt nội dung do AI tạo ra.

Trách nhiệm giải trình là nguyên lý trung tâm của những cam kết này. Mỗi tổ chức đều cam kết phát triển các khuôn khổ quản trị nội bộ để đảm bảo tuân thủ các giao thức an toàn này và dành đủ nguồn lực để cải tiến liên tục.

Kiểm tra cái khác tin tức AI và các sự kiện công nghệ phải không? ở đây trong AIfuturize!