In einem bahnbrechenden Schritt bei der KI-Gipfel in Seoul 2024 Am Dienstag trafen sich 16 führende Unternehmen der künstliche Intelligenz (KI)-Innovation hat sich verpflichtet, Sicherheit und Verantwortung bei der KI-Entwicklung an erste Stelle zu setzen. Diese gemeinsame Initiative, bekannt als „Frontier AI Safety Commitments“, zielt darauf ab, robuste Sicherheitsstandards zu etablieren, da KI-Technologien zunehmend in das tägliche Leben integriert werden.

Branchenführer wie Amazon, Google, IBM, Meta, Microsoft und OpenAI sowie aufstrebende Akteure wie Anthropic, Cohere, G42, Inflection AI, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI und Zhipu.ai haben sich in diesem Bestreben zusammengeschlossen. Ihre Verpflichtungen werden durch eine umfassendere Erklärung von Seoul weiter gestärkt, die von den sieben größten Volkswirtschaften der G7, der EU, Singapur, Australien und Südkorea unterstützt wird.

Diese Unternehmen haben sich verpflichtet, die KI in einem Rahmen der Sicherheit und des Vertrauens voranzutreiben, und unterstreichen damit die Bedeutung verantwortungsvoller Innovation. Um dies zu erreichen, haben sie sich bereit erklärt, eine Reihe freiwilliger Grundsätze einzuhalten, die darauf abzielen, die mit KI-Technologien verbundenen erheblichen Risiken zu mindern. Ein wesentlicher Bestandteil ihrer Verpflichtung ist die Veröffentlichung eines umfassenden Sicherheitsrahmens bis zum bevorstehenden KI-Gipfel in Frankreich.

Die Verpflichtungen umfassen verschiedene Aspekte der KI-Sicherheit während ihres gesamten Lebenszyklus, von der Entwicklung bis zur Bereitstellung. Dazu gehören gründliche Risikobewertungen, die Festlegung nicht tolerierbarer Risikoschwellen und die Umsetzung wirksamer Strategien zur Risikominderung. Diese Technologiegiganten werden auch Transparenz wahren, indem sie die Öffentlichkeit über ihre Methoden und alle wesentlichen Änderungen ihrer Praktiken informieren.

Bedeutsam ist, dass die Verpflichtungen auch die Zusammenarbeit innerhalb der Branche betonen. Dazu gehört das interne und externe Red Teaming, um neu auftretende Bedrohungen zu identifizieren und zu bekämpfen, den Informationsaustausch zu fördern und die Cybersicherheitsmaßnahmen zu stärken. Darüber hinaus haben sich die Unterzeichner verpflichtet, die Evaluierung ihrer Systeme durch Dritte zu ermöglichen und Technologien zu entwickeln, die den Benutzern helfen, KI-generierte Inhalte zu unterscheiden.

Verantwortlichkeit ist ein zentraler Grundsatz dieser Verpflichtungen. Jede Organisation hat sich verpflichtet, interne Governance-Rahmenwerke zu entwickeln, um die Einhaltung dieser Sicherheitsprotokolle zu gewährleisten und ausreichende Ressourcen für kontinuierliche Verbesserungen bereitzustellen.

Schauen Sie sich die anderen KI-Neuigkeiten und Technologie-Events direkt hier in AIfuturize!