OpenAI und Anthropic schließen Forschungsabkommen mit US-Regierung

Die KI-Startups OpenAI und Anthropic haben bahnbrechende Vereinbarungen mit der US-Regierung unterzeichnet, um die Sicherheit ihrer künstlichen Intelligenz (KI)-Modelle umfassend zu testen und zu bewerten. Diese Abkommen mit dem U.S. Artificial Intelligence Safety Institute, einer Abteilung des National Institute of Standards and Technology (NIST), markieren einen bedeutenden Schritt in Richtung einer verantwortungsvollen und sicheren Entwicklung von KI-Technologien.

Die Abkommen zwischen OpenAI, Anthropic und der US-Regierung kommen zu einem Zeitpunkt, an dem die Unternehmen verstärkt unter regulatorischer Beobachtung stehen. In Kalifornien wird zeitgleich über einen Gesetzentwurf abgestimmt, der die Entwicklung und den Einsatz von KI im Bundesstaat regulieren soll. Vor diesem Hintergrund unterstreicht die Zusammenarbeit die wachsende Bedeutung von Sicherheits- und Ethikstandards in der KI-Entwicklung.

Die Vereinbarungen sehen vor, dass das U.S. Artificial Intelligence Safety Institute Zugang zu den neuesten KI-Modellen von OpenAI und Anthropic erhält, sowohl vor als auch nach ihrer öffentlichen Einführung. Ziel ist es, die Fähigkeiten der Modelle zu evaluieren und potenzielle Risiken zu identifizieren, bevor sie weit verbreitet eingesetzt werden. Diese Zusammenarbeit ermöglicht eine rigorose Überprüfung der Modelle und soll sicherstellen, dass sie den höchsten Sicherheitsstandards entsprechen.

Das U.S. AI Safety Institute, das im letzten Jahr als Teil einer Exekutivverordnung der Biden-Administration gegründet wurde, spielt eine zentrale Rolle bei der Evaluierung bekannter und aufkommender Risiken von KI-Modellen. Im Rahmen der neuen Vereinbarungen wird das Institut nicht nur mit den Modellen von OpenAI und Anthropic arbeiten, sondern auch mit internationalen Partnern wie dem britischen AI Safety Institute kooperieren. Diese Zusammenarbeit könnte dazu beitragen, globale Standards für die sichere Entwicklung und den Einsatz von KI zu fördern.

Die Abkommen zwischen OpenAI, Anthropic und der US-Regierung könnten als Blaupause für zukünftige internationale Kooperationen im Bereich der KI-Sicherheit dienen. Sie stärken die Position der USA als führende Nation in der verantwortungsvollen Entwicklung von Künstlicher Intelligenz und bieten ein Modell, das auch andere Länder übernehmen könnten. Langfristig könnte diese Zusammenarbeit dazu beitragen, das Vertrauen in KI-Technologien zu erhöhen