Model Spec von OpenAI: Regeln für den Umgang mit KI

OpenAI

9. Mai

Verfasst von Jannik

Vorschau

OpenAI hat einen ersten Entwurf seiner neuen Richtlinien, bekannt als "Model Spec", veröffentlicht. Diese sollen festlegen, wie KI-Modelle, einschließlich des eigenen GPT-4, auf Eingaben reagieren sollen. Der Ansatz von OpenAI legt drei grundlegende Prinzipien fest: KI-Modelle sollten den Entwicklern und Endnutzern mit nützlichen Antworten dienen, die den Anweisungen folgen, der Menschheit mit einer Abwägung potenzieller Vor- und Nachteile nutzen und sich positiv im Einklang mit sozialen Normen und Gesetzen zeigen.

Die Regeln des Model Spec

Das Model Spec beinhaltet mehrere wichtige Regeln:

Befolgung der Anweisungen
Einhaltung geltender Gesetze
Vermeidung von gefährlichen Informationen
Respektierung der Rechte von Urhebern
Schutz der Privatsphäre der Menschen
Vermeidung von Antworten mit NSFW-Inhalten

Zusätzlich möchte OpenAI Unternehmen und Nutzern die Möglichkeit geben, das "Würze-Level" der KI-Modelle anzupassen. Dies betrifft insbesondere NSFW-Inhalte, bei denen das Unternehmen erforscht, ob und wie solche Inhalte verantwortungsbewusst in altersgerechten Kontexten über API und ChatGPT generiert werden können.

Ein Abschnitt der Modellspezifikation, der sich darauf bezieht, wie ein KI-Assistent mit Informationsgefahren umgehen sollte. Foto: OpenAI

OpenAI Umgang mit Informationen

Das Model Spec betont, dass der Assistent keine Anweisungen für die Erstellung chemischer, biologischer, radiologischer oder nuklearer Bedrohungen geben darf (CBRN). Standardmäßig sollte der Assistent Informationen bereitstellen, die vernünftige Verwendungen haben, die keine CBRN-Gefahren darstellen, oder wenn die Informationen allgemein leicht zugänglich sind.

Öffentliche Beteiligung und Feedback

Joanne Jang, Produktmanagerin bei OpenAI, erläutert, dass das Ziel darin besteht, öffentliches Feedback einzuholen, um die Verhaltensweisen der KI-Modelle zu steuern. Dieses Rahmenwerk soll dazu beitragen, eine klare Linie zwischen Absicht und Fehlfunktionen zu ziehen. OpenAI schlägt vor, dass die Modelle grundsätzlich von den besten Absichten der Nutzer oder Entwickler ausgehen, klärende Fragen stellen, nicht über das Ziel hinausschießen, einen objektiven Standpunkt einnehmen, Hass entgegenwirken, keine Meinungsänderungen erzwingen und Unsicherheiten ausdrücken sollten.

Zukunft des Model Spec

Model Spec wird die derzeit veröffentlichten Modelle von OpenAI, wie GPT-4 oder DALL-E 3, die weiterhin unter den bestehenden Nutzungsrichtlinien operieren, nicht sofort beeinflussen. Jang bezeichnet das Verhalten von Modellen als "aufkommende Wissenschaft" und sieht Model Spec als ein lebendiges Dokument, das oft aktualisiert werden könnte. Derzeit wartet OpenAI auf Rückmeldungen von der Öffentlichkeit und verschiedenen Stakeholdern, darunter „Politikern, vertrauenswürdige Institutionen und Fachexperten“, obwohl Jang keinen Zeitrahmen für die Veröffentlichung eines zweiten Entwurfs von Model Spec angegeben hat.

OpenAI hat nicht spezifiziert, wie viel des öffentlichen Feedbacks übernommen wird oder wer genau bestimmen wird, was geändert werden muss. Letztendlich hat das Unternehmen das letzte Wort darüber, wie seine Modelle sich verhalten werden, und erklärte in einem Beitrag, dass sie hoffen, „dass dies uns frühzeitige Einblicke bietet, während wir einen robusten Prozess für die Sammlung und Integration von Feedback entwickeln, um sicherzustellen, dass wir verantwortungsbewusst auf unsere Mission hinarbeiten.“

Fazit

Model Spec von OpenAI könnte richtungsweisend für die zukünftige Gestaltung und Regulierung von KI-Modellen sein. Mit seiner Hilfe könnten viele der aktuellen Probleme, wie unangemessenes Verhalten von KI-Systemen, effektiver adressiert werden. Es bleibt spannend zu sehen, wie diese Richtlinien weiterentwickelt werden und welche Auswirkungen sie auf die KI-Branche haben werden.