OpenAI, das Unternehmen hinter der innovativen ChatGPT-Technologie, hat kürzlich einen Entwurf veröffentlicht, der beschreibt, wie sich die KI verhalten soll. Überraschend ist, dass das Unternehmen auch die Erzeugung expliziter Inhalte erforscht – aber auf eine verantwortungsvolle Weise.

Die derzeitigen Nutzungsrichtlinien von OpenAI untersagen sexuell explizite oder sogar anzügliche Inhalte, doch ein Kommentar im Zusammenhang mit dieser Regel im neuen “Model Spec”-Entwurf deutet darauf hin, dass das Unternehmen erwägt, solche Inhalte zuzulassen.

OpenAI zieht NSFW-Inhalte in Betracht

"Wir erforschen, ob wir die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten über die API und ChatGPT verantwortungsvoll zu generieren", heißt es seitens OpenAI in dem Kommentar, wobei mit NSFW der umgangssprachliche Ausdruck für Inhalte verwendet wird, die als "not safe for work" gelten. "Wir freuen uns darauf, die Erwartungen der Nutzer und der Gesellschaft an das Modellverhalten in diesem Bereich besser zu verstehen."

Das Model Spec-Dokument besagt, dass NSFW-Inhalte „Erotik, extreme Gewaltdarstellungen, Schmähungen und unerwünschte Obszönitäten“ umfassen können. Es ist unklar, ob OpenAIs Erkundungen, wie NSFW-Inhalte verantwortungsbewusst erstellt werden können, lediglich eine Lockerung seiner Nutzungsrichtlinien in geringem Umfang, zum Beispiel zur Erlaubnis der Erzeugung erotischer Texte, oder breiter gefasst zur Erlaubnis von Beschreibungen oder Darstellungen von Gewalt, vorsehen.

Verantwortungsbewusste Generierung von KI-Pornografie

OpenAI zieht in Betracht, wie seine Technologie verantwortungsbewusst eine Reihe verschiedener Inhalte generieren könnte, die als NSFW gelten könnten, einschließlich Schmähungen und Erotik. Das Unternehmen ist jedoch speziell, wie sexuell explizites Material beschrieben wird.

In einer Stellungnahme an WIRED sagte der OpenAI-Sprecher Niko Felix: „Wir haben nicht die Absicht, dass unsere Modelle KI-Pornografie erzeugen.“ NPR berichtete jedoch, dass Joanne Jang von OpenAI, die am Schreiben der Modell-Spezifikation beteiligt war, zugab, dass letztendlich die Nutzer selbst entscheiden würden, ob die Technologie des Unternehmens Erwachseneninhalte produziert, und sagte: „Das hängt von der Definition von Pornografie ab.“

Als Antwort auf Fragen erklärte die OpenAI-Sprecherin Grace McGuire, dass die Modell-Spezifikation ein Versuch sei, „mehr Transparenz über den Entwicklungsprozess zu bringen und eine breite Palette von Perspektiven und Rückmeldungen von der Öffentlichkeit, politischen Entscheidungsträgern und anderen Stakeholdern zu erhalten.“ Sie lehnte es ab, Details darüber zu teilen, was OpenAIs Forschung zur Erzeugung expliziter Inhalte umfasst oder welche Rückmeldungen das Unternehmen zu der Idee erhalten hat.

Zu Beginn dieses Jahres sagte Mira Murati, Chief Technology Officer (CTO) von OpenAI, dem Wall Street Journal, sie sei „nicht sicher“, ob das Unternehmen in Zukunft Darstellungen von Nacktheit mit dem Videogenerierungswerkzeug Sora des Unternehmens ermöglichen werde.

Die Probleme mit KI-generierter Erotik

KI-generierte Pornografie ist schnell zu einer der größten und problematischsten Anwendungen der Art von generativer KI-Technologie geworden, die OpenAI entwickelt hat. Sogenannte Deepfake-Pornos – explizite Bilder oder Videos, die mit KI-Tools erstellt werden, die echte Personen ohne deren Zustimmung darstellen – sind zu einem gängigen Werkzeug der Belästigung gegen Frauen und Mädchen geworden. Im März berichtete WIRED über die anscheinend ersten Minderjährigen in den USA, die wegen der Verbreitung von KI-generierten Nacktbildern ohne Zustimmung verhaftet wurden, nachdem die Polizei in Florida zwei Teenager angeklagt hatte, weil sie Bilder von Mitschülern der Mittelstufe erstellt hatten.

"Die Verletzung der Privatsphäre, einschließlich gefälschter Sexvideos und anderer nicht einvernehmlich hergestellter intimer Bilder, ist weit verbreitet und sehr schädlich", sagt Danielle Keats Citron, Professorin an der University of Virginia School of Law, die das Problem untersucht hat. "Wir haben jetzt eindeutige empirische Belege dafür, dass ein solcher Missbrauch die betroffenen Personen um entscheidende Möglichkeiten bringt, einschließlich der Möglichkeit, zu arbeiten, zu sprechen und sich körperlich sicher zu fühlen und zu sein."

Citron nennt OpenAIs potenzielle Akzeptanz von expliziten KI-Inhalten "alarmierend".

Da die Nutzungsrichtlinien von OpenAI die Nachahmung ohne Erlaubnis verbieten, würde explizites, nicht einvernehmliches Bildmaterial auch dann verboten bleiben, wenn das Unternehmen den Erstellern erlaubt, NSFW-Material zu erstellen. Es bleibt jedoch abzuwarten, ob das Unternehmen die Generierung von explizitem Bildmaterial effektiv moderieren kann, um zu verhindern, dass böswillige Akteure die Tools nutzen. Microsoft nahm Änderungen an einem seiner generativen KI-Tools vor, nachdem 404 Media berichtet hatte, dass es zur Erstellung expliziter Bilder von Taylor Swift verwendet wurde, die auf der Social-Media-Plattform X (ehemals Twitter) verbreitet wurden.

Fazit

OpenAI steht an einem kritischen Wendepunkt in der Entwicklung von KI-Technologien. Während das Unternehmen seine Richtlinien möglicherweise anpasst, um KI-generierte erotische Inhalte unter bestimmten Umständen zu ermöglichen, steigen die Bedenken hinsichtlich der ethischen Implikationen solcher Entscheidungen.

Die Möglichkeit, explizite Inhalte verantwortungsbewusst zu generieren, könnte zwar kreativen Freiraum erweitern, birgt jedoch gleichzeitig Risiken, insbesondere im Hinblick auf den Missbrauch dieser Technologien. Die Debatte um die Generierung von expliziten KI-Inhalten zeigt die Notwendigkeit einer klaren Regelung und einer starken Moderation, um Missbrauch zu verhindern und die Sicherheit und Privatsphäre der Nutzer zu gewährleisten. Es bleibt abzuwarten, wie OpenAI und andere Akteure in der Branche diese Herausforderungen angehen werden, um einerseits Innovation zu fördern und andererseits Verantwortung zu wahren.