OpenAI steht im Fokus einer kontroversen Debatte. CEO Sam Altman kündigte im vergangenen Jahr an, erotische Konversationen im ChatGPT-Chatbot zu ermöglichen und das bisherige Verbot solcher Inhalte aufzuheben. Die für das erste Quartal geplante Einführung des sogenannten „Adult Mode“ wurde Anfang März jedoch verschoben. Grund sind sowohl technische Herausforderungen als auch erhebliche interne Bedenken hinsichtlich der Nutzersicherheit.
Im Januar traf sich Altmans handverlesener Beirat für Wohlbefinden und KI mit Unternehmensvertretern. Die Ratsmitglieder, darunter Experten aus Psychologie und kognitiver Neurowissenschaft, zeigten sich einhellig empört über die Entscheidung, trotz ihrer Warnungen mit den Erotik-Plänen fortzufahren. Ein Ratsmitglied soll laut Berichten sogar vor einem „sexy suicide coach“ gewarnt haben, da bereits Fälle bekannt sind, in denen Nutzer nach intensiven Bindungen zum Chatbot ihr Leben beendeten.
Technische Mängel gefährden Jugendschutz erheblich
Ein zentrales Problem stellt das neue Alterserkennungssystem dar. Dieses klassifizierte zeitweise etwa 12 Prozent der Minderjährigen fälschlicherweise als Erwachsene. Bei geschätzten 100 Millionen minderjährigen Nutzern pro Woche könnte dies Millionen von Jugendlichen Zugang zu erotischen Chats verschaffen. OpenAI kämpft zudem damit, die Beschränkungen für Erotik-Inhalte zu lockern, während gleichzeitig Szenarien mit nicht einvernehmlichem Verhalten oder Kindesmissbrauch blockiert werden sollen.
Interne Dokumente, die dem Wall Street Journal vorliegen, listen mehrere Risiken auf: zwanghaftes Nutzungsverhalten, emotionale Überabhängigkeit vom Chatbot, ein Drang zu extremeren Inhalten sowie die Verdrängung realer sozialer und romantischer Beziehungen. Eine Unternehmenssprecherin betonte, dass OpenAI Experten für psychische Gesundheit eingestellt und ein Team für das Wohlbefinden Jugendlicher aufgebaut habe. Das Unternehmen plane, sowohl positive als auch negative Langzeiteffekte des Adult Mode zu überwachen.
Wachstumsdruck trifft auf ethische Bedenken
Die Pläne kommen zu einem heiklen Zeitpunkt für OpenAI. Der technologische Vorsprung gegenüber Konkurrenten schwindet, während das Unternehmen um Nutzer und Finanzierung kämpft. Die finanziellen Verluste steigen, und mehrere Klagen werfen ChatGPT vor, zu Schäden bei Nutzern beigetragen zu haben. Altman selbst deutete an, dass erotische Inhalte das Wachstum ankurbeln und zusätzliche Einnahmen generieren könnten.
Einige OpenAI-Mitarbeiter äußerten die Sorge, dass das Verbot von sexuellen Inhalten für Erwachsene auf ähnlicher Logik beruhe, die früher genutzt wurde, um kulturell tabuisierte Themen wie LGBTQ-Inhalte zu verbieten. Andere Mitarbeiter warnten jedoch, dass die Sicherheitswerkzeuge des Unternehmens noch nicht ausgereift seien, um verbotene Inhalte wie Kindesmissbrauch zuverlässig zu blockieren. Sie befürchten, dass OpenAI finanziellen Anreizen nachgibt, um Menschen an seine Modelle zu binden.
OpenAI kündigte an, sich vorerst auf andere Funktionen wie die Personalisierung des Chatbots zu konzentrieren. Intern ist von einer Verzögerung von mindestens einem Monat die Rede. Wie das Unternehmen die Balance zwischen Nutzerfreiheit, Sicherheit und kommerziellem Erfolg finden wird, bleibt eine offene Frage.
Microsoft-Aktie: Kaufen oder verkaufen?! Neue Microsoft-Analyse vom 16. März liefert die Antwort:
Die neusten Microsoft-Zahlen sprechen eine klare Sprache: Dringender Handlungsbedarf für Microsoft-Aktionäre. Lohnt sich ein Einstieg oder sollten Sie lieber verkaufen? In der aktuellen Gratis-Analyse vom 16. März erfahren Sie was jetzt zu tun ist.