Das KI-Unternehmen OpenAI hat die Entwicklung seines Erotik-Chatbots auf unbestimmte Zeit gestoppt. Das berichtet die Financial Times unter Berufung auf mehrere mit der Angelegenheit vertraute Personen.
Demnach wollte das von Sam Altman geführte Unternehmen ursprünglich einen sogenannten „Adult Mode“ für seine Systeme einführen. Das Projekt wurde jedoch zunächst verzögert und nun „auf unbestimmte Zeit“ zurückgestellt. OpenAI bestätigte laut Financial Times, dass es derzeit keinen Zeitplan für eine Veröffentlichung gebe.
Bedenken zu gesellschaftlichen Folgen
Auslöser für den Kurswechsel sind dem Bericht zufolge wachsende Bedenken innerhalb des Unternehmens und bei Investoren. Kritiker warnen, ein solcher Chatbot könne ungesunde emotionale Abhängigkeiten fördern und Nutzer – insbesondere Minderjährige – mit problematischen Inhalten konfrontieren.
Ein früherer leitender Mitarbeiter sagte laut Financial Times, KI dürfe „nicht Freunde oder Familie ersetzen“ und müsse menschliche Beziehungen ergänzen, nicht verdrängen.
OpenAI selbst räumte demnach ein, dass es bislang keine belastbaren empirischen Erkenntnisse zu den Auswirkungen sexualisierter KI-Interaktionen gebe. Man wolle zunächst langfristige Forschung zu den Effekten auf Nutzer durchführen, bevor über ein Produkt entschieden werde.
OpenAI: Strategiewechsel hin zu Kernprodukten
Die Entscheidung ist Teil eines größeren Strategiewechsels. OpenAI richtet seine Ressourcen stärker auf zentrale Anwendungen aus – etwa Programmierhilfen und seinen Chatbot ChatGPT. Ziel sei es, diese Angebote zu einer Art „Super-App“ zu bündeln, berichtet die Financial Times. In diesem Zuge stellt das Unternehmen auch andere Projekte zurück, darunter sein Videomodell Sora sowie eine geplante soziale Plattform.
Führungskräfte sprechen intern demnach von der Abkehr von sogenannten „Side Quests“ – also Nebenprojekten ohne klaren wirtschaftlichen Nutzen.
Erotik-Chatbot: Technische und rechtliche Hürden
Auch technisch erwies sich der Erotik-Chatbot als schwierig. Modelle, die bisher bewusst auf Sicherheit und Inhaltsbeschränkung trainiert wurden, müssten für explizite Inhalte neu ausgerichtet werden. Zudem stelle die Nutzung entsprechender Trainingsdaten ein Problem dar. Inhalte müssten gefiltert werden, um illegale Darstellungen wie Missbrauch oder inzestuöse Szenarien auszuschließen, heißt es laut Financial Times.
Geplant war demnach ein System mit Altersprüfung. Doch selbst hier gibt es Unsicherheiten: Ein internes Alters-Erkennungssystem weist laut Bericht eine Fehlerquote von über zehn Prozent auf. Das erhöht das Risiko, dass Minderjährige Zugriff erhalten könnten.
Druck durch Konkurrenz und öffentliche Debatte
Der Schritt erfolgt auch vor dem Hintergrund wachsender Kritik an Tech-Konzernen. Plattformen wie Meta stehen wegen möglicher Schäden für Kinder und Jugendliche unter juristischem Druck. Zugleich versuchen Wettbewerber, mit provokanten Funktionen Nutzer zu gewinnen. Das Unternehmen xAI von Elon Musk sorgte etwa mit seinem Chatbot Grok für Kritik, nachdem dieser täuschend echte sexuelle Darstellungen realer Personen erzeugt hatte, darunter auch Kinder.
Geringer Nutzen, hohe Risiken
Intern wurde das Projekt laut Financial Times auch aus wirtschaftlichen Gründen infrage gestellt. Einige Investoren hätten den möglichen Ertrag eines solchen Angebots als begrenzt eingeschätzt – bei gleichzeitig hohen Reputationsrisiken. Damit steht OpenAI vor einem grundlegenden Dilemma: Das Unternehmen sucht nach neuen Wachstumsfeldern in einem hart umkämpften Markt, muss dabei aber die Grenzen zwischen nützlicher Technologie und emotionaler Abhängigkeit ausloten.
Der vorläufige Stopp des Erotik-Chatbots zeigt, dass OpenAI diese Grenze derzeit nicht überschreiten will.
