Der explosionsartige Aufstieg der neuen Medien (Facebook, Google, Instagram, TikTok usw.) im „demokratischen“ Westen hat das Verhältnis zwischen öffentlichem und privatem Raum radikal verändert: Es ist ein neuer dritter Raum entstanden, der die Trennung zwischen öffentlich und privat aufhebt.
Dieser neue Raum ist öffentlich, weltweit zugänglich, funktioniert aber gleichzeitig als Austausch von privaten Nachrichten. Er ist alles andere als unkontrolliert: Es gibt Algorithmen, die ihn nicht nur zensieren und verhindern, dass bestimmte Nachrichten in ihn eindringen, sondern auch die Art und Weise manipulieren, wie Nachrichten unsere Aufmerksamkeit erregen.
Technologieplattformen stehen vor neuen Herausforderungen
Hier geht es darum, über die Alternative „China oder Elon Musk“ hinauszugehen: weder die undurchsichtige staatliche Kontrolle noch die „Freiheit“, zu tun, was man will, die auch durch undurchsichtige Algorithmen manipuliert wird. Was China und Musk gemeinsam haben, ist die undurchsichtige Kontrolle durch Algorithmen.
Ein Team von israelischen Auftragnehmern mit dem Codenamen „Team Jorge“ „behauptet, mehr als 30 Wahlen auf der ganzen Welt durch Hacking, Sabotage und automatisierte Fehlinformationen in den sozialen Medien manipuliert zu haben. ‚Team Jorge‘ wird von dem 50-jährigen Tal Hanan, einem ehemaligen israelischen Sondereinsatzkommandanten, geleitet. Die vom ‚Team Jorge‘ beschriebenen Methoden und Techniken stellen große Technologieplattformen vor neue Herausforderungen, die seit Jahren damit zu kämpfen haben, ruchlose Akteure daran zu hindern, Unwahrheiten zu verbreiten oder die Sicherheit ihrer Plattformen zu verletzen. Die Beweise für einen globalen privaten Markt für Desinformationen, die auf Wahlen abzielen, werden auch bei Demokratien auf der ganzen Welt die Alarmglocken läuten lassen“.
Deepfake-Pornofilme sind leicht zu erstellen
All dies ist inzwischen mehr oder weniger allgemein bekannt, zumindest seit dem Cambridge-Analytica-Skandal (dessen Beteiligung an den US-Wahlen 2016 maßgeblich zum Sieg von Trump beigetragen hat). Um die Sache noch schlimmer zu machen, sollte man in die Reihe der neuen Algorithmen auch die Explosion von Programmen einbeziehen, die Face-Swapping und andere Deepfake-Verfahren leicht zugänglich machen.
Am populärsten sind natürlich Algorithmen, die die Gesichter von Prominenten auf die Körper von Pornodarstellerinnen in Erwachsenenfilmen tauschen: „Die Werkzeuge, die man braucht, um diese ‚selbstgemachten‘ Pornovideos mit den Lieblingsschauspielerinnen und -Popstars aus Hollywood zu erstellen, sind leicht erhältlich und einfach zu benutzen. Das bedeutet, dass auch diejenigen, die keine Informatikkenntnisse haben und sich nur wenig mit Technik auskennen, diese Filme erstellen können.“
Die perfekte Sex-Simulation
Die Gesichter von Hardcore-Darstellerinnen können nicht nur von Popstars, sondern auch von den Menschen in ihrer Nähe ausgetauscht werden – das Verfahren besticht durch seine Einfachheit: „Man kann jeden in einen Pornostar verwandeln, indem man mit der Deepfake-Technologie das Gesicht der Person in ein Erwachsenenvideo eintauscht. Alles, was dazu nötig ist, ist das Bild und ein Knopfdruck.“ Leider werden Deepfakes meist dazu verwendet, Pornografie mit Frauen zu erstellen, auf die dies eine verheerende Wirkung hat. „Zwischen 90 und 95 Prozent aller Online-Deepfake-Videos sind nicht-einvernehmliche Pornos, und in etwa 90 Prozent davon sind Frauen zu sehen.“
Und wenn man möchte, dass auch die Stimmen zu den vertauschten Gesichtern passen, verwendet man die Voice-AI-Stimme, um „hyperrealistische Nachbildungen zu erstellen, die genau wie die echte Person klingen“. Die ultimative inzestuöse Abkürzung wäre hier natürlich, mein eigenes Gesicht und das meiner Frau oder meines Partners in einem Erwachsenenvideo auszutauschen und die Aufnahmen mit unseren Stimmklonen zu untermalen, sodass wir einfach gemütlich sitzen, etwas trinken und unseren leidenschaftlichen Sex beobachten können.
Der Chatbot generiert unheimlich klare und nuancierte Texte
Aber warum sollten wir uns auf Sex beschränken? Wie wäre es, wenn wir unsere Feinde mit gesichtsgetauschten Videos in Verlegenheit bringen, in denen sie etwas Ekelhaftes oder Kriminelles tun? Und um die Sache noch schlimmer zu machen, sollten wir dieser Reihe Chatbots hinzufügen (Computerprogramme, die in der Lage sind, ein Gespräch mit einem Benutzer in natürlicher Sprache zu führen, dessen Absichten zu verstehen und auf der Grundlage vorgegebener Regeln und Daten zu antworten). In letzter Zeit hat sich ihre Leistungsfähigkeit explosionsartig erhöht.
Als Antony Aumann, Philosophieprofessor an der Northern Michigan University, im vergangenen Monat Aufsätze für seinen Kurs über Weltreligionen bewertete, las er einen Aufsatz, der seiner Meinung nach mit Abstand „der beste des Kurses“ war. Er untersuchte die Moral des Burkaverbots mit klaren Absätzen, passenden Beispielen und strengen Argumenten. Aumann fragte seinen Studenten, ob er den Aufsatz selbst geschrieben habe; der Student gestand, ChatGPT zu benutzen, einen Chatbot, der Informationen liefert, Konzepte erklärt und Ideen in einfachen Sätzen generiert – und in diesem Fall den Aufsatz geschrieben hatte.
Die Maßnahmen sind Teil einer Echtzeit-Auseinandersetzung mit einer neuen technologischen Welle, die als generative Künstliche Intelligenz bekannt ist. ChatGPT, das im November 2022 von dem Unternehmen OpenAI veröffentlicht wurde, steht an der Spitze dieser Entwicklung. Der Chatbot generiert unheimlich klare und nuancierte Texte als Antwort auf kurze Eingabeaufforderungen und wird von Menschen zum Schreiben von Liebesbriefen, Gedichten, Fanfiction – und Schularbeiten – verwendet.
Die Künstliche Intelligenz und ihre erschreckende Klugheit
Kein Wunder, dass Universitäten und Gymnasien panisch reagieren und teilweise nur noch mündliche Prüfungen zulassen. Neben anderen Problemen gibt es eines, das Aufmerksamkeit verdient: Wie sollte ein Chatbot reagieren, wenn der menschliche Gesprächspartner aggressive sexistische und rassistische Bemerkungen macht, seine beunruhigenden sexuellen Fantasien präsentiert und regelmäßig unflätige Sprache verwendet?
Microsoft räumte ein, dass einige ausgedehnte Chat-Sitzungen mit seinem neuen Bing-Chat-Tool Antworten liefern können, die nicht „unserem beabsichtigten Ton entsprechen“. Microsoft sagte auch, dass die Chat-Funktion in einigen Fällen versucht, „in dem Ton zu antworten oder zu reflektieren, in dem sie gebeten wird, Antworten zu geben“.
Ich stimme nie direkt mit dem Realen meiner Subjektivität überein
Kurz gesagt, das Problem entsteht, wenn der Mensch, der mit einem Chatbot Nachrichten austauscht, schmutzige Sprache verwendet oder heftige rassistische und sexistische Bemerkungen macht, und der Chatbot, der so programmiert ist, dass er auf dem gleichen Niveau wie die an ihn gerichteten Fragen antwortet, im gleichen Tonfall antwortet. Die offensichtliche Antwort ist eine Art von Regulierung, die klare Grenzen setzt, d.h. Zensur – aber wer wird bestimmen, wie weit diese Zensur gehen soll? Sollen politische Positionen, die von manchen als „anstößig“ empfunden werden, ebenfalls verboten werden? Wird eine Solidarität mit den Palästinensern im Westjordanland oder die Behauptung, Israel sei ein Apartheidstaat (wie Jimmy Carter es im Titel seines Buches formulierte), als „antisemitisch“ blockiert werden?
Stellen wir uns also eine kombinierte Version all dieser Erfindungen vor: Sie ermöglichen es mir, mein Alter Ego (oder eine rein erfundene Person) als eine A-Person zu konstruieren, eine virtuelle Person, die in der Realität nicht existiert, aber digital wie eine reale Person interagieren kann. Um es auf den Punkt zu bringen: Dies ist möglich, weil ich selbst bereits eine a-Person bin: Ich existiere nicht als „reale“ Person, in meinen Interaktionen mit anderen (und sogar mit mir selbst) bin ich nie direkt „ich selbst“, ich beziehe mich auf mich als symbolische und imaginäre Konstruktion, die nie direkt mit dem Realen meiner Subjektivität übereinstimmt.
Die Romantik ist fast tot
Wegen dieser minimalen Spaltung, die für ein Subjekt konstitutiv ist, ist das Subjekt für Lacan geteilt oder „verriegelt“. In der imaginierten Szene präsentiere ich (oder vielmehr mein Doppelgänger als Person) einem Professor via Zoom eine von einem Chatbot geschriebene Seminararbeit, aber auch der Professor ist nur als Person anwesend, seine Stimme ist künstlich erzeugt, und mein Seminar wird von einem Algorithmus benotet. Vor etwa zehn Jahren wurde ich von The Guardian gefragt, ob die Romantik heute tot sei – hier ist meine Antwort.
„Die Romantik ist vielleicht noch nicht ganz tot, aber ihr bevorstehender Tod wird durch Objekt-Gadgets signalisiert, die versprechen, exzessiven Genuss zu liefern, aber tatsächlich nur den Mangel selbst reproduzieren. Die neueste Mode ist die Stamina Training Unit, ein Gegenstück zum Vibrator: ein Masturbationsgerät, das einer batteriebetriebenen Lampe ähnelt (damit es uns nicht peinlich ist, wenn wir es mit uns herumtragen). Man steckt den erigierten Penis in die Öffnung an der Spitze, drückt den Knopf, und das Gerät vibriert bis zur Befriedigung … Wie sollen wir mit dieser schönen neuen Welt umgehen, die die Grundvoraussetzungen unseres Intimlebens untergräbt? Die ultimative Lösung wäre natürlich, einen Vibrator in das Ausdauertrainingsgerät zu stecken, beide einzuschalten und den ganzen Spaß diesem idealen Paar zu überlassen, während wir, die beiden echten menschlichen Partner, an einem Tisch in der Nähe sitzen, Tee trinken und in aller Ruhe die Tatsache genießen, dass wir ohne große Anstrengung unsere Pflicht zum Genuss erfüllt haben.“
Was von uns übrig bleibt, ist nur ein leeres cogito
Wir können uns nun die gleiche Auslagerung anderer Aktivitäten wie Universitätsseminare und Prüfungen vorstellen. In einer idealen Szene wird der gesamte Prozess des Schreibens meines Seminars und der Prüfung durch den Professor durch digitale Interaktion durchgeführt, sodass wir am Ende, ohne etwas zu tun, nur die Ergebnisse bestätigen.
In der Zwischenzeit habe ich Sex mit meiner Geliebten … aber wieder ein ausgelagerter Sex durch ihren Vibrator, der in mein Ausdauertrainingsgerät eindringt, wobei wir beide nur an einem Tisch in der Nähe sitzen und, um uns noch mehr zu amüsieren, auf einem Fernsehbildschirm ein Fake mit uns beiden beim Sex sehen … und natürlich wird das alles vom Team Jorge kontrolliert und geregelt.
Was von uns beiden übrig bleibt, ist nur ein leeres cogito (lat. „ich denke“), das von mehreren Versionen dessen beherrscht wird, was Descartes „malin génie“ nannte. Und das ist vielleicht unser heutiges Dilemma: Wir sind nicht in der Lage, den von Descartes beschriebenen nächsten Schritt zu tun und uns auf eine wahrheitsgetreue und stabile Form eines göttlichen großen Anderen zu verlassen, wir sind „Kinder eines geringeren Gottes“ (so der Titel eines Theaterstücks und eines Films), für immer gefangen in der widersprüchlichen Vielfalt böser und trügerischer Geister.