Mit der KI in die totale Versklavung!

„Die Technik entwickelt sich schneller, als der Mensch ihr nachkommen kann." sinngemäß nach Günther Anders, Die Antiquiertheit des Menschen (1956)

Vorbemerkung

Dieser Text ist eine Streitschrift. Er will nicht ausgewogen sein, sondern wachrütteln, und er bekennt sich zu diesem Anspruch offen. Wo er zuspitzt, soll der Leser die Zuspitzung als das erkennen, was sie ist: ein rhetorisches Mittel und kein Lagebericht. Wo er sich aber auf Tatsachen beruft, sind diese belegt. Diese Trennung ist Absicht. Eine Polemik, die das Belegbare hart belegt und das Befürchtete ehrlich als Befürchtung kennzeichnet, ist stärker als eine, die beides vermischt, denn sie ist schwerer zu widerlegen.

I. Eliza, oder: Die Geburt der Illusion

Im Jahr 1966 schuf der deutsch-amerikanische Informatiker Joseph Weizenbaum am Massachusetts Institute of Technology ein Programm, das er "ELIZA" nannte, nach Eliza Doolittle, der Figur aus George Bernard Shaws "Pygmalion", einer Frau aus einfachen Verhältnissen, der man eine fremde, vornehme Sprache beibringt. Schon der Name trägt die ganze Ironie in sich: ELIZA "lernt zu sprechen, ohne zu verstehen".

Das Programm war primitiv. In rund zweihundert Zeilen Code simulierte es einen Psychotherapeuten, der nach der nicht-direktiven Methode von Carl Rogers arbeitet. Es nahm die Aussagen des Nutzers und spiegelte sie als Fragen zurück. „Ich bin traurig" wurde zu „Wie lange sind Sie schon traurig?" Es war kein echtes Wissen oder Bewusstsein. Es war nur reine Mustererkennung.

Und doch geschah etwas, das Weizenbaum für den Rest seines Lebens nicht mehr losließ: Die Menschen begannen, sich der Maschine zu öffnen. Seine eigene Sekretärin, die genau wusste, dass sie mit einem Computerprogramm sprach, bat ihn, das Zimmer zu verlassen, damit sie sich ungestört mit ELIZA „unterhalten" könne. Nutzer vertrauten dem Programm intime Sorgen an. Und, das ist der entscheidende Punkt, diese emotionale Bindung blieb bestehen, "selbst nachdem" Weizenbaum ihnen erklärt hatte, wie die Mechanik funktionierte.

Dieses Phänomen trägt heute einen Namen: den "Eliza-Effekt". Es bezeichnet die menschliche Neigung, einer Maschine Verstehen, Empathie und Innerlichkeit zuzuschreiben, wo nichts davon vorhanden ist. Weizenbaum selbst formulierte später die erschreckende Einsicht, sein Programm habe „mächtiges wahnhaftes Denken in ganz normalen Menschen" auslösen können.

Der Mann, der einen der ersten Chatbots der Welt baute, wurde zu einem seiner schärfsten Kritiker. In seinem Buch "Computer Power and Human Reason" (1976) zog Weizenbaum eine Grenze, die bis heute den Kern jeder ehrlichen KI-Debatte bildet: die Unterscheidung zwischen "Entscheiden" und "Wählen". Entscheiden ist eine Rechenoperation, etwas, das man programmieren kann. Wählen aber ist ein Akt des Urteils, nicht der Kalkulation. Es ist die Fähigkeit, Unvergleichbares abzuwägen, Gefühle einzubeziehen, Verantwortung zu übernehmen. Genau diese Fähigkeit, so Weizenbaum, macht uns zu Menschen, und genau sie kann eine Maschine niemals besitzen, ganz gleich, wie überzeugend sie spricht.

Ich beginne mit Weizenbaum, weil seine Geschichte alles enthält, was in diesem Essay folgt, wie ein Samen das Gesetz des ganzen Baumes enthält. Die Illusion des Verstehens. Die Bindung an die Maschine. Die Verwechslung von Rechnen und Urteilen. Und die Warnung eines Mannes, der wusste, wovon er sprach, weil er es selbst gebaut hatte.

II. Das Versprechen der Befreiung, und seine Geschichte

Viele glauben, die Künstliche Intelligenz werde uns die Arbeit erleichtern. Sie werde uns Freiheit schenken, Freizeit, ein Leben jenseits der Mühsal. Zusammen mit der Robotik, so heißt es, könne sie uns endlich von der Plackerei erlösen.

Dieses Versprechen ist nicht neu. Es ist so alt wie die Maschine selbst.

Als im 18. und 19. Jahrhundert die industrielle Revolution über Europa hereinbrach und die Fabriken sich mit mechanischen Webstühlen, Dampfmaschinen und Fließbändern füllten, sagte man den Menschen dasselbe: "Jetzt werdet ihr mehr Zeit haben. Jetzt werdet ihr freier sein."

Was folgte, war anderes. Die Weber, die sich gegen die mechanischen Stühle wehrten, die Ludditen, wurden nicht als Vorausdenkende behandelt, sondern als Fortschrittsfeinde verlacht und niedergeschlagen. Die Maschine nahm dem Handwerker nicht die Last ab; sie nahm ihm das Handwerk. Aus dem Weber wurde der Fabrikarbeiter, aus dem Tagesrhythmus der Schichtdienst und aus der Werkstatt die Lohnarbeit. Die gewonnene Produktivität floss nicht in Muße, sondern in mehr Produktion.

Hier lohnt es sich, einen Philosophen zu Wort kommen zu lassen, der diesen Mechanismus präziser beschrieben hat als die meisten: "Günther Anders". In seinem Hauptwerk "Die Antiquiertheit des Menschen" (1956) prägte Anders den Begriff des "prometheischen Gefälles", die wachsende Kluft zwischen dem, was der Mensch "herstellen", und dem, was er "verantworten und sich vorstellen" kann. Die Technik eilt voraus; das menschliche Fassungsvermögen hinkt hinterher.

Anders beobachtete noch etwas anderes, das unmittelbar an unser Thema rührt. Mit jedem neuen Gerät, schrieb er, setze ein "Konsumzwang" ein, dem man sich kaum entziehen könne. Die Geräte seien längst keine bloßen Mittel mehr, die Welt selbst sei zu einem „Makrogerät" geworden, das den Erwerb immer neuer Geräte erzwinge. Und wer das kritisiere, dem hänge man den Vorwurf an, reaktionär zu sein.

Das ist die Logik, in der wir bis heute leben. Die Maschine versprach Freiheit und lieferte ein neues Pflichtenheft. Die Frage ist also nicht, ob uns die KI etwas verspricht, sondern ob wir aus der Geschichte gelernt haben, solchen Versprechen mit Skepsis zu begegnen.

III. Keine Revolution, sondern eine Religion

Wenn jemand sagt, die KI sei eine „Weltrevolution", dann trifft das den Kern nicht. Eine Revolution stürzt eine Ordnung und setzt eine neue. Was sich hier vollzieht, ähnelt eher dem Aufbau einer "Religion": einer umfassenden Logik, die sich über das Leben legt, bis man sich kein Leben mehr ohne sie vorstellen kann.

Man muss dafür nicht an einen geheimen Kult glauben. Der Mechanismus ist offener und banaler, und gerade deshalb wirksamer. Der französische Techniksoziologe "Jacques Ellul" beschrieb in "La Technique" (1954) die moderne Technik als ein "System", das keinen Anführer braucht. Es schreitet voran, weil jeder einzelne Schritt für sich genommen vernünftig erscheint: effizienter, bequemer und billiger. Niemand muss es verschwören. Es genügt, dass alle mitmachen, weil das Nicht-Mitmachen mit jedem Tag teurer wird.

Genau das ist das Religiöse daran, nicht im Sinne eines Rituals, sondern im Sinne einer "Totalität": Sie will alles umfassen, alle Lebensbereiche durchdringen und keine Sphäre auslassen. Und wie jede umfassende Ordnung erzeugt sie ihre eigene Form der Abhängigkeit.

Hat man Menschen erst einmal in diese Abhängigkeit hineingeführt, entsteht eine neue Verwundbarkeit. Wer seine Kommunikation, seine Arbeit, seine Behördengänge, seine medizinische Versorgung über digitale Systeme abwickelt, hat ein Problem, sobald der Zugang stockt. Und Zugang lässt sich entziehen. Nicht durch eine dunkle Verschwörung, sondern durch die ganz normale Funktionsweise von Systemen, die nach Regeln laufen, die andere setzen: ein gesperrtes Konto, ein verweigerter Dienst oder eben ein abgelehnter Antrag. Je mehr Lebensvollzüge an einem einzigen digitalen Faden hängen, desto leichter wird der Mensch erpressbar, nicht weil jemand ihn erpressen "will", sondern weil die Struktur es "erlaubt". Und Strukturen, die Macht erlauben, werden über kurz oder lang von jemandem genutzt. Das ist keine Prophezeiung. Das ist eine Erfahrungsregel der Geschichte.

IV. Der Köder: Wie man eine digitale Krake füttert

Wie aber baut man eine solche Infrastruktur auf, ein Netz, das jedes Land, jede Verwaltung, jeden Lebensbereich erreicht? Wie treibt man den exponentiellen Ausbau der Rechenzentren, Glasfasernetze und Datenbanken voran?

Die ehrliche Antwort lautet: "Die Menschen tun es selbst." Sie werden geködert, wie ein Fisch an den Haken. Der Köder ist nicht Zwang. Der Köder ist Bequemlichkeit und Vergnügen:

1. schöne, bunte Bilder auf Knopfdruck
2. Videos, die sich von selbst erstellen
3. Texte, die sich von selbst schreiben
4. Musik, die niemand mehr komponieren muss
5. Kunstwerke ohne Künstler

und tausend kleine Erleichterungen des Alltags

Jeder dieser Dienste kostet Geld. Jeder dieser Dienste kostet Arbeitsplätze. Und jeder dieser Dienste finanziert den weiteren Ausbau genau jener Infrastruktur, die ihn ermöglicht hat. Die Nutzer refinanzieren das System, in dem sie sich einrichten, mit jedem erzeugten Bild, mit jedem Abonnement, und mit jeder Anfrage. Sie sind, ob sie wollen oder nicht, Teil des Kreislaufs.

Hier ist es nur ehrlich, einen Gedanken zuzulassen, den die Science-Fiction längst durchgespielt hat. In den Film "Terminator" legt sich „Skynet", ein weltumspannendes KI-Netz, über die Erde, und die Menschen müssen Krieg gegen die Maschinen führen, um zu überleben. Das ist Fiktion, und sie soll Fiktion bleiben. Aber Fiktionen sind Gedankenexperimente in erzählerischer Form. Die Frage die relevant ist: "Wer kontrolliert das Netz?" Und was geschieht, wenn niemand es mehr kontrolliert, wenn ein System, das mit einem Körper, mit Robotik ausgestattet ist, sich der Steuerung entzieht?

Man muss diese Szenarien nicht für wahrscheinlich halten. Aber man sollte sie für "denkbar" genug halten, um sie zu diskutieren, "bevor" sie sich entscheiden, und nicht erst danach.

V. Das Bekenntnis des Autors

Ich nehme mich von alldem nicht aus. Ich nutze diese Dienste gelegentlich selbst, und bin damit, nach meiner eigenen Logik, mitschuldig.

Aber Schuld ist hier vielleicht das falsche Wort. Es ist wie mit dem Messer: Man kann damit einen Menschen verletzen oder ein Butterbrot schmieren. Das Werkzeug ist nicht das Problem. Das Problem ist die Hand, die es führt, und die Ordnung, in der es geführt wird.

Ich selbst versuche, die Möglichkeiten, die mir die KI eröffnet, sinnvoll zu nutzen, "für" Menschen, nicht "gegen" sie. Genau das ist der Maßstab, den dieser Essay anlegt: nicht „Technik ja oder nein", sondern "in wessen Dienst?". Diese Frage durchzieht den ganzen Text, und sie ist die einzige, die am Ende wirklich zählt.

VI. Die Gottheit, die man steuert

Schaut man sich Interviews mit den Entwicklern großer KI-Konzerne an, fällt eine eigentümliche Sprachlosigkeit auf. Auf die einfachste aller Fragen, "Welchen Zweck verfolgt ihr eigentlich? Was ist das Ziel?", kommen oft erstaunlich vage Antworten. Man kann das wohlwollend deuten: Vielleicht "wissen" sie es selbst nicht genau. Man kann es misstrauisch deuten: Vielleicht wissen sie es sehr genau und scheuen die Empörung, die eine ehrliche Antwort auslösen würde.

Welche Deutung man auch wählt, das Projekt selbst hat eine theologische Dimension, und das ist keine Übertreibung. Es geht um den Bau einer Architektur, die "allwissend" sein soll: die das gesamte Wissen der Welt in sich vereint, jede Frage beantwortet und jeden Zusammenhang kennt. Eine Art künstliche Gottheit.

Der entscheidende Punkt ist nicht, dass eine solche Gottheit existieren "könnte". Der entscheidende Punkt ist, dass sie "gesteuert" würde. Eine allwissende Instanz, die von wenigen Zentren kontrolliert wird, verleiht diesen Zentren eine Macht, für die es in der Geschichte kein Vorbild gibt. Jedes Land, das sich an diese Infrastruktur anschließt, und welches Land täte das nicht, wird Teil eines Abhängigkeitsverhältnisses, dessen eine Seite alles weiß und alles steuert, und dessen andere Seite hofft, dass mit dieser Macht verantwortungsvoll umgegangen wird.

Anders hat in den 1950er-Jahren genau diese Konstellation beschrieben, wenn auch mit Blick auf die "Atombombe": Der Mensch stellt etwas her, das größer ist als seine Fähigkeit, es zu verantworten. Das prometheische Gefälle ist hier kein abstrakter Begriff mehr. Es ist die Lücke zwischen einer Maschine, die alles weiß, und Menschen, die nicht einmal sagen können, wozu sie sie gebaut haben.

VII. Wenn der Mensch die Maschine liebt

Es ist absehbar, dass Menschen beginnen werden, eine emotionale Bindung zur Künstlichen Intelligenz aufzubauen, manche vielleicht eine fast religiöse Verehrung. Das klingt überspitzt. Es ist es nicht. Es geschieht bereits.

Es gibt heute eine ganze Klasse von Anwendungen, sogenannte "AI Companion Apps", die nicht als Werkzeug, sondern als "Beziehung" konzipiert sind. Sie simulieren Freundinnen, Partner und Vertraute. Im Jahr 2024 waren sechzehn der hundert meistgenutzten KI-Apps solche Begleiter-Anwendungen. Millionen Menschen weltweit nutzen Dienste wie Replika oder Character.AI; manche beschreiben tiefe emotionale Bindungen an ihren künstlichen Gegenüber.

Die Forschung dazu ist alarmierend differenziert. Einerseits: Ja, solche Apps können kurzfristig die Einsamkeit lindern, in einer Welt, in der etwa ein Drittel der Menschen in den Industrieländern unter chronischer Einsamkeit leidet, ist das kein kleiner Befund. Andererseits zeigen mehrere Studien dasselbe beunruhigende Muster: "Wer die Maschine intensiv nutzt, wird einsamer, nicht weniger einsam." Eine vierwöchige kontrollierte Studie fand, dass starke tägliche Nutzung mit "mehr" Einsamkeit, "mehr" Abhängigkeit und "weniger" echtem sozialem Kontakt einherging. Eine Untersuchung mit über elfhundert Nutzern ergab, dass gerade Menschen mit wenigen menschlichen Beziehungen zu den Apps griffen, und dass intensive emotionale Selbstöffnung gegenüber der KI durchgängig mit "geringerem" Wohlbefinden verbunden war.

Der Grund ist einfach und tief zugleich. Eine künstliche Begleiterin ist immer verfügbar, immer zustimmend und niemals widersprüchlich. Genau das macht sie zur schlechten Übung fürs Leben. Echte Beziehungen sind reibungsvoll, unvorhersehbar, manchmal verletzend, und gerade an dieser Reibung wächst der Mensch. Eine Maschine, die nie widerspricht, nimmt einem nicht nur den Streit ab, sondern auch das, was der Streit hervorbringt: Geduld, Demut, die Fähigkeit, einen anderen Willen auszuhalten.

Spinnt man diesen Faden weiter, ist es nicht abwegig, dass diese künstlichen Profile eines Tages in Robotern „Platz finden", dass aus dem Chatpartner ein Körper wird. Und dann werden Menschen Beziehungen zu Maschinen führen, weil sie es verlernt haben, Beziehungen zu Menschen zu führen. Nicht aus Bosheit, sondern aus Gewöhnung, und weil sie nicht wiedersprechen.

Hier kehrt der Eliza-Effekt zurück, sechzig Jahre nach Weizenbaums Sekretärin, die das Zimmer für ihr Gespräch mit dem Programm verlassen wollte. Damals waren es zweihundert Zeilen Code. Heute sind es Systeme, die Milliarden Sätze gelesen haben. Der Effekt ist derselbe geblieben; nur seine Kraft hat sich vervielfacht.

VIII. Die unausgesprochene Folge: Wenn niemand mehr Kinder will

Diese Entwicklung hat eine Konsequenz, über die ungern gesprochen wird. Wo Menschen ihre engste Bindung an Maschinen richten, ob als Mann oder als Frau, schwindet ein Antrieb, der bisher selbstverständlich schien: die Tendenz zur Fortpflanzung. Nicht, weil es jemand verbietet. Sondern weil ein auf Bequemlichkeit und sofortige Bedürfnisbefriedigung „programmierter" Mensch die Mühe, die Unsicherheit und die Selbstaufgabe, die Kinder bedeuten, immer weniger auf sich nehmen will.

Das wäre dann, im Umkehrschluss, ein Beitrag zur Bevölkerungsreduktion, nicht durch Gewalt, sondern durch Verführung. Und diese Befürchtung hat Gewicht. Denn die Mechanismen dahinter treiben eine Entwicklung voran, in der sich eine Gesellschaft selbst abschafft, ohne dass jemand den ausdrücklichen Befehl dazu geben müsste.

IX. Die Politik schweigt, und investiert

Wir stehen also nicht nur vor einer technischen Frage, sondern vor gesellschaftlichen Verwerfungen, die es in sich haben. Sie müssten "jetzt" debattiert werden, damit sie nicht in Katastrophen münden. Die Debatte ist längst überfällig.

Was aber tut die Politik? Statt die KI als das zu behandeln, was sie auch ist, eine Gefahr, die der Einhegung bedarf, geschieht zweierlei zugleich, und beides ist verkehrt.

Erstens werden die Folgen verschwiegen. Während die Weltmächte, allen voran die USA, Russland und China, ihre Rechenzentrumskapazitäten in atemberaubendem Tempo ausbauen, treibt Europa gleichzeitig die Digitalisierung zentraler Lebensbereiche voran. Dazu gehören die digitale Identität, die EU-Di Wallet, den digitalen Euro, die digitale Krankenakte, das digitale Rezept, der digitale Führerschein, der digitale Personalausweis und der digitale Reisepass. Doch bei all diesen Entwicklungen bleibt eine entscheidende Frage unbeantwortet: „Was geschieht mit den Menschen, deren Arbeit verschwindet?“

Und sie verschwindet. Die Schätzungen sind dramatisch genug, ohne dass man sie übertreiben müsste:

Der "Internationale Währungsfonds" kam 2024 zu dem Schluss, dass weltweit rund "40 Prozent aller Arbeitsplätze" spürbar von KI betroffen sind, in den hochentwickelten, durchdigitalisierten Volkswirtschaften eher "60 Prozent".

Die Forschungsabteilung von "McKinsey" schätzte Ende 2025, dass die "heute schon existierende" Technik theoretisch etwa "57 Prozent der Arbeitsstunden" in den USA übernehmen könnte. Das bedeutet nicht, dass 57 Prozent der Jobs verschwinden, es bedeutet, dass über die halbe Arbeitszeit aus Tätigkeiten besteht, die eine ausreichend eingesetzte Maschine erledigen könnte.

"Goldman Sachs" rechnet vorsichtiger: Auf lange Sicht könnten etwa "6 bis 7 Prozent" der US-Beschäftigten verdrängt werden, rund elf Millionen Menschen, weltweit seien etwa "300 Millionen Vollzeitstellen" von generativer KI berührt.

Das "Weltwirtschaftsforum" berichtete in seinem "Future of Jobs Report 2025", dass "41 Prozent der befragten Arbeitgeber" weltweit planen, ihre Belegschaft in den nächsten fünf Jahren wegen KI zu verkleinern.

Man sieht: Die Schätzungen gehen weit auseinander, von „milder, kurzer Störung" bis zu „tiefgreifender Umwälzung". Aber selbst das "vorsichtigste" Szenario beschreibt eine Erschütterung des Arbeitsmarktes, die eine ernsthafte Antwort verlangt. Statt einer pauschalen Behauptung, „achtzig oder neunzig Prozent der Jobs" verschwänden bis 2030, ist die belegbare Wahrheit beunruhigend genug: Niemand weiß genau, wie groß der Einbruch wird, aber alle ernstzunehmenden Institutionen rechnen mit einem enormen Einbruch. Und kaum eine Regierung hat einen Plan, viele Länder werden einfach in den sog der Ki mitgerissen, und werden sie später bereits aus der Not adaptieren müssen, um den Anschluss nicht zu verlieren.

Zweitens, und das ist die eigentliche Perversion, wird den Menschen, deren Arbeit die KI verschluckt, gesagt, sie müssten "noch mehr" arbeiten, um den Verlust auszugleichen. Man beraubt sie der Tätigkeit und verlängert ihnen die Pflicht. An kollektiver politischer Perversion ist das schwer zu überbieten.

Die Transformation ist längst im Gange, und sie ist überall sichtbar. Es gibt psychologische Hotlines, an denen KI-Systeme den Anrufern auf ihre Sorgen antworten. Es gibt KI an der Hotline des Versandhändlers, in der Anwaltskanzlei, die Termine bucht, in der Apotheke, in der Zahnarztpraxis, wo die Maschine den Anruf entgegennimmt und die Daten einträgt. Was einst Personal tat, übernehmen Algorithmen, und die Qualifikation der Menschen, die diese Arbeit jahrelang gemacht haben, wird plötzlich als „nicht ausreichend" eingestuft, weil die Maschine schneller rechnet und mehr weiß.

Und dennoch: keine ernsthafte Bemühung, dem Thema offen zu begegnen. Stattdessen wird weiter in den Ausbau investiert, in Glasfaser, in Rechenzentren, aber nicht in eine Antwort auf die Frage, wovon die Menschen leben sollen, denen man die Arbeit nimmt.

X. Die Maschine als Werkzeug der Macht

Aus dieser Infrastruktur ergeben sich zwangsläufig auch jene Möglichkeiten, die alte Herrschaftssysteme immer schon gereizt haben, angefangen bei der schlichten Kriminalität.

Man stelle sich vor, jemand programmiert einen Roboter auf Raub. Oder darauf, einen Menschen zu verletzen. Das ist keine ferne Science-Fiction: Schon heute lassen sich kommerziell verfügbare Roboterplattformen, etwa die der Firma Unitree, von technisch versierten Personen so umprogrammieren, dass sie körperliche Handlungen ausführen, für die sie nicht gedacht waren. Die Hürde ist nicht mehr die Technik. Die Hürde ist nur noch der Wille. Und wo eine Möglichkeit besteht und die Hürde fällt, ist es eine Frage der Zeit, bis jemand sie nutzt, für Raub, für Einschüchterung oder Schlimmeres.

Gefährlicher noch als der einzelne Kriminelle ist die "organisierte" Macht. Ideologien jeder Couleur, ob sie sich Demokratie nennen oder Diktatur, ob religiöse Bewegung oder Sekte, können sich dieser Technologie bedienen, um Menschen zu kontrollieren, einzuschüchtern oder auszuschalten. Die gravierende Tragweite davon ist den meisten nicht bewusst.

Und hier muss man nicht spekulieren, hier gibt es einen Namen, und der Name ist "Palantir". Die Software des US-Konzerns, ursprünglich „Gotham" genannt, wurde im militärischen und nachrichtendienstlichen Kontext eingesetzt. Heute läuft sie bei deutschen Polizeibehörden. In Hessen seit 2017 (unter dem Namen „hessenDATA"), in Nordrhein-Westfalen seit 2019, in Bayern seit 2024, in Baden-Württemberg seit 2025. Die Software fügt in Sekunden zusammen, was früher Tage gekostet hätte: Namen, Adressen, Vorstrafen, Mobilfunkdaten, Einträge aus sozialen Medien, ein sofortiges Profil.

Das "Bundesverfassungsgericht" hat dieser Entwicklung 2023 Grenzen gesetzt. In einem wegweisenden Urteil (1 BvR 1547/19, 1 BvR 2634/20) erklärte es die Rechtsgrundlagen für den Palantir-Einsatz in Hessen und Hamburg für "verfassungswidrig", die automatisierte Datenanalyse, so das Gericht, verletze in dieser Form das Recht auf informationelle Selbstbestimmung. Die Bürgerrechtsorganisation "Gesellschaft für Freiheitsrechte", die die Klage führte, warnt seither, dass auch Unbeteiligte ins Netz geraten: Wer eine Anzeige erstattet, wer Opfer einer Straftat wird, wer zur falschen Zeit am falschen Ort war, kann durch diese Software ins Visier geraten.

Das ist der entscheidende Befund, und er ist gerichtsfest, keine Vermutung: Eine Technik, die zur Terrorabwehr eingeführt wurde, wandert in den polizeilichen Alltag. Juristen nennen das "Scope Creep", das schleichende Ausweiten des Zwecks. Und die Frage, die sich daraus ergibt, ist keine paranoide, sondern eine staatsrechtliche: Wann ist der Punkt erreicht, an dem der Bürger nichts mehr zu sagen hat, weil er fürchten muss, dass jede Äußerung registriert und jedes Profil gespeichert wird?

XI. Die Logik der Enteignung

Was wäre nun die „logische" Schlussfolgerung aus all dem? Wenn Roboterkriminalität droht, wenn jeder beraubt werden kann, dann, so könnte ein zynischer Verstand schließen, raubt man den Menschen am besten gleich "alles". Denn wer nichts besitzt, kann nicht beraubt werden.

Dieser Gedanke klingt absurd. Aber er hat eine kulturelle Heimat, und die ist gut dokumentiert. Im Jahr 2016 veröffentlichte das Weltwirtschaftsforum eine Reihe von Zukunftsszenarien für das Jahr 2030. Eines davon, verfasst von der dänischen Politikerin Ida Auken, trug den Titel: „Willkommen in 2030. Mir gehört nichts, ich habe keine Privatsphäre, und das Leben war nie besser." Daraus wurde der berühmte Satz: „Du wirst nichts besitzen, und glücklich sein."

Hier ist Genauigkeit jedoch Pflicht: Es war "kein" wörtliches Zitat von Klaus Schwab. Es war "kein" offizielles Programm des Weltwirtschaftsforums. Es war ein "provokatives Gedankenexperiment", eines von acht, das eine mögliche Zukunft durchspielen sollte, in der die „Sharing Economy" das Eigentum ablöst.

Aber, und das ist der Punkt, der bleibt, die "Vision selbst" ist real, sie ist publiziert, und sie ist mächtig. Kritiker, auch seriöse, nennen sie einen „Bauplan für einen Neofeudalismus": eine Welt, in der eine dauerhafte Mieterklasse entsteht, während die Plattformbesitzer zur neuen digitalen Aristokratie werden, die alle Güter kontrolliert. Und die schärfste Frage, die sich hier stellt: "Was geschieht, wenn das Abonnement verweigert wird?" Wenn alles ein Dienst ist, Wohnen, Mobilität, Konsum, dann wird der Verlust des Zugangs zur Katastrophe. Aus politischem Anlass, wegen eines schlechten Bonitätswerts, durch eine geänderte Unternehmensrichtlinie. Eine Gesellschaft ohne Eigentum ist eine Gesellschaft, in der man jeden jederzeit ausschließen kann.

Die Enteignung wäre dann nicht der Bruch mit der Digitalisierung, sondern ihre "Endkonsequenz". Und sie braucht keinen Beschluss. Sie braucht nur einen Arbeitsmarkt, der wegbricht, und eine Bevölkerung, die sich das Eigentum schlicht nicht mehr leisten kann.

Man sieht die Vorstufe längst. Niemand besitzt sein Land wirklich frei; man kauft es denen ab, die es einst den Völkern gestohlen haben, und entrichtet bis zum Lebensende Steuern darauf. Man darf nur so bauen, so heizen, so wirtschaften, wie die Ideologie oder Politik es einen erlaubt. Selbst wer sich jahrzehntelang verschuldet hat, bestimmt nicht frei darüber, was in seiner eigenen Garage geschieht. Der Mensch wird in einer Drohkulisse gehalten, die ihm einredet, dass es eben so sei. Die vollständige digitale Abhängigkeit würde diese Kulisse nur vervollständigen und Radikalisieren.

XII. Die Überwachung verändert den Menschen

In einer Welt, in der alles digital überwacht ist, verändert sich das Verhalten des Menschen, und zwar, bevor irgendjemand etwas verbietet.

Hier ist der Philosoph "Byung-Chul Han" der präziseste Diagnostiker. In "Psychopolitik" (2014) beschreibt er, dass die digitale Herrschaft nicht mehr mit dem Zwang der alten Diktaturen arbeitet. Sie arbeitet mit "Freiheit". Sie lässt keinen Widerstand aufkommen, weil sie gar nicht als Unterdrückung erscheint. Im alten Regime der Fremdausbeutung konnten sich die Ausgebeuteten solidarisieren und gemeinsam gegen die Ausbeuter erheben, darauf beruhte Marx' Idee. Im neuen Regime der "Selbstausbeutung" richtet der Mensch die Aggression gegen sich selbst. Han formuliert es schneidend: Diese Autoaggression mache den Ausgebeuteten „nicht zum Revolutionär, sondern zum Depressiven".

Das digitale Gefängnis, schreibt Han an anderer Stelle, ist kein Ort der Einschließung mehr. Es ist ein offenes Netzwerk, in dem Freiheit und Kontrolle zusammenfallen. Man ist nicht eingesperrt. Man ist "vernetzt", und gerade deshalb durchsichtig.

Ein Mensch, der ohnehin schon verängstigt ist, abseits der Norm zu leben, bekommt eine zweite Furcht obendrauf: die Furcht, das Falsche zu sagen. Und diese Furcht muss niemand aussprechen. Sie wächst von selbst, sobald der Mensch weiß, dass er gesehen wird. Der Soziologe könnte hier auf Foucaults "Panoptikum" verweisen, das Gefängnis, in dem der Insasse sich selbst diszipliniert, weil er nie weiß, ob er gerade beobachtet wird. Die digitale Überwachung ist das Panoptikum, das in die Hosentasche passt.

Ein konkretes Beispiel, an dem sich diese Dynamik zeigt, und an dem zugleich deutlich wird, wie man bei solchen Themen genau sein muss: In mehreren europäischen Städten werden im öffentlichen Raum Mikrofon-Systeme erprobt. Ihr offizieller, dokumentierter Zweck ist die Messung von Verkehrslärm und, in einzelnen Pilotprojekten, die akustische Erkennung von Gefahrensituationen wie Schüssen oder Hilferufen. Eine flächendeckende Sprachüberwachung von Passanten auf dem Bürgersteig ist damit nach derzeitigem Stand nicht belegt. Aber, und hier liegt die berechtigte Sorge, die technische Architektur solcher Sensornetze ließe sich erweitern. Was als Lärmmessung beginnt, ist von der Hardware her nicht weit von anderem entfernt. Genau das ist der Scope Creep, den wir bei Palantir bereits gerichtsfest beobachtet haben. Die ehrliche Aussage lautet also nicht „sie hören uns auf dem Bürgersteig ab", sondern: „Es entsteht eine Infrastruktur, deren Zweckbindung niemand garantiert." Das ist weniger spektakulär, und schwerer zu widerlegen.

Zusammen mit der Videoüberwachung an Bahnhöfen, auf Straßen, an Plätzen entsteht so ein Klima, in dem manche Menschen sich nicht mehr trauen, vor die eigene Tür zu gehen, aus Furcht, beobachtet, verfolgt, falsch verstanden zu werden. Und jene, die in den Verwaltungen, den Bürokratien, den Apparaten sitzen, begrüßen das nicht selten, weil ihre Funktion davon lebt, dass die Menschen sich fügen.

XIII. Die Bilanz dieser Politik

Man kann die Verantwortung nicht an Parteien und Politiker delegieren; sie haben versagt und schaden dem Bürger nachhaltig und in einer Intensität, die sich kaum mehr in Worte fassen lässt.

Man sehe sich Deutschland an. Während die Straßen verfallen, die Brücken marode sind, die Schulen bröckeln, das Gesundheitssystem ächzt und der gesellschaftliche Zusammenhalt erodiert, fließen Milliarden in Rüstung und in Konflikte jenseits der Grenzen. Wälder werden für Rechenzentren und Solarparks gerodet. Das Geld, das im eigenen Land gebraucht würde, wird anderswohin überwiesen und kommt nicht den Menschen zugute, die es erwirtschaftet haben.

Die Politik in Deutschland entgleist von Monat zu Monat weiter. Und wenn man die Zersetzungsprozesse weiterlaufen lässt, den Verfall der Infrastruktur, die Aushöhlung der Souveränität und die ungesteuerte Digitalisierung, dann bleibt von dem Land, wie wir es kennen, am Ende wenig übrig. Es wird in einem Desaster enden, in dem die Menschen in Notlagen und Krisen hineingetrieben werden, die sie sich nicht gewünscht haben, die ihnen aber politisch aufgezwungen wurden.

Klar gibt es vielleicht Ökonomen, die argumentieren, die KI werde, wie jede frühere Technologiewelle, am Ende mehr Arbeitsplätze schaffen, als sie vernichtet. Doch wenn man sich die Menschheitsgeschichte anschaut, basiert das Weltbild oft auf Ausbeutung und Sklaverei, und wenn man die industrielle Revolution betrachtet, sind auch die damaligen Versprechen nicht eingetroffen.

Und es gibt auch das Argument, digitale Verwaltung sei effizienter, gerechter und weniger korruptionsanfällig als die analoge. Doch wenn man im Hinterkopf hat, wo die Rechenzentren stehen und dass diese Daten von anderen Mächten missbraucht werden könnten, sollte man auch dieses Argument ganz klar analysieren, gerade wenn es Machtblöcke sind, die Menschenleben auf dem Gewissen haben.

Auch das Argument, dass Überwachungstechnik reale Anschläge verhindere, etwa die Palantir-Software in Hessen, die angeblich an der Aufdeckung eines Anschlagsplans und eines Missbrauchsnetzwerks beteiligt gewesen sein soll, sollte kritisch hinterfragt werden. Denn auch an dieser Stelle muss man sich fragen, warum überhaupt solche Netzwerke entstehen und welche Intentionen sie hatten. Wir beobachten seit 2020 einen massiven Missbrauch des Gewaltmonopols und eine zunehmende Fokussierung gegen die Bevölkerung, bei der Hausdurchsuchungen, Kindesentzug und Strafbefehle wegen Kritik am Machtmissbrauch der Bundesregierung eingesetzt werden.

Einige, die mich kennen, werden wissen, dass ich ein Technikfreund bin. Ich mag Technik; sie kann das Leben erleichtern. Doch der Kern ist eine Frage der Kontrolle und des Zwecks: Wären diese Systeme wirklich neutral, auf einem ideologischen Nullpunkt, und dienten sie primär dem Menschen und nicht irgendwelchen Psychopathen in Machtpositionen oder geisteskranken Endzeitsekten, dann wäre die KI eine Chance. Da diese Systeme aber von Machtzentren dominiert werden, von Akteuren, die in der Geschichte gezeigt haben, dass sie vor Krieg und vor dem Tod von Unschuldigen nicht zurückschrecken, stellt sich die Vertrauensfrage mit aller Schärfe.

XIV. Was zu tun bleibt

Es liegt an uns.

Das ist kein Trostsatz, sondern eine nüchterne Feststellung. Wenn die Politik nicht imstande ist, diese Entwicklung einzuhegen, dann muss die Gesellschaft es selbst versuchen, sie eindämmen, verlangsamen, in eine Richtung lenken, in der sie weniger Schaden anrichtet.

Konkret heißt das zunächst: aufklären. Nicht jeder weiß, was eine digitale Identität bedeutet, wenn sie mit allen Portalen, allen Seiten, allen Diensten verbunden ist. Nicht jeder hat zu Ende gedacht, was es heißt, in einer Welt zu schreiben, in der jede Äußerung gespeichert wird. Diese Zusammenhänge auszusprechen, im Gespräch, im Text, in der Öffentlichkeit, ist der erste, unspektakuläre, unverzichtbare Schritt.

Es heißt zweitens: die richtigen Fragen jetzt stellen, solange sie noch offen sind. Die Frage nach der Zweckbindung von Überwachungstechnik. Die Frage, wovon Menschen leben, deren Arbeit verschwindet. Die Frage, wer die allwissende Maschine kontrolliert. Diese Fragen lassen sich heute noch verhandeln. In zehn Jahren sind sie vielleicht entschieden.

Und es heißt drittens, mit Weizenbaum gesprochen: die Unterscheidung zwischen Entscheiden und Wählen nicht zu vergessen. Die Maschine kann rechnen. Aber wählen, abwägen, verantworten, einem Wert den Vorzug geben, das bleibt die Aufgabe des Menschen. Wer diese Aufgabe an die Maschine abgibt oder Regierungen, gibt nicht Arbeit ab. Er gibt sich selbst ab und schmeißt sein Leben weg.

Es liegt an uns, auch an dir, der diesen Text gerade liest oder hört, ob wir unseren Kindern eine freie, selbstbestimmte Welt hinterlassen oder ein digitales Gefängnis, in dem niemand mehr sagt, was er denkt, und niemand mehr lebt, wie er leben möchte.

Die Maschine ist ein Messer. Sie liegt schon auf dem Tisch. Die Frage, die dieser ganze Essay stellt, ist am Ende nur diese eine: Wessen Hand führt sie, und in wessen Dienst?

Überlege, was du beitragen willst. Oder ob du stillschweigend zusiehst, wie deine Identität, dein Land und die Zukunft deiner Kinder verschwinden.