Der berechnete Mensch
Hinweis: Die Bilder sind aus den archivierten Hintergrund-Texten vor 2022 automatisch entfernt worden.
Kai Schlieter hat ein wichtiges Buch über die bedrohliche Seite Künstlicher Intelligenz geschrieben
Auch im vergangenen Jahr gehörten Stofftiere und Puppen zu den beliebtesten Spielzeugen, die Eltern ihrem Nachwuchs unter den Weihnachtsbaum legten. Erfreulich, dass in einer rasant sich verändernden Welt doch etwas gleich bleibt, mag manch einer denken. Doch Vorsicht! Die Schattenseiten der modernen Informationstechnologien machen auch vor der vermeintlich noch heilen Kinderwelt nicht halt. So hat die Firma Mattel den Prototyp einer Barbie entwickelt, „die nicht nur schön blond ist, sondern auch tolle Ohren hat und Gespräche im Kinderzimmer aufzeichnet“.
Und die im Jahr 2015 mit dem Big Brother Award ausgezeichnete Puppe ist beileibe nicht die einzige Innovation im weiten Feld dieses bislang vernachlässigten Bereiches der Alltagsspionage. „Ein Google-Hase, für den der Konzern das Patent hält, hat neben Mikrofonen in den Ohren zusätzlich noch Kameraaugen, die optische Daten bei der Interaktion erheben. Auch ein Teddy ist konzipiert. Die Spielzeuge sollen mit Gesichtserkennungs- und Spracherkennungssoftware ausgestattet werden.“
Diese Beispiele für die überwachungstechnologische Durchdringung noch des letzten Winkels unseres Alltagslebens stammen aus Kai Schlieters ebenso informativem wie spannendem Buch Die Herrschaftsformel. Wie Künstliche Intelligenz uns berechnet, steuert und unser Leben verändert. Die „Abhör-Barbie“ und der „Google-Hase“ sind für den taz-Redakteur nur zwei Beispiele für eine die Grundlagen der Demokratie bedrohende Entwicklung: „Militärische Technologien wie Überwachungskameras oder Drohnen sickern immer tiefer in zivile Lebensbereiche ein und erobern unsere Welt.“ Die Hauptthese des Journalisten lautet: Die Überwachungs- und Manipulationsfertigkeiten des Internet sind keineswegs nur eine unerfreuliche Nebenwirkung einer ansonsten vor allem segensreichen Technologie, sondern deren „Kernelement.“
Schlieter leitet die zunehmende informationstechnologische Deformierung unserer Gesellschaft historisch her. Dreh- und Angelpunkt seiner anschaulichen Darstellung ist das von dem Mathematiker Norbert Wiener und seinen Mitstreitern im Zweiten Weltkrieg entdeckte kybernetische Prinzip von Rückkopplung, Information und Steuerung. Schlieter zeichnet nach, wie die seitdem entwickelten Berechnungsverfahren immer neue Möglichkeiten schufen, das menschliche Verhalten zu prognostizieren und zu beeinflussen. Ging es zunächst um die Entwicklung einer intelligenten Flugabwehr gegen die deutschen Jagdflieger, dient dasselbe Prinzip der Selbststeuerung von Informationsprozessen heute der Platzierung maßgeschneiderter Werbung durch intelligente Algorithmen bei Google oder Facebook.
Von Anfang an steht die Entwicklung Künstlicher Intelligenz in engem Zusammenhang mit militärischer Forschung. Im Zuge der Forschung an einer Atombombe und später an der Wasserstoffbombe arbeiteten Tausende internationaler Wissenschaftler verschiedener Disziplinen an einer „Universalmaschine, die prinzipiell jede beschreibbare Aufgabe lösen kann: dem digitalen Computer“. Noch die Entwicklung der Suchmaschine von Google wurde laut Schlieter von amerikanischen Geheimdiensten gesponsert.
Die lückenlose Überwachung, genaue Vorhersage und möglichst subtile Steuerung menschlichen Verhaltens gehört seit jeher zu den Hauptinteressen sowohl staatlicher Sicherheitsorgane als auch kapitalistischer Unternehmen. Die Werbewirtschaft arbeitet mit denselben verhaltenspsychologischen Manipulationstechniken wie die Wahlkampfteams amerikanischer Spitzenpolitiker oder die „vorbeugende Polizeiarbeit“. Und dem zugrunde liegen die gleichen kybernetischen Prinzipien „der Selbststeuerung von Prozessen durch Informationen, Prognosen und Rückkopplungen von Informationen zur erneuten verbesserten Selbststeuerung“. Durch die Auswertung unvorstellbar großer Datenmengen mithilfe lernender und uns immer besser verstehender Maschinen hat die High-Tech-Überwachung eine die Demokratie gefährdende Dimension erreicht. „Mit den Daten, die unser Leben in Mathematik übersetzen, wird es auch möglich, soziale Phänomene und Gesetzmäßigkeiten wie in der experimentellen Physik zu erkunden. Offenbar existierende Gesetze werden durch diese Daten nachweisbar. Wir haben ein Zeitalter betreten, in dem wir unsere natürliche und geschaffene Umwelt in Echtzeit mathematisch auswerten und analysieren können. Nicht nur die Welt um uns, sondern auch die Welt in uns und unsere sozialen Beziehungen sind experimentell greifbar geworden. Und je mehr Daten über uns zur Verfügung stehen, desto mehr Muster unseres Verhaltens lassen sich identifizieren, auswerten und schließlich wie im Experiment auch vorhersagen.“
Die computergestützte Steuerung der Wirtschaft nach kybernetischen Prinzipien wurde Anfang der 1970er Jahre in Salvadore Allendes sozialistischem Chile erprobt. Das mithilfe von Telefaxgeräten gesteuerte System der Wirtschaftslenkung scheiterte laut Schlieter noch daran, „den Fluss der Datensätze nicht in Echtzeit bewältigen zu können“. Realisiert wurde die Totalüberwachung einer gesamten Gesellschaft erst in den vergangenen Jahren in Singapur. Dort gibt es keinen Datenschutz. Der elektronische Datenverkehr, die Telefonate der Bürger werden ganz legal überwacht, die Gesundheitsdaten ausgewertet. Singapur ist weit entfernt. Doch Grund zur Entwarnung ist das nicht. Denn durch den bloßen Gebrauch sogenannter Sozialer Medien wie Facebook werden die Internetnutzer auch hierzulande zunehmend „maschinenlesbar“. Was also tun? Schlieters Überlegungen stehen erst am Anfang. Seine Vorschläge reichen vom Verbot des Verkaufs persönlicher Daten an Dritte über die sensorfreie Gestaltung der Privatsphäre bis hin zu internationalen Algorithmenabkommen, die ausländischen Organisationen den Zugriff auf persönliche Daten untersagen.
Abo oder Einzelheft hier bestellen
Seit Juli 2023 erscheint das Nachrichtenmagazin Hintergrund nach dreijähriger Pause wieder als Print-Ausgabe. Und zwar alle zwei Monate.
Diese Rezension erschien zuerst im Hintergrund-Magazin 1,2016.
Kai Schlieter: Die Herrschaftsformel. Wie Künstliche Intelligenz uns berechnet, steuert und unser Leben verändert. Westend Verlag, Frankfurt am Main 2015, 272 Seiten, 19,99 Euro