Künstliche Intelligenz als Teil der Überwachungsbürokratie
Unter Einsatz Künstlicher Intelligenz (KI) schalten die sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen komplizenhaft mit der EU-Kommission die Meinungs- und Informationsfreiheit ab.
Foto: geralt Quelle: pixabay LizenzUnter Einsatz Künstlicher Intelligenz (KI) schalten die sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen komplizenhaft mit der EU-Kommission die Meinungs- und Informationsfreiheit ab.
Akteure der von dem »Digital Services Act« (DSA) der Europäischen Union (EU) zur Verfügung gestellten Kommunikationsüberwachungsbürokratie sind die EU-Kommission, das Europäische Gremium für digitale Dienste (EGdD), der auf nationaler Ebene tätige Koordinator für digitale Dienste (KdD), die sehr großen Online-Plattformen und Online-Suchmaschinen wie X, YouTube, TikTok, Facebook und Google sowie letztlich die sogenannten vertrauenswürdigen Hinweisgeber (»Trusted Flagger«).
Zwischen diesen Akteuren »errichtet und pflegt« die EU-Kommission »ein zuverlässiges und sicheres Informationsaustauschsystem«. (Art. 85 DSA) Über Sinn und Zweck dieses Systems heißt es in Nr. 148 der Erwägungsgründe 1 zum DSA:
Die wirksame Durchsetzung und Überwachung dieser Verordnung erfordert einen nahtlosen Informationsaustausch in Echtzeit zwischen den Koordinatoren für digitale Dienste, dem Gremium und der Kommission auf der Grundlage der in dieser Verordnung festgelegten Informationsflüsse und Verfahren.
Sämtliche relevanten Akteure sind damit mit den zur Verfügung stehenden Mitteln in die Gefährdungsanalyse einbezogen.
Kontrollrechte der EU-Kommission und Berichtspflichten ihr gegenüber
Bestimmend in dem Überwachungsgeflecht ist die EU-Kommission. Sie bestimmt, ob in einer Angelegenheit der KdD oder das EGdD tätig wird. Beide Gremien erbringen ihre Leistungen »im Einvernehmen« mit der Kommission oder auf deren Weisung. Den Vorsitz des EGdD führt die Kommission, die auch die Tagesordnungen vorgibt. (Art. 62 DSA) Die Geschäftsordnung des EGdD bedarf der Zustimmung der Kommission usw. (Art. 62 Abs. 7 DSA)
Der KdD ist nur »für alle Fragen im Zusammenhang mit der Überwachung und Durchsetzung dieser Verordnung in dem jeweiligen Mitgliedstaat zuständig« (Art. 49 DSA). Er hat weitgehende innerstaatliche Untersuchungsbefugnisse. (Art. 40; 51 Abs.1 lit. b DSA) Sanktionieren kann der KdD gemäß Art. 51 Abs. 2 DSA nur »Anbieter von Vermittlungsdiensten, die in die Zuständigkeit ihres Mitgliedstaats fallen«.
Gegen die sehr großen Online-Plattformen und Online-Suchmaschinen – als solche gelten sie, wenn sie mindestens 45 Millionen aktive Nutzer haben (Art. 33 Abs. 1 DSA) – vorzugehen, ist der EU-Kommission vorbehalten (Art. 66 DSA). In Bezug auf die großen Plattformen sind dem KdD, dem EGdD und den Trusted Flaggers nach dem DSA im Wesentlichen Helfer-/Zuträgerfunktionen zugewiesen.
In einem existenziellen Spannungsverhältnis stehen sich danach allein die EU-Kommission und die großen Online- Plattformen sowie Online-Suchmaschinen gegenüber. Die Kontrollrechte der Kommission gegenüber den vorgenannten Plattformen und deren Pflichten sind zahlreich. Art. 42 DSA enthält zahlreiche Berichtspflichten der Anbieter, besonders in Krisensituationen (Art. 48 DSA), Pflichten, der Kommission Zugang zu den Daten zu gewähren (Art. 40 DSA), jährliche Betriebsprüfungen zuzulassen (Art. 37 DSA) und eine eigene Compliance-Abteilung aufzubauen mit einem »unabhängigen« Compliance-Beauftragten (Art. 41 DSA). In einem Krisenfall hat die Kommission nach Art. 36; 35 Abs. 1; 48 Abs. 2 DSA weitgehende Eingriffsrechte. Den Kriterien für die Ausrufung des Krisenfalles fehlt die innere Begrenzung. Deshalb klingt es wie eine Selbstermächtigung:
Für die Zwecke dieses Artikels gilt eine Krise als eingetreten, wenn außergewöhnliche Umstände eintreten, die zu einer schwerwiegenden Bedrohung der öffentlichen Sicherheit oder der öffentlichen Gesundheit in der Union oder in wesentlichen Teilen der Union führen können.
Der Erfüllung der sich aus dem DSA ergebenden Pflichten wird Nachdruck verliehen durch, wie es in Art. 52 DSA heißt, »wirksame« und »abschreckende« Geldbußen beziehungsweise Zwangsgelder. Nach Maßgabe der Art und Schwere des Verstoßes kann die Kommission Geldbußen gegen eine große Online-Plattform und eine große Online-Suchmaschine von bis zum Höchstbetrag von sechs Prozent ihres im vorangegangenen Geschäftsjahr weltweit erzielten Gesamtjahresumsatz verhängen (Art. 74 DSA – für Zwangsgelder Art. 76 DSA).
Sanktionen kann die Kommission beschließen, wenn eine große Online-Plattform oder Online-Suchmaschine »im Verdacht steht, gegen die Bestimmungen dieser Verordnung verstoßen zu haben«. (Art. 66 Abs. 1 DSA)
Verstoß gegen das verfassungsrechtliche Bestimmtheitsgebot
Die sich für die Anbieter aus dem DSA ergebenden Geund Verbote müssen dem rechtsstaatlichen Bestimmtheitsgebot entsprechen. Die durch den DSA der Kommission gegebene Ermächtigung zu Kontrollen und Sanktionen müssen in ihren Voraussetzungen nach Inhalt, Zweck und Ausmaß hinreichend bestimmt und begrenzt sein. (BVerfGE 56, 1, Rz.12) Nur wenn diese Voraussetzungen erfüllt sind, wird messbar und in erträglichem Ausmaß für die Plattformen voraussehbar und berechenbar, was geteilt werden darf beziehungsweise was gelöscht werden muss. Diese und weitere verfassungsrechtlich unverzichtbaren Voraussetzungen sind nicht einmal ansatzweise gewährleistet.
Art. 34 Abs. 1 DSA erteilt den großen Online-Plattformen und Online-Suchmaschinen den Auftrag, »zu ermitteln, analysieren und bewerten sorgfältig alle systemischen Risiken in der Union«, und zwar »unter Berücksichtigung ihrer Schwere und Wahrscheinlichkeit«. Sie haben Eintragungen »Risikobewertungen« zu unterziehen und »voraussichtlich kritische Auswirkungen« auf systemische Risiken zu ermitteln. Bei der Risikobewertung nach Art. 34 Abs. 1 DSA haben die Anbieter »die Schwere und die Wahrscheinlichkeit« einer Beeinträchtigung »folgender systemischen Risiken« zu bewerten: »alle tatsächlichen oder absehbaren nachteiligen Auswirkungen auf die gesellschaftliche Debatte und auf Wahlprozesse, die öffentliche Sicherheit und den Schutz der öffentlichen Gesundheit« (Art. 34 Abs. 1 lit. c und d). Von den Anbietern sind auch rechtmäßige unter das Grundrecht der Meinungs- und Informationsfreiheit fallende Eintragungen zu löschen, wenn sie »voraussichtlich kritische Auswirkungen« oder »absehbar nachteilige Auswirkungen auf die gesellschaftliche Debatte, die öffentliche Sicherheit und die öffentliche Gesundheit« haben können. Verdeutlicht wird die Aufforderung zur Löschung auch von rechtmäßigen, unter die Meinungsfreiheit fallenden Eintragungen durch die sogenannten Erwägungsgründe der EU-Kommission.
Aus Erwägungsgrund Nr. 5 ergibt sich die Verpflichtung, neben rechtswidrigen Inhalten auch »anderweitig schädliche Informationen und Tätigkeiten« auf ihr Potenzial zur Hervorrufung »systemischer Risiken« zu untersuchen. Erwägungsgrund Nr. 84 erweitert die Kontrollpflicht über »nachteilige Auswirkungen« hinaus auf »irreführende oder täuschende Inhalte, einschließlich Desinformationen«. Die Anbieter sollen sich »bei der Bewertung der in dieser Verordnung ermittelten systemischen Risiken auf die Informationen konzentrieren, die zwar nicht rechtwidrig sind, aber zu den in dieser Verordnung ermittelten systemischen Risiken beitragen«.
Auch gegen eindeutig nicht rechtswidrige Eintragungen haben die Anbieter gemäß Art. 35 Abs. 1 DSA sogenannte wirksame »Risikominderungsmaßnahmen« zu ergreifen, »die auf gemäß Art. 34 ermittelten besonderen systemischen Risiken zugeschnitten sind«. Dazu gehören gemäß Art. 35 Abs.1 lit. c DSA auch »die rasche Entfernung« der Inhalte »oder Sperrung des Zugangs«.
Die in Art. 34 Abs. 1 DSA verwendeten Begriffe verstoßen gegen das rechtsstaatliche Bestimmtheitsgebot. Ihnen fehlt allesamt die inhaltliche Begrenzung. Diese Unschärfemethode wird strategisch eingesetzt. Strategisch bewirken sie Orientierungslosigkeit bei den Nutzern der Plattformen. Der EU-Kommission und den Plattformen eröffnen sie ein weites Feld, rechtsstaatlich getarnt, auch rechtmäßige Inhalte interessengerichtet auszuschalten. Die Meinungsfreiheit als Antriebskraft des demokratischen Pluralismus wird hier im Kern getroffen.
DSA-Pflichten sind präventiv angelegt
Die den Anbietern von dem DSA aufgegebenen Pflichten sind auch deswegen verfassungswidrig, weil sie pauschal präventiv angelegt sind. Nach Art. 34 Abs. 1 DSA ist zu überwachen, ob Desinformationen verbreitet werden, die »voraussichtlich kritische«, »voraussehbar nachteilige« oder »absehbar nachteilige Auswirkungen« auf die »gesellschaftliche Debatte«, auf »Wahlprozesse«, die »öffentliche Sicherheit« oder den »Schutz der öffentlichen Gesundheit« haben könnten. In einer demokratisch organisierten Gesellschaft sind solche präventiv angelegten Überwachungspflichten der Anbieter abzulehnen. Durch die Einschränkung bestimmter Informationen schon vor deren Verbreitung wird jede öffentliche Debatte verhindert. Durch vorbeugende Informationskontrolle wird die Meinungsfreiheit prinzipiell infrage gestellt. Sie wird obrigkeitlich zugemessen. Deren präventive Begrenzung kann nur ausnahmsweise zugelassen werden, wenn eminente Verdachtsmomente vorliegen für die schwere Gefährdung einer hochrangigen Rechtsguts.
Wirkung auf den Bürger
Der Bürger bleibt angesichts der hier verwendeten und präventiv angelegten Generalklauseln orientierungslos zurück. Die Herrschaft des Verdachts greift mittels des DSA um sich. Diese Generalklauseln stellen einen mittelbaren Eingriff in die Meinungs- und Informationsfreiheit dar, weil der Nutzer sich vielfach als Störer der öffentlichen Debatte, als Gefährder der öffentlichen Sicherheit sowie gegen den Schutz der öffentlichen Gesundheit handelnd selbst beschuldigen wird. Diese Unschärfemethode fördert die Neigung zur Selbstzensur, weil bei dem Nutzer die Befürchtung auflebt, ins Visier der Plattformen beziehungsweise deren Kontrolleure (EU-Kommission oder Trusted Flagger) zu geraten. Deshalb werden zahlreiche Bürger (laut seriösen Umfragen ca. 60 Prozent der Bevölkerung) ihre Meinung lieber nicht öffentlich kundtun oder unter einem Pseudonym Deckung suchen. Unter formeller Aufrechterhaltung von Rechtsinstituten, wie der Meinungsfreiheit, wird eine methodisch herbeigeführte Atmosphäre des gegenseitigen Misstrauens und der Furcht geschaffen. Der Nutzer wird deshalb das von dem DSA gelegte Minenfeld gar nicht erst betreten, um dort für ihn lauernde soziale und rechtliche Nachteile zu vermeiden. Das Lebenselement freiheitlicher Grundordnung – die ständige geistige und demokratische Auseinandersetzung auch mit gegenteiligen Meinungen 2 – wird durch betreutes Denken ersetzt. Debatten werden, wie schon so oft, zu Scheindebatten verkommen.
Den vollständigen Text lesen Sie in der aktuellen Ausgabe 5/6 2026 unseres Magazins, das im Bahnhofsbuchhandel, im gut sortierten Zeitungschriftenhandel und in ausgewählten Lebensmittelgeschäften erhältlich ist. Sie können das Heft auch auf dieser Website (Abo oder Einzelheft) bestellen.
Abo oder Einzelheft hier bestellen
Seit Juli 2023 erscheint das Nachrichtenmagazin Hintergrund nach dreijähriger Pause wieder als Print-Ausgabe. Und zwar alle zwei Monate.
MANFRED KÖLSCH war bis zu seiner Pensionierung als Vorsitzender Richter tätig. Jetzt arbeitet er als Rechtsanwalt. Aus Protest gegen die Corona-Maßnahmen hat er das ihm verliehene Bundesverdienstkreuz zurückgegeben. Zahlreiche Veröffentlichungen zur Corona-Politik und zur Verteidigung der Meinungsfreiheit.
1 Die Erwägungsgründe sind ein umfangreicher Kommentar der EU-Kommission zu jeder einzelnen Vorschrift des DSA. Dahinter steht die Absicht, die Auslegung der Vorschriften des DSA in ihrem (der EU-Kommission) Sinne zu gewährleisten. Die Erwägungsgründe sind nicht rechtsverbindlich, werden von den Gerichten jedoch zur Auslegung herangezogen.
2 BVerfGE 7, 198; 20, 162, Rz. 36; 86, 122, Rz. 19