Wenn Nutzer auf tausende Likes, Kommentare oder geteilte Beiträge treffen, entsteht schnell der Eindruck allgemeiner, gesellschaftlicher Relevanz. Doch immer häufiger ist unklar, ob hinter dieser vermeintlichen Aufmerksamkeit tatsächlich auch Menschen mit ihren Meinungen und Sichtweisen stehen – oder koordinierte Netzwerke, automatisierte Fake-Accounts und systematische Manipulationskampagnen. Mit diesem Phänomen hat sich das Gutachten „Analyse des staatlichen Reaktionsgefüges gegen Manipulationen des öffentlichen Informationsraums“ der Landesanstalt für Medien NRW auseinandergesetzt, das von Prof. Dr. Ralf Müller-Terpitz von der Universität Mannheim durchgeführt wurde. Die Studie geht von der Prämisse aus, dass systematische Eingriffe in digitale Kommunikations- und Informationsräume zunehmend die freie öffentliche Meinungsbildung untergraben und damit eine erhebliche Bedrohung für die freiheitlich-demokratische Grundordnung darstellen. Vor diesem Hintergrund wird die Notwendigkeit eines koordinierten Vorgehens gegen manipulative Verbreitungstechniken unter Beteiligung der Landesmedienanstalten aufgezeigt. Bots, Fake-Accounts und Co.: Nicht der Inhalt steht im Mittelpunkt, sondern die Manipulation seiner digitalen Verbreitung.
Das Gutachten entwickelt sowohl legislative als auch exekutive Lösungsansätze. Auf legislativer Ebene ist es wichtig, die Transparenzpflichten zu verstärken. Dies gilt insbesondere im Hinblick auf den Einsatz von Social Bots. Darüber hinaus sollten gezielte inhaltsbezogene Verbote mit klaren Tatbeständen geschaffen werden, die den Schutz des demokratischen Willensbildungsprozesses verbessern – diese können sowohl repressiv als auch präventiv ausgestaltet werden. Zudem wäre es ratsam, die Befugnisse der Landesmedienanstalten dahingehend zu erweitern, dass auch Rechtsverstöße gegen die „verfassungsmäßige Ordnung“ iSv. § 17 MStV hoheitlich sanktioniert werden können. Außerdem sollte in diesem Zuge das Staatsfernegebot auf alle Formen digitaler Mediendienste erstreckt werden. Schließlich braucht es plattformbezogene Regelungen, die das derzeitige System der regulierten Selbstregulierung zu klaren Ge- und Verboten fortschreiben. In diesem Zusammenhang ist es auch wichtig, KI-bezogene Regelungen zu schaffen, inkl. einer gesetzlichen Pflicht zur Bevorzugung anerkannter Public-Value-Inhalte im Rahmen der Generierung von nachrichtlichen KI-Inhalten. Ebenso wichtig ist eine regulatorische Stärkung der Nutzerautonomie. Im Hinblick auf die Exekutive sollten die Kooperation und der Informationsaustausch zwischen den verschiedenen Institutionen – sowohl auf nationalstaatlicher als auch auf EU-rechtliche Ebene – verbessert werden. Des Weiteren müssen die zuständigen Behörden mit mehr Personal ausgestattet werden, um eine effektive Umsetzung des bereits existenten Aufsichtsinstrumentariums zu gewährleisten. Außerdem ist angesichts der Durchsetzungsprobleme auf EU-Ebene zu erwägen, den Mitgliedstaaten wieder mehr eigene Vollzugskompetenzen zu übertragen. Andernfalls kann das bestehende Vollzugsdefizit kaum behoben werden.
Kernaussagen des Gutachtens
- Das Gutachten untersucht das staatliche Reaktionsgefüge gegen Manipulationen des öffentlichen Informationsraums. Ausgangspunkt ist die These, dass gezielte Manipulationen des öffentlichen Informationsraums demokratische Meinungsbildungsprozesse untergraben und damit eine erhebliche Bedrohung für die freiheitlich-demokratische Grundordnung darstellen können. Ziel der Untersuchung ist es, bestehende rechtliche Regelungen und Zuständigkeiten im europäischen Mehrebenensystem zu analysieren, Regelungs- und Vollzugslücken zu identifizieren und darauf aufbauend Lösungsansätze zu entwickeln.
- Der öffentliche Informationsraum wird als ein zentraler Ort gesellschaftlicher und politischer Willensbildung verstanden. Aufgrund der digitalen Vernetzung, algorithmischer Verbreitungslogiken und einer zunehmenden Fragmentierung der Medienlandschaft ist dieser Raum besonders anfällig für gezielte Einflussnahmen. Empirische Befunde und internationale Risikoanalysen belegen, dass Des- und Misinformationen sowie manipulative Kommunikationsstrategien als relevante gesellschaftliche Risiken wahrgenommen werden.
- Das Gutachten verfolgt einen holistischen Ansatz, der unionsrechtliche, bundesrechtliche und landesrechtliche Regelungen einbezieht. Es beschränkt sich nicht auf medienrechtliche Fragestellungen, sondern berücksichtigt auch strafrechtliche, zivilrechtliche und sicherheitsrechtliche Aspekte. Diese Breite ist erforderlich, da Manipulationen desöffentlichen Informationsraums regelmäßig mehrere Rechtsgebiete und Zuständigkeiten berühren.
- Methodisch stützt sich die Untersuchung auf eine Auswertung amtlicher Dokumente, rechts- und kommunikationswissenschaftlicher Literatur sowie auf Experteninterviews mit Vertretern von Behörden und zivilgesellschaftlichen Organisationen. Ergänzend werden realitätsnahe Fallstudien entwickelt, die typische Manipulationsszenarien abbilden und als Grundlage für die rechtliche Analyse dienen.
- Zentraler begrifflicher Ausgangspunkt ist die „Manipulation des öffentlichen Informationsraums“. Dieser von den Landesmedienanstalten geprägte Begriff ist bewusst inhaltsneutral angelegt und fokussiert nicht auf die Wahrheit oder Unwahrheit einzelner Inhalte, sondern auf die verdeckte und unredliche Verzerrung von Kommunikationsprozessen mit dem Ziel der Beeinflussung individueller und kollektiver Meinungsbildung.
- Manipulationen können dabei insbesondere in zwei Grundformen auftreten: erstens durch die technische Manipulation der Reichweite bestimmter Inhalte und zweitens durch die Verschleierung oder Täuschung über die Identität des Absenders. Beide Formen zielen darauf ab, bei den Rezipienten eine falsche Vorstellung über Relevanz, Zustimmung oder Autorität von Informationen zu erzeugen.
- Die Reichweitenmanipulation erfolgt häufig durch automatisierte Verfahren wie Bots, durch gekaufte Interaktionen und/oder durch ein koordiniertes unauthentisches Verhalten (Coordinated Inauthentic Behavior – CIB). Nutzer können dabei regelmäßig nicht erkennen, dass die wahrgenommene Popularität eines Inhalts technisch erzeugt wurde. Diese Intransparenz stellt eine wesentliche Täuschung dar, da sie die Fähigkeit der Rezipienten zur eigenständigen Bewertung der Relevanz von Informationen beeinträchtigt.
- Die Verschleierung des Absenders nutzt gezielt das Vertrauen in bekannte Personen, Institutionen oder Medienmarken aus. Typische Erscheinungsformen sind gefälschte Social-Media-Accounts, imitierte Medienangebote, manipulierte Webseiten oder Deepfakes (z. B. „Doppelgänger“-Kampagne). Auch diese Praktiken beruhen auf Täuschung und unterscheiden sich grundlegend von offener, authentischer Kommunikation.
- Der Begriff der Manipulation grenzt sich bewusst von inhaltsbezogenen Begriffen wie Desinformation, Misinformation, „Fake News“ oder Propaganda ab. Diese Begriffe knüpfen an den Wahrheitsgehalt von Informationen an und sind juristisch häufig unscharf oder politisch aufgeladen. Insbesondere der Begriff „Fake News“ erweist sich als ungeeignet für eine rechtliche Analyse.
- Desinformation wird als vorsätzliche Verbreitung nachweislich falscher oder irreführender Informationen mit Schädigungspotenzial verstanden. Misinformation bezeichnet dem gegenüber unbeabsichtigte Falschinformationen ohne Täuschungsabsicht. Propaganda ist durch ein instrumentelles Verhältnis zur Wahrheit gekennzeichnet und kann sowohl wahre als auch falsche Informationen umfassen.
- Der Vorteil des inhaltsneutralen Manipulationsbegriffs liegt darin, dass staatliche Maßnahmen nicht an der Bewertung einzelner Inhalte ansetzen müssen. Dadurch lassen sich Zensurvorwürfe vermeiden und die Akzeptanz regulatorischer Eingriffe erhöhen. Zugleich ermöglicht dieser Ansatz ein effektiveres Vorgehen gegen kampagnenartige, systematische Verzerrungen des Diskurses.
- Neben technischen Manipulationen berücksichtigt das Gutachten auch inhaltliche und gestalterische Aspekte. Manipulationen können durch Texte, Bilder, Videos, Memes oder Audioformate erfolgen und zunehmend unter Einsatz Künstlicher Intelligenz (KI) produziert werden. Deepfakes nehmen dabei eine besondere Stellung ein, da sie Authentizität vortäuschen und schwer zu erkennen sind.
- Zur Konkretisierung der Problemlagen entwickelt das Gutachten vier Fallstudien: die Nutzung von Online-Plattformen zur technischen Manipulation der Reichweite, die Nutzung von Online-Plattformen zur Verschleierung des Absenders, die Nutzung von KI (Deepfakes) sowie die Nutzung journalistisch-redaktioneller Medien zur Manipulation desöffentlichen Informationsraums. Diese Fallstudien verdeutlichen typische rechtliche und institutionelle Herausforderungen.
- Die Fallstudien zeigen, dass Manipulationen häufig grenzüberschreitend erfolgen und Akteure aus Drittstaaten involviert sind. Dadurch entstehen komplexe Zuständigkeitsfragen, insbesondere im Verhältnis zwischen nationalen Behörden, EU-Institutionen und Plattformbetreibern. Auch der Missbrauch von Melde- und Beschwerdesystemen wird als relevantes Problem identifiziert.
- Der rechtliche Rahmen zur Bekämpfung von Manipulationen des öffentlichen Informationsraums ist durch ein Mehrebenensystem geprägt. Auf EU-Ebene bestehen keine umfassenden ausschließlichen oder geteilten Kompetenzen zur Wahrnehmung dieser Aufgabe, wohl aber begrenzte Zuständigkeiten wie im Bereich der Gemeinsamen Außen- und Sicherheitspolitik und des Binnenmarkts.
- Eine besondere Rolle spielt Art. 215 AEUV, der als Grundlage für wirtschaftliche Sanktionen gegen Drittstaaten und Akteure dient. Auf dieser Basis wurden unter anderem Verbreitungsverbote für russische Staatsmedien wie „Russia Today“ erlassen. Diese Maßnahmen sind kompetenzrechtlich zulässig, bleiben jedoch auf Ausnahmekonstellationen (Konflikt mit einem Drittstaat) beschränkt und sind zeitlich begrenzt.
- Der Schwerpunkt der unionsrechtlichen Regulierung liegt deshalb auf den geteilten Zuständigkeiten, und dort insbesondere auf der Binnenmarktkompetenz aus Art. 114 AEUV. Auf dieser Grundlage wurde der Digital Services Act (DSA) erlassen, der für Online-Plattformen zentrale Pflichten zur Bekämpfung illegaler und manipulativer Inhalte vorschreibt.
- Auf nationaler Ebene ist die Gesetzgebungskompetenz zwischen Bund und Ländern verteilt. Der Bund verfügt über Zuständigkeiten im Straf-, Vereins- und Sicherheitsrecht, während die Länder insbesondere für das Medienrecht und die Medienaufsicht zuständig sind. Diese Kompetenzverteilung führt zu Abgrenzungs- und Koordinationserfordernissen.
- Die Länder können medienrechtliche Vorgaben zu journalistischen Sorgfaltspflichten, Transparenz- und Kennzeichnungspflichten sowie für die Gestaltung algorithmischer Systeme erlassen. Allerdings bestehen Unsicherheiten hinsichtlich der Vereinbarkeit nationaler Regelungen mit dem DSA, die einer gerichtlichen Klärung harren.
- Die Bekämpfung von Manipulationen des öffentlichen Kommunikationsraums unterliegt strengen grundrechtlichen Grenzen. Meinungs- und Medienfreiheit sind sowohl nach dem Grundgesetz, nach der Europäischen Menschenrechtskonvention (EMRK) als auch nach der EU-Grundrechtecharta geschützt. Gleichzeitig ist anzuerkennen, dass der Staat im Sinne einer „wehrhaften Demokratie“ nicht verpflichtet ist, manipulative Angriffe schutzlos hinzunehmen.
- Die grundrechtlichen Grenzen der Bekämpfung von Manipulationen des öffentlichen Informationsraums sind durch einen normativen Gleichlauf dieser Grundrechtsregime im Mehrebenensystem gekennzeichnet. Dies betrifft schon die Frage, ob der Schutzbereich eines Kommunikationsgrundrechts überhaupt eröffnet ist; jedenfalls aber bezieht sich dieser Gleichlauf auf den effektiven Gewährleistungsgehalt dieser Grundrechte. Mit grundrechtlichen Wertungskonflikten in Bezug auf hoheitliche Maßnahmen zur Bekämpfung von Manipulationen des öffentlichen Informationsraums ist deshalb nicht zu rechnen.
- Die Untersuchung zeigt des Weiteren, dass sowohl nach dem nationalen als auch nach dem europäischen Grundrechtsschutz manipulative Verhaltensweisen im hier verstandenen Sinne zumeist keinen Schutz durch die Kommunikationsgrundrechte erfahren. Entweder fehlt es an der Eröffnung des personellen Schutzbereichs, da grundrechtlich nicht geschützte staatliche oder staatlich gelenkte Akteure am Werke sind. Oder der materielle Schutzbereich lässt sich nicht auf manipulative Verhaltensweisen erstrecken, so wie insbesondere im Fall von Desinformation.
- Dort, wo manipulative Maßnahmen ausnahmsweise Schutz genießen, verbleiben dem nationalen und unionalen Gesetzgeber bei ihrer Bekämpfung große Gestaltungsspielräume. Der Schutz eines offenen, unverzerrten Kommunikationsprozesses rechtfertigt weitreichende Einschränkungen. Diese sind im Wesentlichen nur dem Verhältnismäßigkeitsprinzip unterworfen. Ob diese Schranken-Schranke beachtet wird, bedarf einer Betrachtung des Einzelfalls.
- Die ausführliche Analyse des einfachrechtlichen Status quo zeigt, dass mit dem DSA, der KI-Verordnung, dem European Media Freedom Act (EMFA) und den nationalen Regelungen ein breites rechtliches Handlungsinstrumentarium existiert. Insbesondere der DAS stellt zahlreiche rechtliche Anknüpfungspunkte für die Bekämpfung von Manipulationen des öffentlichen Informationsraums bereit. Diese beziehen sich teils auf rechtswidrige Inhalte und Verhaltensweisen; teils erfassen sie aber – wie die AGB-Gestaltung oder das Risikomanagementsystem – auch Inhalte und Verhaltensweisen unterhalb der Rechtswidrigkeitsschwelle. Teils beinhalten die Regelungen klare ordnungsrechtliche Vorgaben (wie etwa die Pflicht zur Einrichtung eines Meldesystems oder zur Herstellung von Transparenz über die eingesetzten Empfehlungsalgorithmen), teils aber auch nur Vorgaben in Gestalt einer regulierten Selbstregulierung, um losgelöst von Einzelfällen abstrakt-generelle Lösungen für komplexe Risikoszenarien zu finden.
- Gleichwohl bestehen erhebliche Regelungs- und Vollzugslücken, so insbesondere bei der Durchsetzung von Pflichten gegenüber ausländischen Akteuren, die nicht in einem EU-Staat ansässig sind, sowie gegenüber sehr großen Online-Plattformen. Insoweit hat die Kommission bislang nur vereinzelt Verstöße gegen die skizzierten Vorgaben angenommen. Da der DSA aber erst seit knapp zwei Jahren in der Anwendung ist, darf mit weiterer Vollzugserfahrung (und darauf bezogener Judikatur) gerechnet werden.
- Defizite zeigen sich zudem in der Koordination zwischen Behörden sowie in der praktischen Durchsetzung bestehender Pflichten. Unterschiedliche Zuständigkeiten und begrenzte Ressourcen erschweren ein effektives Vorgehen gegen systematische Manipulationen des öffentlichen Informationsraums.
- Als legislative Lösungsansätze schlägt das Gutachten deshalb unter anderem eine Stärkung von Transparenzpflichten beim Einsatz von Social Bots, gezielte inhaltsbezogene Verbote mit klaren Tatbeständen, die den Schutz des demokratischen Willensbildungsprozesses verbessern sollen, eine Erweiterung der Befugnisse der Landesmedienanstalten sowie eine Erstreckung des Staatsfernegebots auf alle Formen digitaler Mediendienste vor. Plattformbezogene Regelungen, die das derzeitige System der regulierten Selbstregulierung zu klaren Ge- und Verboten fortschreiben, sowie eine regulatorische Stärkung der Nutzerautonomie werden ebenfalls als zentrale Hebel identifiziert.
- Für die exekutive Ebene empfiehlt das Gutachten eine intensivere Kooperation zwischen nationalen und europäischen Behörden, den Ausbau technischer Kompetenzen sowie klarere Eskalations- und Übergabestrukturen. Nur durch ein koordiniertes Vorgehen lässt sich die Manipulation des öffentlichen Informationsraums wirksam eindämmen.
- Zusammenfassend kommt das Gutachten zu dem Ergebnis, dass Manipulationen des öffentlichen Informationsraums eine reale und wachsende Gefahr für demokratische Gesellschaften darstellen. Die bestehenden rechtlichen Instrumente bilden eine wichtige Grundlage, reichen ohne gezielte Weiterentwicklung und effektivere Durchsetzung aber nicht aus, um dieser Herausforderung nachhaltig zu begegnen.