Von Ruth Meyer, Direktorin der Landesmedienanstalt Saarland (LMS) und Prof. Dr. Rupprecht Podszun, Inhaber des Lehrstuhls für Bürgerliches Recht, deutsches und europäisches Wettbewerbsrecht an der Heinrich-Heine-Universität Düsseldorf

Seit einem Jahr trauen wir unseren Augen nicht mehr: Zu gut sind die Texte und Bilder, die mit Hilfe Künstlicher Intelligenz generiert werden. Gut? Jedenfalls täuschend echt. Ob ein Bericht von einer KI zusammengebastelt wurde, oder von Journalisten recherchiert, formuliert und redigiert wurde, lässt sich kaum mehr erkennen. Ende November 2022 wurde mit OpenAIs ChatGPT ein überraschend leistungsfähiges Large Language Model (LLM) in der Breite der Gesellschaft als Web App verfügbar. Nach dem Austoben mit ersten skurrilen Anfragen sind KI-Tools jetzt ernsthafte Alltagsbegleiter geworden.

Unzulänglichkeiten sind zwar theoretisch bekannt, praktisch aber dominiert die Freude an bequemen und günstigen Möglichkeiten, um Texte, Bilder und Videos zu schaffen. Das Internet wird mit immer mehr KI-generierten Informationen geflutet. Gewohnte Abläufe, vor allem Recherche, Analyse und Kreativprozesse, verändern sich radikal. So ist generative KI für die Medien zum Riesenthema geworden – sie berichten mit Leidenschaft darüber und auch die gesellschaftliche Debatte ist entbrannt. Gut so! Denn diese Auseinandersetzung ist nötig, um zu klären, wie berechtigtes Vertrauen in KI-Anwendungen aufgebaut werden kann.

Vertrauen als Währung

Die Medien haben in der Gesellschaft eine zentrale Rolle. Auf ihre Informationen bauen wir die Demokratie. Institutionen mit Macht brauchen Medien, die sie kontrollieren. Bürgerinnen und Bürger müssen diesen Medien vertrauen können. Wenn KI in diesem Zusammenspiel tätig wird, stellt sich die Frage, wie dieses Vertrauen gesichert werden kann. Gerade im Bereich der vielfaltsrelevanten Erstellung und Verfügbarmachung von Content jeglicher Natur gilt es, Manipulationen gegenzusteuern und Rechtsgüter wie Meinungsfreiheit und Medienvielfalt, Jugendschutz oder journalistische Sorgfalt abzusichern.

Bislang geschieht dies nach allgemeiner Beobachtung im publizistischen Umfeld mit erfreulicher Sorgfalt, Umsicht und Transparenz im Zuge der Selbstregulierung: Verlage, Fernsehsender und Redaktionen kennzeichnen synthetische Stimmen, erweitern ihre Redaktionsstatute um klare Regeln zum KI-Einsatz und geben „KI-Ehrenwör­ter“, die versichern, dass am Anfang und am Ende aller Beiträge Menschen als Initiatoren und Verantwortliche stehen.

Weitaus schwieriger und intransparenter stellt sich die Lage in den Online-Medien dar: von Social Media über Suchmaschinen und Video-Sharing-Dienste bis hin zu Medienplattformen oder Benutzeroberflächen – etwa in Fahrzeugen – spielt künstliche Intelligenz längst eine entscheidende Rolle bei der Aggregation, Selektion und Präsentation von Medieninhalten. Die zunehmende Individuali­sierung von Inhalten geht mit einer massenhaften Anhäufung von Daten einher, die ihrerseits geeignet ist, durch Muster­erkennung und gezielte Analyse KI-gesteuert die Vielfalt, die beim jeweiligen Nutzenden ankommt, maßgeblich zu beeinflussen. Die Gewährleistung von Transparenz, Diversität und Diskriminierungsfreiheit auf allen Ebenen stellen eine große Herausforderung dar.

Gefahren für die Meinungsbildung durch KI

Durch KI werden die Möglichkeiten zur Desinformation vervielfacht. Sie ist günstig, sie produziert in Masse, sie kann persönliche Daten berücksichtigen. Darauf ist der Mensch nicht vorbereitet: Sogar ein Fake-Bild, das als Fake identifiziert wird, bleibt im Gedächtnis hängen – und Fakes zu identifizieren, wird immer schwieriger. Früher schützten Medienmarken, die Vertrauen aufgebaut hatten, vor Reinfällen, aber ihre Bedeutung nimmt auf Plattformen immer weiter ab – die Insta-Demokratie macht keinen Unterschied zwischen Profilen mit und ohne Ahnung, zwischen recherchierter Information und KI-generierter Desinformation. Natürlich hat es Fehlinformationen immer schon gegeben. Aber die Masse führt das Problem in eine neue Dimension. Der Qualitätsabfall wird beschleunigt, wenn sich KI an frei verfügbarem Internet-Content bedient, ohne dass dessen Qualität geprüft wird. Es setzt eine Abwärtsspirale ein: KI bedient sich an KI-Material, das nie geprüft wurde. Wenn eine aufwändige Qualitätskontrolle oder Kuratierung stattfinden soll, steigt der Preis, was das Problem nur für kaufkräftige Schichten löst.

Der neueste „Strukturwandel der Öffentlichkeit“

Der neueste „Strukturwandel der Öffentlichkeit“ (Jürgen Habermas) bestärkt daneben durch Empfehlungsalgorithmen die Herausbildung von „Kommunikationsblasen“. Die vielen verschiedenen, individualisierten Informationskanäle führen nicht mehr zusammen. Eine vertrauenswürdige, gemeinsame Informationsbasis ist nicht mehr erkennbar. Das erschwert die Verständigung im Gemeinwesen. Hinzukommt, dass die Nutzung der sozialen Medien bei den Nutzenden die „Wahrnehmung von politischer Öffentlichkeit als solcher deformiert“, wie Habermas schreibt. Anders gewendet: Wer X für den Kommunikationsraum der Politik hält, glaubt bald nicht mehr an die Demokratie. Das führt zu einer Spirale der Entdemokratisierung – denn sie lebt ja gerade vom Vertrauen in den öffentlichen Diskurs und vom Engagement.

Standards setzen und kontrollieren

Die wachsenden Datenmengen und die KI-Tools in ihrer Konzentration bei wenigen Tech-Unter­nehmen stellen unter Vielfaltsgesichtspunkten sowie mit Blick auf Desinformation, Analyse- und Angriffsmöglichkeiten eine große Herausforderung dar. Höchste Zeit, Weichen zu stellen und Regeln festzulegen: Die Güte der Daten und die Ausrichtung der Trainingsmethoden müssen transparent und kontrollierbar werden, sodass klar wird, ob Vertrauen gerechtfertigt ist oder eben nicht. Die europäische KI-Verordnung ist aktuell als erstes Gesetz der Welt dabei, bindende Regularien sektorübergreifend zu verankern. Speziell für die Medien bieten der Medienstaatsvertrag und die Mediengesetze der Länder auf nationaler Ebene eine Vielzahl von Anknüpfungspunkten für ein regula­torisches Einschreiten. Die Landesmedienanstalten haben – wie etwa im Saarland – vielfaltsrelevante Einflüsse Künstlicher Intelligenz zum Teil explizit in ihrem Aufgabenspektrum.

KI als Chance für eine neue Medienpolitik

KI ist auch eine Chance für eine neue Medienpolitik, da sie als entpersonalisiertes, programmierbares Instrument einsetzbar ist. KI kann für sinnvolle Zwecke eingesetzt werden und positive Entwicklungen einfacher oder kostengünstiger machen. Sie kann das menschliche Element aus manchen sensiblen Prozessen herauslösen und objektiver agieren. Sie kann zudem eine Datenauswertung vornehmen, die bislang in diesem Umfang schlicht nicht zu leisten war. Das eröffnet neue Möglichkeiten, in erster Linie für Medien und Tech-Unternehmen, aber eben auch für politische Institutionen oder für die medienrechtliche Analyse und Aufsicht.

Das Gespräch über die Gefahren und die Chancen von KI in der Medienregulierung muss beginnen. Dabei sollte neu und offen nachgedacht werden – ein Technologiesprung bietet die Chance, auch regulatorisch „disruptiv“ zu werden.

Konkrete Regelungsansätze für KI und Medienpolitik

Damit der Zugang zu vielfältigen und vertrauenswürdigen Informationen möglich bleibt, sind verschiedene Regelungsansätze denkbar:

• Konzentration verhindern: Bei datengetriebenen Geschäftsmodellen haben wir in den letzten 20 Jahren eine starke Konzentration auf die wenigen Big Tech-Unternehmen erlebt. Genau diese Unternehmen bemächtigen sich jetzt auch der KI. Je bedeutsamer KI für Medien und Öffentlichkeit wird, desto relevanter wird es, die Konzentration auf einzelne Unternehmen, Operateure oder Datenbestände zu verhindern. Eine Pluralität von Informationen und Meinungen setzt voraus, dass die Datenbestände divers und die Informationstechnologie offen gestaltet ist. Hier ist das Medienkonzentrationsrecht gefordert.
• Basis-Anforderung Transparenz: Eine Basis-Anforderung für Vertrauen in KI-Informationen und KI-getriebene Medien ist Transparenz über das Ob der KI-Verwendung und das Wie: Welche Trainingsdaten wurden verwendet, mit welchen Daten und Informationen wurde gearbeitet, nach welchen Grundstrukturen läuft die Informationsgenerierung und -verbreitung? Vertrauen in eine Black Box ist nicht gerechtfertigt. So wie das Impressum klassischer Medien Aufschluss über Verantwortlichkeiten gibt, muss auch für KI-generierten Content Verantwortung übernommen werden.
• Verbote: Die bisherigen Erfahrungen im digitalen Raum legen nahe, dass Transparenz allein oder auch ein Einwilligungserfordernis von Nutzern nicht genügt, siehe Datenschutz. Wenn rote Linien überschritten werden, muss auch für KI ein klares Verbot gelten mit Sanktionen für denjenigen, der die Inhalte in Umlauf gebracht hat.
• Problem Trainingsdaten: Eine Besonderheit von KI ist die Abhängigkeit von Trainingsdaten, deren Auswahl und Güte vorentscheidend für das spätere KI-generierte Produkt ist. Der konkrete Link zwischen Trainingsdaten und Ergebnissen ist nicht rückverfolgbar. Da auf diese Weise schwer zu entdeckende Verzerrungen entstehen können, muss für die Zwecke der Informations- und Meinungsbildung schon bei der Auswahl der Trainingsdaten eine Garantie gegeben werden, dass die Datenauswahl offen und vielfältig ist. Dafür muss es Instanzen geben. Entwicklungsoffene KI, die Grundentscheidungen später noch korrigieren können, sind vorzugswürdig.
• KI und Werbung: Digitale Geschäftsmodelle mit Informationen basieren auf Datenauswertung. Es besteht die Gefahr, dass die Öffentlichkeit immer weiter fragmentiert wird (weil Informationen noch stärker personalisiert werden, um das richtige Umfeld für personalisierte Werbung zu schaffen) und eine immer stärkere Bindung an einzelne digitale Ökosysteme stattfindet, die persönliche Vorlieben perfekt adressieren – sowohl bei Werbung als auch bei Information. Die Verwendung der KI kann starke Monopolisierungseffekte haben. Plattformen mit starken Datenbeständen und leistungsfähiger KI können Nutzer besonders lange binden und dadurch höhere Einnahmen erzielen und mehr Daten sammeln, was die Spirale fortsetzt. Zu überlegen ist, wie die toxische Umklammerung von personalisierter Werbung und Information aufgebrochen werden kann. Eine Beschränkung personalisierter Werbung im Rahmen von Informationswiedergabe (während kontextbezogene Werbung weiter möglich bliebe) wäre eine Möglichkeit.
• Positive Vielfaltssicherung: Die schiere Menge an Information und die Möglichkeit, sich in Informationsfeeds „zu verlieren“, stellt zwar eine gewisse Bereicherung dar, kann aber auch zur Ermüdung und Behinderung der Meinungsbildung führen. Gerade der Medienkonsum jüngerer Menschen, deren Urteilskraft erst noch ausgebildet werden muss, wird durch Plattformen wie TikTok auf eine harte Probe gestellt. Das Suchtpotential dieser Apps dürfte genauso wie die Auswirkungen auf die Persönlichkeitsentwicklung junger Menschen weitgehend unterschätzt werden. Für Kinder und Jugendliche wird es in absehbarer Zeit eine Diskussion über zeitliche Beschränkungen für die Nutzung bestimmter Apps geben. Hier ist KI eine Chance (auch für Erwachsene): KI kann Endlosloops, Filterblasen und Echokammern erkennen. Zu überlegen ist, die Anbieter entsprechender Medien, also insbesondere die Betreiber digitaler Ökosysteme, zu verpflichten, solche Tendenzen zu monitoren. Sie überwachen das Verhalten ihrer Nutzer:innen ohnehin vollumfänglich und werten es aus. KI-Tools könnten hier eingesetzt werden, um Pausen zu erreichen oder public value-Infos einzuspielen. Das ginge dank KI ohne staatliche Überwachung und würde für die Nutzenden eine positive Vielfaltssicherung bedeuten.

Meinungsvielfalt und kritische Mündigkeit

Die Geschwindigkeit der Durchdringung aller Teilbereiche der Medien-Branche mit KI macht im freiheitlichen Verfassungsstaat den Aufbau von KI-bezogenen Kompetenzen zu einem Schlüsselfaktor für Redaktionen und Medienschaffende genauso wie für die Adressaten und Konsumenten dieses Schaffens. Um Voraussetzungen für einen sinnvollen Einsatz herzustellen, muss gezielt in Aus- und Weiterbildung zum Thema KI investiert werden; nicht zuletzt brauchen Medienunternehmen Ressourcen und Unterstützung bei der reflektierten Implementierung von KI.

Aktuelle Kompetenzen für eine kritisch-selbstbestimmte Nutzung digitaler Medien inklusive des damit verbundenen Daten-Know-hows sind als Kulturtechnik unserer Zeit zu betrachten und müssen zügig Eingang in die Curricula von Schulen und Fortbildungsprogrammen finden. Nur so kann es gelingen, die Möglichkeit für alle Teile der Bevölkerung zu eröffnen, nicht nur Adressaten von Medienprodukten zu sein, sondern diese aktiv zu gestalten und selbst zu beeinflussen, was den Weg z.B. in den eigenen feed findet.

Medien und KI aktiv nutzen

KI kann Vertrauen und Informiertheit stärken. Es ist eine Chance, sich mit geschicktem Prompting bzw. Prompt engineering, Quellen auszuwerten und den eigenen Feed zu steuern. Habermas schrieb einst den Massenmedien die Möglichkeit zu, mit strategischer Intention verhaltenswirksam Kommunikationsflüsse zu steuern. Momentan sieht es so aus, als könnten die großen Digital-Plattformen diese Aufgabe für sich monopolisieren. KI macht etwas anderes möglich: Wer die Fähigkeit hat, sich eigene Agenten zu bauen, kann quasi ein externes Gehirn freischalten, das als maschinelle Schaltstelle aufwändige Recherche- und Analyseschritte abarbeitet und individuell aufbereitet. Das ist Medienmacht für die Breite der Bevölkerung.

Dazu muss Medienpolitik gesteuerte Informationslenkung und Desinformation bekämpfen und Konzentration aufbrechen. Eine Medienpolitik, die der Demokratie verpflichtet ist, sichert in Zukunft Teilhabe und Meinungsvielfalt auch mittels Künstlicher Intelligenz.