In zwei von den Medienanstalten Hamburg-Schleswig Holstein (MA HSH) und Berlin-Brandenburg (mabb) geführten Verfahren standen Googles AI Overviews - eine Suchmaschine mit KI-generierten Übersichten - und Perplexity - ein KI-Chatbot mit KI-Nachrichtenseite - im Fokus. Die ZAK (Kommission für Zulassung und Aufsicht) stellt dabei die Anwendbarkeit des deutschen Medienrechts auf KI-Suche und KI-Chatbots erstmalig fest. Bei der Nutzung von AI Overviews werden die KI-Antworten als wesentlicher Teil der Ergebnisse dargestellt und erscheinen gut sichtbar und prominent platziert. Die klassische Link-Übersicht wird dadurch gegenüber den als eigenen Inhalten zu bewertenden KI-Antworten schlechter auffindbar dargestellt und damit in unzulässiger Weise diskriminiert. Wenn ein KI-Chatbot Drittinhalte als „Quellen“, „weiterführende Hinweise“ oder in ganzen Linklisten an die KI-generierten Antworten anfügt, dann bestimmt er ebenfalls über die Auffindbarkeit von Drittinhalten. Diese Funktionalitäten erfüllen die Kriterien eines Medienintermediärs. Sie müssen sich somit an vielfaltssichernden Pflichten messen lassen.
Bei der Nutzung von AI Overviews werden die KI-Antworten als wesentlicher Teil der Ergebnisse dargestellt und erscheinen gut sichtbar und prominent platziert. Die klassische Link-Übersicht wird dadurch gegenüber den als eigenen Inhalten zu bewertenden KI-Antworten schlechter auffindbar dargestellt und damit in unzulässiger Weise diskriminiert. Wenn ein KI-Chatbot Drittinhalte als „Quellen“, „weiterführende Hinweise“ oder in ganzen Linklisten an die KI-generierten Antworten anfügt, dann bestimmt er ebenfalls über die Auffindbarkeit von Drittinhalten. Diese Funktionalitäten erfüllen die Kriterien eines Medienintermediärs. Sie müssen sich somit an vielfaltssichernden Pflichten messen lassen.
Diese Auffassung bestätigt auch ein aktuelles Rechtsgutachten zur „Integration von KI-Anwendungen in Suchmaschinen – eine medienrechtliche und regulatorische Einordnung“ von Prof. Dr. Jan Oster und Prof. Dr. Christoph Busch. Die von der Direktorenkonferenz der Medienanstalten in Auftrag gegebene Studie „Integration von KI-Anwendungen in Suchmaschinen und ihre Auswirkungen auf die Meinungsvielfalt“ wirft eine Reihe von (medien-)rechtlicher Fragen auf. Dazu gehören: Welche (medienrechtliche) Rechtsqualität hat die Kombination von KI-basierten Antworten und Suchfunktionen vor dem Hintergrund des geltenden Rechts? Welcher (medienrechtliche) Anpassungsbedarf besteht, um vielfaltsgefährdenden Risiken bzw. Auswirkungen wirksam zu begegnen?
Ein Fokus des Gutachtens liegt dabei auf den Regelungen des Medienrechts im engeren Sinne, also insbesondere des European Media Freedom Act (EMFA), der AVMD-Richtlinie und des Medienstaatsvertrags (MStV); es schließt aber auch weitere Regelungen mit Bedeutung für die vorliegende Problemstellung ein, insbesondere die KI-Verordnung (KI-VO), den Digital Services Act (DSA), den Digital Markets Act (DMA), das Urheberrecht und dort insbesondere das Presseverleger-Leistungsschutzrecht, das Äußerungsrecht sowie das allgemeine Kartellrecht. Mit in den Blick genommen werden ferner die geplante Vereinfachung und Konsolidierung des europäischen Digitalrechts durch das sog. Digital-Omnibus-Paket.
Kernergebnisse des Gutachtens
1. Die Einbindung generativer KI in Suchmaschinen („KI-Suchmaschinen“, „answer engines“) verändert die Informationssuche im Internet strukturell: An die Stelle einer verlinkenden Ergebnisliste tritt häufig eine fließtextbasierte Antwort. Dies führt zu einem Substitutionsprozess, der den Traffic zu Quellen verringert und damit die Refinanzierung insbesondere hochwertiger, journalistischer Inhalte beeinträchtigt. Daraus folgen Risiken für Angebots- und Meinungsvielfalt sowie eine Verschiebung von Verhandlungsmacht zugunsten der Betreiber von KI-Suchmaschinen, die die Schnittstelle der Sichtbarkeit kontrollieren.
2. Die Regulierung von KI-Suchmaschinen bewegt sich in einem grund- und menschenrechtssensiblen Rahmen. KI-Systeme selbst sind grundsätzlich nicht grundrechtsberechtigt; grundrechtlich geschützt ist jedoch die Berufsfreiheit bzw. unternehmerische Freiheit ihrer Betreiber und grundsätzlich auch ihre Kommunikationsfreiheiten. Regulatorische Eingriffe sind deshalb an Abwägungsmaßstäben zu messen, die den Grundsatz der Verhältnismäßigkeit wahren müssen. Abwägungsleitend sind insbesondere (i) die menschliche Zurechenbarkeit bzw. Autonomie der KI-Outputs, (ii) der Schutz vor Verzerrung individueller und öffentlicher Meinungsbildung, (iii) Persönlichkeitsrechte sowie (iv) kommunikative Chancengleichheit.
3. Medien- und äußerungsrechtlich sind KI-generierte Antworten grundsätzlich und regelmäßig als eigene Inhalte des Anbieters zu qualifizieren. Dies gilt insbesondere für „halluzinierte“ Inhalte; aber auch bei der Aufbereitung vorhandener Quellen spricht die Neu-Einkleidung, Verdichtung und Vermischung von Inhalten für eine Eigenständigkeit des Outputs. Etwas anderes kann gelten, wenn für die Nutzer klar erkennbar ist, dass lediglich fremde Inhalte wiedergegeben werden. Konsequenz ist, dass die Betreiber für die KI-Antworten grundsätzlich nach allgemeinen Gesetzen haften. Die Haftungsprivilegierungen der Art. 4 bis 6 DSA greifen dem Wortlaut nach nicht, weil sie an „von einem Nutzer bereitgestellte Informationen“ anknüpfen.
4. Soweit KI-Systeme für die Beantwortung von Nutzeranfragen unmittelbar auf webbasierte Informationen zugreifen und zugleich Suchergebnisse (einschließlich Links) ausspielen, können sie funktional als „Online-Suchmaschinen“ i.S.d. Art. 3 lit. j DSA eingeordnet werden. Das Verhältnis dieses Begriffs zu den drei Vermittlungsdienst-Kategorien des Art. 3 lit. g DSA ist systematisch nicht kohärent; überzeugend erscheint, Online-Suchmaschinen als Vermittlungsdienste sui generis zu verstehen. Gleichwohl verbleibt eine zentrale Rechtsunsicherheit: Selbst bei Anwendbarkeit des DSA auf KI-Suchmaschinen besteht wegen der Eigeninhaltsqualität der KI-Antworten eine Regelungslücke hinsichtlich Haftungsfreistellungen und prozeduraler Pflichten.
5. Die hervorgehobene Positionierung von KI-Antworten und die Einbettung weiterführender Links sind für Sichtbarkeit und Auffindbarkeit fremder (insb. journalistischer) Inhalte entscheidend. Bei den Quellen, auf die die Links verweisen, handelt es sich um Fremdinhalte. Daher finden die Intermediär-Transparenzregeln (DSA, P2B-VO, §§ 93, 94 MStV) grundsätzlich Anwendung. Wettbewerbsrechtlich können insbesondere Selbstbevorzugung, diskriminierende Auffindbarkeitspraktiken und die Verfestigung konglomerater Plattformmacht relevant werden; der DMA (einschließlich Self-preferencing-Verbot und Datenzugangsregeln) bleibt hierfür ein zentraler Durchsetzungsrahmen, ohne aber die vielfaltssichernde Zielsetzung des Medienrechts ersetzen zu können.
6. Die Nutzung von Inhalten Dritter für Training und Output wirft erhebliche urheberrechtliche Fragen auf. Für Trainingsvorgänge ist das Text- und Data Mining-Regime (§ 44b UrhG, Art. 4 DSM-RL) zentral. Dessen Reichweite sowie die praktische Wirksamkeit des (maschinenlesbaren) Opt-out sind jedoch ungeklärt bzw. defizitär. Für die Nutzung journalistischer Inhalte ist zudem das Presseverleger-Leistungsschutzrecht (§§ 87f ff. UrhG) bedeutsam: KI-Antworten können eine substituierende Wirkung entfalten und damit die Investitionsleistung der Presseverleger beeinträchtigen. In der Praxis stößt die individuelle Rechtsdurchsetzung an Nachweis- und Durchsetzungsgrenzen; naheliegend sind daher eine Stärkung kollektiver Rechtewahrnehmung sowie eine Verlagerung von Nachforschungs- und Transparenzpflichten auf die Betreiber von KI-Suchmaschinen.
7. Die KI-VO adressiert KI-Suchmaschinen über mehrere Anknüpfungspunkte, insbesondere über Art. 50 (Transparenzpflichten für synthetische Inhalte) sowie über das Regime für GPAI-Modelle (Art. 51 ff., insb. Art. 53 Abs. 1 lit. c und d). Für GPAI-Anbieter ergeben sich u. a. Pflichten zur Urheberrechts-Compliance-Policy und zur Veröffentlichung einer hinreichend detaillierten Zusammenfassung der Trainingsdaten-Inhalte. Art. 50 Abs. 4 UAbs. 2 KI-VO (synthetische Texte zu Angelegenheiten öffentlichen Interesses) ist handwerklich unklar und sollte – jedenfalls hinsichtlich KI-Suchmaschinen – durch Auslegungshilfen (Praxiskodizes/Leitlinien) oder gesetzgeberisch präzisiert werden. Auf nationaler Ebene besteht zudem Abstimmungsbedarf zwischen der vorgesehenen Marktaufsicht im KI-MIG-E und einer effektiven medienrechtlichen Vollzugskompetenz, die auch nicht-journalistische KI-Suchmaschinenanbieter erfasst.
8. Aus den vorgenannten Befunden folgt eine mehrstufige Anpassungsempfehlung: (i) Im DSA ist zu klären, ob und in welchem Umfang KI-Suchmaschinen erfasst werden und welche Haftungs- und Sorgfaltsarchitektur für KI-Antworten gelten soll; (ii) in der KI-VO bzw. ihren Vollzugsinstrumenten sind Transparenzpflichten für KI-Suchmaschinen zu präzisieren; (iii) im Urheberrecht sind Reichweite und Effektivität des Text und Data Mining-Opt-out sowie praxistaugliche Vergütungs- und Durchsetzungsmechanismen weiterzuentwickeln; (iv) um die systematische Einordnung von hybriden Angeboten wie KI-Suchmaschinen zwischen Intermediärs- und Inhalteanbieterregime zu zweifelsfrei abzubilden, ist auf Landesebene eine eigenständige Telemedien-Kategorie für KI-Suchmaschinen mit Pflichten zur Vielfaltssicherung zu schaffen (insb. Verantwortlichkeit für eigene Inhalte, Quellenangabe und -verlinkung, Transparenz zu Auswahl-/Rankingparametern, Diskriminierungsverbot gegenüber journalistischen Angeboten, Zustellungsbevollmächtigter, Auffindbarkeitsvorgaben für besonders vertrauenswürdige Inhalteanbieter sowie Transparenzregeln für Targeting).
https://www.die-medienanstalten.de/service/gutachten/ki-suchmaschinen-2/