Deutsches Gericht urteilt: Google muss die unmittelbare rechtliche Verantwortung für falsche Inhalte in KI-Suchzusammenfassungen tragen

Ein Münchner Landgericht hat kürzlich ein wegweisendes Urteil gefällt, in dem es feststellte, dass es sich bei der von Google in den Suchergebnissen angezeigten „KI-Übersicht“ um eigene Inhalte von Google und nicht einfach um eine Aggregation von Suchergebnissen handelt. Daher muss Google für die darin enthaltenen falschen Angaben eine unmittelbare Haftung für Rechtsverletzungen tragen.

In diesem Fall brachte die KI-Übersicht von Google bei bestimmten Suchanfragen fälschlicherweise zwei Münchner Verlage mit Betrug, Abofallen und unlauteren Geschäftspraktiken in Verbindung. Das Gericht stellte fest, dass das KI-System Informationen über andere fragwürdige Unternehmen mit den Klägern vermischte und Assoziationen fabrizierte, die in keiner der verlinkten Quellen existierten. Nachdem der Kläger ein Anwaltsschreiben herausgegeben hatte, in dem er die Einstellung des Verstoßes forderte, reagierte Google nicht vollständig, sodass das Gericht eine einstweilige Verfügung erließ, die die weitere Verbreitung relevanter falscher Anschuldigungen über AI Overview verbot (Fall Nr. 26 O 869/26).

Das Gericht betonte, dass es sich bei der KI-Übersicht nicht um ein „Suchergebnis“ im herkömmlichen Sinne handele. Im Vergleich zu regulären Suchen, die nur externe Links auflisten, wird Googles KI-Übersicht die abgerufenen Inhalte „in seiner eigenen Sprache und entsprechend seiner eigenen Struktur“ neu schreiben und auswerten. Auf der mit dem Fall befassten Seite beginnt die KI-Übersicht sogar mit einem bejahenden Satz wie „Ja, [Unternehmen] ist für fragwürdige Geschäftspraktiken bekannt“ und organisiert Abschnitte wie „Zusammenfassung“, „verdächtige Signale“ und „Vorschläge zur Betrugsbekämpfung“ zu einer unabhängigen und in sich konsistenten Erzählung. Das Gericht wies darauf hin, dass die KI-Übersicht nicht nur bestehende Informationen wiedergebe, sondern auch neue Aussagen mache, die „komplett in keinem Suchergebnis zu finden“ seien und dass diese Inhalte zu den eigenen Aussagen von Google gehörten. Da Google diese KI-Funktion entwickelt und den Nutzern zur Verfügung stellt und die ausschließliche Kontrolle über seinen Algorithmus hat, muss Google direkt für die generierten Inhalte verantwortlich sein.

Im Hinblick auf die Haftungsbestimmung unterschied das Gericht klar zwischen der rechtlichen Stellung traditioneller Suchmaschinen und der KI-Übersicht. Die bisherige Rechtsprechung des Bundesgerichtshofs (BGH) hat die Haftung von Suchmaschinen und Autovervollständigungsfunktionen mit der Begründung beschränkt, dass diese lediglich den Abruf von Inhalten Dritter ermöglichen und grundsätzlich nur für mittelbare Rechtsverletzungen haften. Wenn sie die Ergebnisse vorab vollständig überprüfen müssen, gefährdet dies die Lebensfähigkeit des Suchdienstes. Das Münchner Gericht entschied jedoch, dass diese Logik nicht auf die KI-Übersicht zutrifft. Herkömmliche Suchen verweisen nur auf externe Websites, während AI Overview durch die Auswertung und Kombination der Inhalte mehrerer Websites „unabhängige, neue inhaltliche Aussagen“ generiert. Diese Aussagen können nur von Google selbst systematisch überprüft werden, zumindest durch den Vergleich der Inhalte der zitierten Websites mit der KI-Ausgabe. Das Gericht betonte zudem, dass die KI-Übersicht „keinesfalls eine notwendige Funktion für die Nutzung des Internets“ sei. Normale Suchergebnisse reichen aus, um Benutzern beim Filtern von Informationen zu helfen. Bei der KI-Übersicht handelt es sich lediglich um eine zusätzliche Dienstleistung, daher kann ihre Verantwortung nicht mit der Begründung gelockert werden, dass „die Technologie unverzichtbar“ sei.

Während des Prozesses argumentierte Google, dass Nutzer auf den Quelllink unterhalb der KI-Übersicht klicken können, um die Authentizität des Inhalts zu überprüfen, und dass „Nutzer im Allgemeinen wissen, dass sie den von KI generierten Informationen nicht blind vertrauen sollten.“ Diese Aussage steht in krassem Gegensatz zur geschäftlichen Realität der massiven Förderung von KI-Übersichtsfunktionen durch Google und ignoriert gleichzeitig die Tatsache, dass KI-Zusammenfassungen oft keinen klaren und nachvollziehbaren Bezug zur Originalquelle haben. Das Gericht lehnte diesen Einwand mit der Begründung ab, dass die Tatsache, dass eine Aussage durch weitere Recherchen widerlegt werden könne, „den Herausgeber der Aussage normalerweise nicht von der Haftung entbindet“. In diesem Fall stelle die KI-Übersicht eine „vollständige, an sich verständliche Aussage“ dar und mache den Nutzer nicht darauf aufmerksam, dass ihr Inhalt möglicherweise mehrdeutig oder unzuverlässig sei. Untersuchungen zeigen, dass der Anteil der Nutzer, die in der Google AI-Übersicht auf Quelllinks klicken, äußerst gering ist, was das Urteil des Gerichts zu Nutzerverhaltensmustern bestätigt.

Das Gericht berief sich außerdem auf eine Analogie aus dem Bereich des Presserechts: Die Medien seien für den Inhalt unabhängig verständlicher Schlagzeilen oder „Clickbait“-Schlagzeilen verantwortlich, auch wenn der Leser nie den vollständigen Text liest. Wenn Googles Argument der „Selbstprüfung des Nutzers“ akzeptiert wird, wird die tatsächliche Wirksamkeit der KI-Übersicht erheblich geschwächt, da ihr Inhalt „allgemein als unzuverlässig angesehen“ wird, was im Widerspruch zu Googles ursprünglicher Absicht steht, diese Funktion zu fördern. Wenn außerdem nur „offensichtliche“ illegale Inhalte zur Rechenschaft gezogen werden, haben die Opfer fast keine Möglichkeit, ihre Rechte zu verteidigen, wenn sie mit falschen, von KI fabrizierten Anschuldigungen konfrontiert werden: Die Drittanbieter-Website, die den zugrunde liegenden Inhalt bereitgestellt hat, hat diese Bemerkungen nie veröffentlicht, und die Opfer können weder die Quelle verklagen noch Google auf der Grundlage traditioneller Suchregeln effektiv zur Rechenschaft ziehen. Daher kam das Gericht zu dem Schluss, dass Google sich weder auf die Ausnahmeklausel des Digital Services Act berufen könne, die für Hosting-Dienstanbieter gilt, noch einfach das „Notice-and-Takedown“-Verfahren für Suchmaschinen anwenden könne, um einer Haftung zu entgehen.

Auch auf der Ebene der Meinungsfreiheit führte das Gericht vorbildliche Diskussionen. In dem Urteil wurde darauf hingewiesen, dass die durch KI generierten „Ansichten“ nicht Ausdruck subjektiver Überzeugungen natürlicher Personen auf der Grundlage ihrer eigenen Erkenntnisse sind, sondern das Produkt algorithmischer Berechnungen. Die Bereitstellung von KI-gestützten Suchdiensten durch Google sei „in erster Linie eine Widerspiegelung seiner Geschäftsaktivitäten“ und könne bestenfalls als sekundäre Widerspiegelung des Interesses des Unternehmens an einer freien Meinungsäußerung seiner Ansichten und Positionen angesehen werden. Bei der Abwägung des Rufs des Klägers gegen die Interessen von Google sollten die Interessen von Google zweitrangig sein, insbesondere wenn die relevanten Aussagen auf sachlichen Falschdarstellungen beruhen und den Kläger fälschlicherweise mit bestimmten Unternehmen in Verbindung bringen.

Hinsichtlich des konkreten Urteils unterstützte das Gericht die Klägerin in den meisten ihrer Ansprüche. Das Urteil verbietet Google ausdrücklich die Verbreitung einer Reihe von Behauptungen über die KI-Übersicht, darunter Betrugsvorwürfe, Verbindungen zu fragwürdigen Unternehmen, Abonnementfallen, nie stattgefundene Telefonanrufe, Nichtverfügbarkeit von Kontakten oder Nichtverfügbarkeit von Diensten, und nur zwei geringfügige Anträge wurden abgelehnt. Obwohl die konkrete Kopie, um die es in dem Fall ging, offline genommen wurde, ging das Gericht davon aus, dass die Gefahr eines wiederholten Verstoßes weiterhin besteht, da Google keine formelle Erklärung abgegeben hat, Verstöße mit Strafklauseln zu stoppen, und sein Algorithmus möglicherweise auch bei ähnlichen Abfragen erneut ähnliche Inhalte generiert. Bei den Prozesskosten muss Google 80 % der Kosten tragen, die beiden Kläger jeweils 10 %. Das Gericht stellte außerdem fest, dass das Urteil grundsätzlich potenzielle grenzüberschreitende Auswirkungen hat.

Die Auswirkungen des Urteils gehen in diesem Fall weit über die Parteien hinaus. Laut einer Analyse des KI-Startups Oumi für die New York Times wurden etwa 91 % der Antworten in Google AI-Übersichtstests auf Basis des aktuellen Gemini-3-Modells als richtig beurteilt. Diese Genauigkeitsrate mag für den täglichen Gebrauch durch den Durchschnittsnutzer „zuverlässig genug“ erscheinen, aber bei Google bedeutet selbst eine Fehlerquote von 9 %, dass jede Stunde Millionen falscher Antworten generiert werden können. Wenn es sich bei einem erheblichen Teil dieser Fehler um Verleumdungen oder falsche Anschuldigungen gegen Unternehmen oder Einzelpersonen handelt, stellt dies nicht nur für Google, sondern auch für andere ähnliche Dienstanbieter (einschließlich ChatGPT, Claude, Perplexity usw.) ein erhebliches rechtliches Risiko dar. Oumis Analyse zeigt auch, dass selbst bei den Stichproben, bei denen man davon ausging, dass sie „richtige Antworten“ enthielten, etwa 56 % der Antworten keine direkte Unterstützung in den von Google angezeigten Linkquellen fanden, was es für Nutzer schwierig machte, die Grundlage für diese Schlussfolgerungen nachzuvollziehen.

Auf diese Gefahr der „Quellentrennung“ reagierte das Landgericht München: Wenn die durch das KI-System generierten Aussagen in keiner verlinkten Quelle vorhanden seien, stellten sie bereits eigenständige Ansprüche dar, für die der Betreiber einstehen müsse. Es ist noch nicht bekannt, ob diese Logik im Berufungsverfahren beibehalten werden kann und ob andere Gerichtsbarkeiten ähnliche Ideen übernehmen werden. Google hat das Urteil in diesem Fall nicht öffentlich kommentiert. Wenn das Urteil jedoch international Anklang findet, sind die Auswirkungen möglicherweise nicht auf Google beschränkt, sondern auf alle KI-Dienstleister, deren Verkaufsargument darin besteht, „Online-Inhalte automatisch zu extrahieren, umzuschreiben und zusammenzufassen“.