Wie die KI Zusammenfassung (nicht) funktioniert
Technisch betrachtet basiert die KI-generierte Zusammenfassung zunächst auf der Auswertung mehrerer Webseiten. Die darin enthaltenen Informationen werden extrahiert und in prägnanten, zur Suchanfrage passenden Stichpunkten zusammengefasst. Das System kombiniert, paraphrasiert und gewichtet die gefundenen Inhalte. Dadurch entsteht bei Nutzerinnen und Nutzern leicht der Eindruck einer neutralen und umfassenden Analyse, die ebenso aufschlussreich sei wie die ausführliche Lektüre der jeweiligen Webseiten.
Das Problem dabei: KI-Sprachmodelle erzeugen Text auf Grundlage statistischer Muster. Sie verstehen Inhalte nicht, sondern berechnen wahrscheinliche Wortfolgen Das führt zu einem Phänomen, das als Halluzination bezeichnet wird: Das Modell „erfindet“ Fakten, die plausibel klingen, aber schlicht falsch sind.
Hinzu kommt, dass die AI Overview mit Quellen arbeitet, die:
- schlicht missverstanden werden, weil das Modell keine semantische Tiefe besitzt,
- veraltet sein können, (Änderungen in Unternehmensdaten, rechtliche und tatsächliche Entwicklungen, Personalien),
- fehlerhaft sind (die KI übernimmt falsche Aussagen und kann Quellen nicht auf ihre Seriosität prüfen),
- aus dem Kontext gerissen werden.
Wer glaubt, dass solche Fehler nur vereinzelt auftreten können, irrt. Aktuelle Studien weisen auf „alarmierende Fehlerquoten“ beim Einsatz von KI-Modellen hin.
Leistungsstark, aber nicht unbedingt besser
Das von Google verwendete KI-Modell mag leistungsstark sein, ändert aber nichts daran, dass es falschen Output erzeugen kann. Dieses Risiko ist systemisch lässt sich bei KI nie ganz vermeiden.
Platzierung und Darstellung suggeriert Objektivität
Die prominente Platzierung und die Hervorhebung der KI-Übersicht ganz oben bei Google suggeriert dem durchschnittlichen Nutzer leicht, bei den dargestellten Informationen handle es sich um eine sorgfältig geprüfte Zusammenfassung aller Ergebnisse, quasi eine Art „Internet-Konsens“. Dabei bleibt häufig unklar, auf welchen Quellen die Aussagen tatsächlich beruhen. Dabei werden Foren wie Reddit einbezogen, obwohl die Aussagen auf derartigen Plattform keiner Prüfung unterliegen. Google hat mit Reddit sogar einen Deal über 60 Millionen US-Dollar abgeschlossen, um vorhandene Inhalte für KI nutzbar zu machen.
Falsche Inhalte bei Reddit löschen lassen
Der zwischen Google und Reddit ausgehandelte Deal macht es umso wichtiger, gegen Falschbehauptungen in Reddit-Foren vorzugehen. Denn einzelne Behauptungen von Nutzer:innen können wegen der KI-Zusammenfassung verstärkt ausgespielt werden.
In unserem Beitrag Illegale Posts bei Reddit: Wie wirksam löschen lassen? erfahren Sie mehr dazu, wie Sie gegen Falschinformationen bei Reddit vorgehen können.
Gezielte Manipulation?
Eine wenig diskutierte, aber reale Gefahr: Fehlerhafte oder manipulierbare AI-Overviews können auch gezielt als Instrument zur Schädigung eingesetzt werden. Wenn Suchalgorithmen auf Quellen reagieren, die strategisch platziert wurden, um bestimmte Aussagen über eine Person oder ein Unternehmen zu generieren, verschwimmt die Grenze zwischen algorithmischem Versagen und gezielter Desinformation. Ob und wie Google auf solche Manipulationsversuche reagiert, ist bislang weitgehend ungeklärt.
„Schützen Sie Ihren guten Ruf. Als Medienkanzlei haben wir Erfahrung bei der Entfernung von Falschbehauptungen und Verleumdungen.“
Welche Rechte sind bei KI-Zusammenfassungen betroffen?
Nicht jede fehlerhafte AI Overview ist automatisch rechtlich relevant. Entscheidend ist, ob die Falschdarstellung in eine geschützte Rechtsposition eingreift. Zwei Positionen stehen dabei im Vordergrund: das (Unternehmens-)Persönlichkeitsrecht und das Recht am eingerichteten und ausgeübten Gewerbebetrieb.
Persönlichkeitsrecht
Das allgemeine Persönlichkeitsrecht schützt natürliche Personen vor Eingriffen in ihre persönliche Ehre, ihr soziales Ansehen und ihre öffentliche Darstellung. Die Rechtsprechung hat diesen Schutz auf juristische Personen erweitert, jedenfalls soweit es um den sozialen Geltungsanspruch des Unternehmens in der Öffentlichkeit geht (sog. Unternehmenspersönlichkeitsrecht). Unternehmen können sich damit gegen unwahre Tatsachenbehauptungen zur Wehr setzen, die ihr Ansehen in der Öffentlichkeit herabsetzen.
Für die AI Overview sind vor allem folgende Konstellationen relevant:
- Unwahre Tatsachenbehauptungen
Beispiel: Die KI behauptet, ein Unternehmen sei insolvent, stehe unter behördlicher Untersuchung oder habe Produkte zurückgerufen, obwohl dies nicht zutrifft. - Rufschädigende Kontextverfälschung
Beispiel: Jemand wurde in einem Verfahren freigesprochen, die AI Overview erwähnt nur die Anklage. - Namensverwechslungen
Beispiel: Zwei ähnlich firmierende Unternehmen werden durcheinandergebracht; negative Informationen über das eine landen in der Zusammenfassung des anderen. - Falsche Personenzuordnungen
Beispiel: Eine Führungskraft wird in der Overview irrtümlich mit einem Straf- oder Zivilverfahren verknüpft.
Eine unwahre Tatsachenbehauptung ist gerichtlich angreifbar. Nach der Rechtsprechung des Bundesverfassungsgerichts können falsche Tatsachenbehauptungen nichts zur öffentlichen Meinungsbildung beitragen, sodass sie in der Regel unzulässig sind.
Für Unternehmen relevant ist, dass Falschbehauptungen auch als sog. Kreditgefährfung (§ 824 BGB) unzulässig sein können.
Recht am eingerichteten und ausgeübten Gewerbebetrieb
Das Recht am eingerichteten und ausgeübten Gewerbebetrieb ist ein sonstiges Recht im Sinne von § 823 Abs. 1 BGB. Es schützt den Betrieb als wirtschaftliche Einheit in seiner Gesamtheit – also nicht nur einzelne Vermögenspositionen, sondern den ungestörten Fortgang der unternehmerischen Tätigkeit als solcher. Die Rechtsprechung hat dieses Recht als Auffangtatbestand entwickelt, um Eingriffe zu erfassen, die durch andere Schutzinstrumente nicht vollständig abgedeckt werden. Der Eingriff muss betriebsbezogen sein. Er muss sich also unmittelbar gegen den Betrieb als solchen richten, nicht lediglich reflexartig dessen wirtschaftliche Lage beeinflussen. Diese Anforderung ist bei AI-Overview-Fällen in der Regel erfüllt: Eine falsche Zusammenfassung, die bei jeder Suche nach dem Unternehmen erscheint, trifft dieses direkt in seiner Außendarstellung.
- Traffic-Verlust als messbarer Schaden: Wenn potenzielle Kunden oder Geschäftspartner durch eine falsche AI Overview abgeschreckt werden und die eigentliche Website gar nicht mehr aufrufen, entsteht ein betriebsbezogener Schaden, der sich – jedenfalls theoretisch – anhand von Analytics-Daten dokumentieren lässt.
- Unterbindung der Anbahnung von Geschäftskontakten: Die AI Overview erscheint vor dem ersten Klick. Wer durch eine falsche Zusammenfassung davon abgehalten wird, überhaupt Kontakt aufzunehmen, fällt als potenzielle Vertragspartei weg, bevor das Unternehmen auch nur die Chance hatte, sich zu präsentieren.
- Reputationsschaden mit wirtschaftlichen Folgen: Bestehende Geschäftspartner könnten durch eine Falschdarstellung verunsichert werden.
Kartellrechtliches Missbrauchsverbot
§33 und §19 des Gesetzes gegen Wettbewerbsbeschränkungen verbieten unbillige Behinderungen des Wettbewerbes. Das Landgericht Frankfurt sah in einer objektiven falschen KI-Zusammenfassung verbotenes Verhalten von Google. Denn im Markt der Suchmaschinen ist Google mit über 90 % Marktanteil dominierend.
Kann man Google in Anspruch nehmen?
Das Landgericht Frankfurt am Main hat mit Urteil vom 10.09.2025 (Az. 2-06 O 271/25) wichtige Hinweise zur Haftung für KI-generierte Suchergebnisse gegeben. Die Rechtslage bleibt zwar weiterhin im Fluss, die Entscheidung zeigt aber: Google kann grundsätzlich für fehlerhafte KI-Zusammenfassungen verantwortlich gemacht werden.
Lange galt für Suchmaschinen ein weitreichendes Haftungsprivileg. Wer lediglich fremde Inhalte verlinkt oder technisch vermittelt, haftet grundsätzlich nicht für deren Inhalt. Nach Auffassung des Gerichts lässt sich dieses Prinzip jedoch nicht ohne Weiteres auf KI-generierte Zusammenfassungen übertragen.
Google stellt mit der KI-Zusammenfassung nicht mehr nur fremde Inhalte unverändert dar, sondern kreiert einen eigenen Text. Das Gericht weist ausdrücklich darauf hin, dass viel dafür spricht, solche KI-Zusammenfassungen als eigene Informationen bzw. eigene Äußerungen von Google anzusehen. Damit kann Google sich nicht ohne Weiteres darauf zurückziehen, lediglich fremde Inhalte weiterzugeben.
Das bedeutet allerdings nicht automatisch, dass jede falsche KI-Antwort sofort einen Anspruch gegen Google auslöst. Im konkreten Fall lehnte das Gericht den Unterlassungsanspruch ab, weil die beanstandete Aussage im Gesamtzusammenhang aus Sicht des Gerichts nicht als objektiv falsch bewertet wurde.
Die Entscheidung zeigt aber: Wer durch eine fehlerhafte KI-Zusammenfassung wirtschaftlich oder persönlich beeinträchtigt wird, sollte prüfen lassen, ob Ansprüche gegen Google bestehen. Das gilt insbesondere dann, wenn:
- die KI-Zusammenfassung objektiv falsche Tatsachen enthält,
- die Darstellung geschäftsschädigend oder rufschädigend ist,
- Nutzer durch die hervorgehobene KI-Antwort von anderen Informationsquellen abgehalten werden („Zero-Click-Effekt“),
- und die fehlerhafte Darstellung erhebliche Auswirkungen auf Kunden, Patienten oder Vertragspartner haben kann.
Besonders relevant ist dabei, dass das Gericht anerkannt hat, dass KI-Übersichten das Nutzerverhalten tatsächlich beeinflussen und externe Webseiten dadurch weniger aufgerufen werden können. Gerade Unternehmen, Ärzte, Anwaltskanzleien oder Dienstleister können daher wirtschaftlich betroffen sein, wenn Google falsche KI-Zusammenfassungen prominent anzeigt.
Von falschen AI Overviews betroffen? So vorgehen!
Wenn ein AI Overview falsche oder rufschädigende Behauptungen über Sie oder Ihr Unternehmen enthält, empfehlen wir Ihnen folgendes Vorgehen:
Checkliste: Vorgehen gegen KI-Zusammenfassung
-
Dokumentation mehrerer Zusammenfassungen
Der AI Overview kann sich jederzeit ändern oder verschwinden. Sichern Sie deshalb Screenshot und URL mit sichtbarem Datum und wiederholen Sie das an mehreren Tagen und mit unterschiedlichen Geräten, um zu belegen, dass die Falschdarstellung nicht nur einmalig aufgetaucht ist. Notieren Sie außerdem, welche Quellwebsites Google in der Zusammenfassung ausweist und erstellen Sie Screenshots von diesen Seiten. Sie können eine Anwaltskanzlei mit der Dokumentation beauftragen, um sicherzustellen, dass alles vollständig erfasst und nachweisbar ist.
-
Zusammenfassung beanstanden
Bevor rechtliche Schritte eingeleitet werden, sollte Google über die eigenen Meldeformulare informiert werden. Das begründet die nachweisbare Kenntnis Googles von der Rechtsverletzung und setzt eine Handlungspflicht in Gang. Wichtig ist, dass Sie Google die entsprechenden URLs konkret benennen. Da die Meldung besonders fehlerträchtig ist, sollten Sie sich auch hier anwaltlich begleiten lassen.
-
Rechtliche Bewertung
Nicht jede unangenehme Zusammenfassung ist auch eine Rechtsverletzung. Entscheidend ist, ob Google eine nachweislich falsche Tatsachenbehauptung verbreitet. Diese Prüfung sollte frühzeitig erfolgen, weil sie den gesamten weiteren Weg bestimmt. Zugleich sollte geprüft werden: Welche Websites hat Google als Quelle genutzt? Sind diese selbst fehlerhaft oder rechtswidrig, kann auch direkt gegen deren Betreiber vorgegangen werden.
-
Eilverfahren in Betracht ziehen
Reagiert Google auf die Meldung nicht, folgt die anwaltliche Abmahnung mit Aufforderung zur Unterlassung. Bleibt auch das ohne Ergebnis, steht der Weg zu Gericht offen. Das schnellste Instrument ist die einstweilige Verfügung: Sie kann innerhalb von Tagen erwirkt werden und zwingt Google, die Falschdarstellung zu stoppen, ohne dass ein monatelanges Hauptsacheverfahren abgewartet werden muss. Voraussetzung ist Dringlichkeit. Deshalb lont sich schnelles Handeln.
Schreiben Sie einen Kommentar