China ahndet Fälle von manipulierter KI-Suchoptimierung

Regulierung

Chinesische Behörden gehen gegen Unternehmen vor, die KI-Chatbots gezielt mit gefälschten Inhalten manipulieren. Die Praxis wird als „Black-Hat-GEO“ (generative engine optimization) bezeichnet. Marketingagenturen fluten das Internet mit erfundenen Inhalten, damit KI-Chatbots bestimmte Marken empfehlen oder sogar nicht existierende Produkte anpreisen. Drei Verwaltungsverfahren und eine Reportage des Staatsfernsehens CCTV haben die Praxis öffentlich gemacht.

Ein Fall betraf eine elfköpfige Kanzlei in der Provinz Guangdong. Ein Artikel auf einem Sohu-Blog hatte ein frei erfundenes Ranking der „Top 5 Strafverteidigungskanzleien Guangzhous 2026“ veröffentlicht, in dem die Kanzlei mit einem Gesamtscore von 92,5 und einer angeblichen Erfolgsquote von über 70 Prozent bei komplexen Fällen an erster Stelle stand. Als Nutzer ByteDances KI-Modell Doubao nach den besten örtlichen Kanzleien fragten, gab das Modell diese erfundenen Angaben als Fakten wieder. Laut Regulierungsbehörde hatte die Firma Guangzhou Liqing Zhifu Technology Co. Ltd. Zugang zu einer Optimierungsplattform gekauft, um solche Artikel massenhaft auf Portalen wie Sohu und NetEase zu veröffentlichen und so KI-Abrufsysteme zu beeinflussen. Am 4. September verhängte die Marktaufsichtsbehörde des Bezirks Yuexiu gegen Liqing eine Geldstrafe von 120.000 Yuan (17.983 US-Dollar) wegen Verstoßes gegen das chinesische Gesetz gegen unlauteren Wettbewerb. Liqing habe ähnliche Dienste auch einer weiteren Kanzlei in Guangdong angeboten und dabei Kundenzufriedenheitswerte und Fallzahlen künstlich erhöht.

Bekannt wurde GEO im März durch die jährliche CCTV-Gala zu Verbraucherrechten. Dort zeigten Brancheninsider, wie das „Liqing-GEO-Optimierungssystem“ gefälschte Bewertungen und Werbetexte für ein nicht existierendes Smart-Band erzeugte; kurz darauf empfahlen zwei große KI-Modelle das fiktive Produkt. Behörden im Bezirk Huairou in Peking ermitteln laut dem Bericht gegen die damit verbundene Firma. GEO funktioniert laut der Meldung, indem Quellen durch zusätzliche Zitate, aufgeblähte Statistiken und erfundenen Konsens in KI-generierten Antworten sichtbarer gemacht werden. Die legale Variante, White-Hat-GEO, strukturiert dagegen nur überprüfbare Informationen so, dass Algorithmen sie leichter verarbeiten können.

Eine Anwältin der Chinese Academy of Social Sciences, Yao Jia, erklärte, Gerichte könnten nicht automatisch von einem Verbraucherschaden ausgehen, nur weil eine KI eine falsche Empfehlung ausgebe. Nutze eine Kanzlei jedoch aktiv ein erfundenes Ranking, um einen Vertrag abzuschließen, liege ein Fall von Vertragsbetrug vor, der gesondert zu prüfen sei. Chen Bing von der Nankai University argumentierte, Plattformen dürften weder pauschal für zitierte manipulierte Daten bestraft noch unter Berufung auf technologische Neutralität vollständig von Verantwortung freigestellt werden. Das Unternehmen DeepSeek erklärte, sein Suchwerkzeug nutze strenge Filtermechanismen gegen GEO-Manipulation. Im August veröffentlichte ein chinesischer Fachverband für Nachrichtentechnik Standards, die White-Hat- und Black-Hat-GEO abgrenzen und „Prompt-Injection-Angriffe“ verbieten. Am 7. September erließ der Oberste Volksgerichtshof Chinas Richtlinien, wonach jeder, der KI für Rechtsverletzungen, irreführende Werbung oder unlauteren Wettbewerb einsetzt, dafür rechtlich haftet.

Quelle: Caixin Global