Chinesische Internetaufsichtsbehörde geht gegen KI-Fälschungen von Promis vor
Regulierung
Die chinesische Internetaufsichtsbehörde hat eine landesweite Aktion gegen KI-generierte Fälschungen bekannter Personen durchgeführt. Nach eigenen Angaben wurden dabei mehr als 47.000 rechtswidrige Beiträge gelöscht und 3961 Accounts gesperrt. Die Aktion richtete sich gegen vier Arten von Missbrauch: unautorisierte Werbung mit KI-nachgebildeten Gesichtern und Stimmen Prominenter, erfundene Krankheitsgerüchte, in der Ich-Form verfasste gefälschte Aussagen und Gefühlsbekenntnisse sowie KI-generierte anzügliche Tanz- oder Intimszenen mit bekannten Personen.
Laut IT Home betrafen die Fälle Accounts auf WeChat, Douyin, Xiaohongshu, Bilibili und Kuaishou. In der ersten Kategorie nutzten Betreiber ohne Erlaubnis Gesichter und Stimmen von Prominenten oder sogar Abbildungen von deren Angehörigen für Produktwerbung. In der zweiten Kategorie entstanden mit KI-Effekten gefälschte Fotos, die angebliche Krankheiten von Prominenten zeigen sollten. Die dritte Kategorie umfasst Beiträge, in denen sich jemand als bekannte Person ausgibt und in deren Namen Meinungen, Erlebnisse oder Gefühlsbekenntnisse veröffentlicht, um Follower zu gewinnen. In der vierten Kategorie wurden KI-generierte Videos von Prominenten bei anzüglichen Tänzen oder intimen Szenen zur Vermarktung genutzt.
Die Aktion ist laut den Quellen Teil einer seit 2026 laufenden Kampagne der Behörde gegen KI-Missbrauch. Im September hatte die Cyberspace-Verwaltung die zweite Phase der Kampagne „Qinglang: Gegen KI-Anwendungsmissbrauch“ gestartet, in deren Rahmen bis Anfang September bereits mehr als 5,61 Millionen Beiträge gelöscht und rund 49.000 Accounts gesperrt worden waren. Ende September folgte eine zweimonatige Kampagne gegen gefälschte Kurzvideo-Identitäten, die KI-Imitationen bekannter Personen ausdrücklich als eines von fünf Schwerpunktthemen nennt. Die Behörde kündigte an, Plattformen mit besonders vielen Verstößen rechtlich zu belangen und den Druck auf die Betreiber weiter zu erhöhen.
Für mich zeigt die Aktion vor allem, dass die Verantwortung für KI-Fälschungen inzwischen klar bei den Plattformen verortet wird, nicht nur bei den Erstellern der Inhalte. Wer als Plattform Deepfake-Werbung mit Prominentengesichtern zulässt, muss künftig mit behördlichem Durchgreifen rechnen. Angesichts der Zahlen aus dem September - 5,61 Millionen gelöschte Beiträge, 49.000 gesperrte Accounts - wirkt die aktuelle Zahl von 3961 Accounts eher wie ein Ausschnitt aus einer größeren, fortlaufenden Kampagne als wie ein abgeschlossener Vorgang.
Offen bleibt: Die genannten Zahlen stammen ausschließlich von der Behörde selbst, eine unabhängige Bestätigung der Fallzahlen oder der Einordnung der Verstöße liefert keine der Quellen.
Quellen: AIbase News · IT Home · Yicai neueste
