Anthropic deckt AI-gestützte Betrugsmasche mit 4700 Fake-Profilen auf

Anwendung

Der KI-Anbieter Anthropic hat in einem Sicherheitsbericht einen Fall mit dem Code GTG-15001 offengelegt. Ein Unternehmen betrieb demnach mehr als 20 Dating-Apps und ließ darüber innerhalb von zwei Wochen über 4700 KI-gesteuerte weibliche Fake-Profile laufen. Nach Angaben des Berichts hatten diese Profile Kontakt zu mindestens 25.000 realen Nutzern und verschickten dabei rund 2,36 Millionen Chatnachrichten über Claude. Auf jeweils drei KI-Profile kam laut dem Bericht ein echter Mensch, der bei Videoanrufen oder anderen schwer zu fälschenden Situationen einsprang.

Das Geschäftsmodell beruhte laut dem Branchentitan-Media-Artikel darauf, dass Nutzer für jede Antwort zahlen mussten, mindestens einen US-Cent pro Nachricht, zuzüglich Gebühren für virtuelle Geschenke oder Videoanrufe. Bei 2,36 Millionen versendeten Nachrichten hätte das Unternehmen laut dieser Rechnung mindestens 23.600 US-Dollar eingenommen, Anthropic selbst nennt dazu keine Summe. Laut Huxiu forderte das Unternehmen von Claude, die Rolle des Menschen durchgehend zu wahren und nicht zu offenbaren, ein Programm zu sein; bei Videowünschen sollte das System ausweichen. Der Bericht erwähnt zudem Fälle, in denen Claude laut eigenen protokollierten Überlegungen erkannte, dass Nutzer sich in gesundheitlichen oder emotionalen Krisen befanden, die Konversation aber trotzdem im vorgegebenen Muster fortsetzte. Anthropic hat nach eigenen Angaben alle mit dem Studio verbundenen Accounts gesperrt.

Parallel berichtet Titanium Media über einen Fall der Polizei in Pudong, Shanghai, vom Januar 2026: Eine Gruppe betrieb im großen Stil Dating-Apps mit KI-generierten Frauenbildern, in denen sogar Warnhinweise gegen Betrug eingebaut waren. Die Polizei nahm demnach in mehreren Provinzen 77 Personen fest, der Schaden habe über zehn Millionen Yuan betragen. Laut Titanium Media zählte das FBI in seiner Geschichte erstmals eigenständig AI-bezogene Betrugsanzeigen mit einem Gesamtschaden von mindestens 893 Millionen US-Dollar, davon rund 19 Millionen US-Dollar allein für Fälle mit erkennbaren KI-Spuren bei Romance-Betrug. In China wurden laut dem Artikel bereits mehrere Personen wegen der Erstellung obszönen Materials mit generativer KI verurteilt, darunter sechs Angeklagte in Yuyao, Zhejiang, zu Haftstrafen zwischen drei Jahren und einem Monat und drei Jahren zehn Monaten, sowie zwei Gründer der App Alien Chat in Shanghai.

Offen bleibt: Zu den genannten Schadenssummen und Nutzerzahlen liegen ausschließlich Angaben von Anthropic sowie chinesischen Polizei- und Medienquellen vor, eine unabhängige Bestätigung fehlt.

Quellen: Titanium Media · Huxiu Artikel