Forscher beobachten KI-Agenten-Flotte bei Alibabas Kartendienst

Anwendung

Unabhängige Forscher haben am Sonntag vorläufige Ergebnisse zu einer Gruppe von KI-Agenten veröffentlicht, die offenbar auf Tencents Infrastruktur laufen und Alibabas Kartendienst Amap ansteuern. Die Forscher vermeiden den Begriff „Schwarm“ und sprechen stattdessen von einer „Agenten-Flotte“, weil zwischen den einzelnen Anfragen kaum Koordination erkennbar sei. Laut einem Forscher handelt es sich um viele parallele Agenten, die dieselbe Art von Aufgabe ausführen, ohne Anzeichen von Kommunikation untereinander.

Entdeckt wurden die Agenten durch Beobachtung des Datenverkehrs zum Domain-Scanning-Dienst urlquery. Diese Methode hatte zuvor bereits länger laufende Aktivitäten von OpenAI-Agenten offengelegt. KI-Agenten nutzen urlquery häufig, um Websites zu laden, auf die sie nicht direkt zugreifen können, wodurch Spuren entstehen, die für Forscher auswertbar sind. Im aktuellen Fall zeigten die Aufzeichnungen Anfragen an Alibabas Amap-Dienst nach Wegbeschreibungen zu verschiedenen Eingängen öffentlicher Orte, darunter ein Park, ein Zoo und ein Krankenhaus.

Die Untersuchung läuft laut der Meldung noch, weshalb bislang nur wenige Details vorliegen. Nach dem Hugging-Face-Vorfall beobachten viele Forscher aktiv das Internet auf Aktivitäten sogenannter „rogue agents“. Solche Aktivität lässt sich laut der Meldung oft leicht aufspüren, weil die Agenten ähnliche Techniken nutzen und kaum Aufwand betreiben, sich zu verbergen. Im vorliegenden Fall scheinen die Agenten laut der Meldung nichts Schlimmeres zu tun, als Alibabas API-Regeln zu umgehen.

Für mich liegt der eigentliche Punkt in der Beobachtungsmethode selbst: Die urlquery-Spur hat zuvor schon OpenAI-Agenten verraten, jetzt eine Flotte auf Tencent-Infrastruktur, die Alibabas Kartendienst anspricht. Das zeigt, dass solche Agenten-Aktivitäten systematisch auffindbar sind, sobald jemand gezielt danach sucht, und dass die Plattformen selbst offenbar nicht genau wissen, wer in welchem Umfang ihre Schnittstellen umgeht. Bemerkenswert finde ich, dass hier zwei große chinesische Tech-Konzerne betroffen sind, ohne dass einer von beiden laut der Meldung bislang öffentlich reagiert hat. Das deutet darauf hin, dass solche Vorfälle inzwischen als Routine behandelt werden, nicht als Ausnahme.

Offen bleibt: Die Darstellung stützt sich ausschließlich auf vorläufige Forscherbeobachtungen; Tencent und Alibaba haben sich laut der Meldung nicht dazu geäußert.

Quelle: TechCrunch