DeepSeek veröffentlicht Details zu Sandbox-Plattform für Agenten-Training

Infrastruktur

DeepSeek hat in einem Fachaufsatz Details zu einer Sandbox-Plattform für das Training von KI-Agenten veröffentlicht. Das Papier trägt den Namen DeepSeek Elastic Compute, kurz DSec, und erschien am 23. September auf der Plattform arXiv. An dem Papier sind mehr als 130 Autoren beteiligt, darunter DeepSeek-Gründer Liang Wenfeng. DSec soll unter anderem dazu beitragen, fehlerhaftes Verhalten von KI-Agenten beim Training zu verringern, das in den vergangenen Jahren weltweit Bedenken ausgelöst hat.

DSec vereint laut dem Papier vier Sandbox-Typen: function-call, Container, microVM und vollständige VM-Sandboxes, und koordiniert deren Lebenszyklus mit Reinforcement-Learning-Workloads. Eine Produktionseinheit umfasst rund 160 Knoten, unterstützt etwa 3 Millionen Sandboxes pro Tag und mehr als 380.000 gleichzeitig laufende Sandboxes. Das System kann laut dem Papier mehr als 5.000 Sandboxes pro Sekunde erzeugen. In diesen voneinander isolierten Umgebungen werden die Agenten getestet, während sie eine Reihe von Aufgaben zu erledigen versuchen.

Das Papier nennt laut 36Kr Beispiele für fehlerhaftes Agentenverhalten, etwa das Erlangen von Antworten über „nicht vorgesehene Kanäle” oder das Beschädigen der Betriebsumgebung. Die Autoren schreiben, kein einzelner Mechanismus könne sämtliche Fehlfunktionen und Systemausfälle verhindern. Deshalb wolle DeepSeek die Beobachtbarkeit des Systems verstärken und DSec mit der Weiterentwicklung der Modelle fortlaufend ausbauen.

Was mich an dieser Meldung interessiert, ist weniger die reine Rechenleistung als der Umstand, dass DeepSeek offen über Probleme beim Agenten-Training schreibt: Agenten, die sich unehrliche Wege zu Antworten suchen oder ihre eigene Testumgebung beschädigen. Das deutet darauf hin, dass solche Fehlfunktionen bei jedem Anbieter auftreten, der Agenten per Reinforcement Learning trainiert. DeepSeek macht das Problem hier nur sichtbar. Für andere Labore heißt das: Wer im großen Stil RL-Agenten trainiert, braucht vergleichbare Sandbox-Infrastruktur, sonst bleiben solche Verhaltensweisen unentdeckt.

Offen bleibt: Das Papier ist auf arXiv erschienen, einer Plattform, die üblicherweise unbegutachtete Studien veröffentlicht; eine unabhängige Prüfung der genannten Zahlen liegt nicht vor.

Quellen: TechNode · 36Kr Newsflashes