ByteDance richtet bei Seed eigene Abteilung für Modellsicherheit ein

Modelle

ByteDance Seed hat eine neue Abteilung mit dem Namen "Seed Model-Alignment & Preparedness" gegründet. Sie wird von Yan Lin geleitet und berichtet an Wu Yonghui, den Leiter von Seed. Das bisherige Responsible-AI-Team sowie Teile des Chat-Teams wechseln in die neue Abteilung. Ziel ist es, die Sicherheit von Agentenmodellen zu verbessern und Risiken vorzubeugen, die von chemischen, biologischen, radiologischen und nuklearen (CBRN) Fähigkeiten ausgehen könnten.

Der Aufgabenbereich der Abteilung umfasst laut AIbase die Erstellung von Modellspezifikationen, den Aufbau von Systemen zur Sicherheitsbewertung, Alignment-Training, den Aufbau von Schutzsystemen sowie Risikoüberwachung. Die Zusammenarbeit mit externen Forschungseinrichtungen und unabhängigen Bewertungsstellen soll ausgeweitet werden. 36Kr bestätigt die Grundzüge und ergänzt, Ziel des Alignments sei es, Modellverhalten mit menschlichen Absichten und Sicherheitsvorgaben in Einklang zu bringen. Laut 36Kr wurde die Gründung intern per E-Mail angekündigt.

Nach Angaben von AIbase war Sicherheits- und Alignment-Arbeit bei chinesischen Large-Model-Teams bisher meist Teil des allgemeinen Unternehmens-Compliance-Systems. Laut der Meldung ist ByteDance Seed damit das erste chinesische Labor für KI an vorderster Front, das eine eigenständige Abteilung für Sicherheit und Alignment einrichtet. Intern gehe man bei Seed davon aus, dass Sicherheit und Alignment auch Voraussetzung dafür seien, Modelle in komplexen Anwendungsfällen in großem Maßstab einzusetzen.

Für mich zeigt das, dass Sicherheitsarbeit bei chinesischen KI-Labors aus der allgemeinen Compliance-Abteilung herausgelöst und zu einer eigenen Organisationseinheit wird. Wenn ByteDance Seed tatsächlich das erste chinesische Labor mit einer eigenständigen Alignment-Abteilung ist, wie die Quelle schreibt, setzt das einen Bezugspunkt, an dem sich andere große Anbieter wie Zhipu oder Moonshot AI künftig messen lassen müssen. Ich erwarte, dass Konkurrenten unter Druck geraten, Sicherheitsarbeit ähnlich sichtbar zu organisieren, sobald sie gegenüber Aufsichtsbehörden oder internationalen Partnern Rechenschaft ablegen müssen.

Offen bleibt: Die Behauptung, ByteDance Seed sei das erste chinesische Labor mit eigenständiger Sicherheits- und Alignment-Abteilung, stützt sich laut AIbase nur auf unbenannte "einschlägige Informationen" und bleibt unbelegt.

Quellen: AIbase News · 36Kr Newsflashes