StartLux veröffentlicht offenes Entscheidungsmodell in fünf Größen

Modelle

Das Shanghaier KI-Unternehmen StartLux hat am 30. September das offene Entscheidungsmodell StartLux-Decision veröffentlicht. Es erscheint gleichzeitig in fünf Versionen mit 0,8, 2, 4, 9 und 27 Milliarden Parametern. Nach Angaben des Unternehmens übertrifft das Modell in mehreren Tests das kürzlich vorgestellte Jev 1.13 der Firma TypeSafe AI. Entwickelt wurde StartLux-Decision laut der Meldung innerhalb von drei Tagen mit einer firmeneigenen Methode namens Auto Research.

In der unabhängigen Bewertung Decision Index 0.2.1 erreichte die 27B-Version laut StartLux einen Punktwert von 63,88 und lag damit bei 31 von 38 Benchmarks vor Jev 1.13, das auf 57,91 Punkte kam. Die 9B-Version erzielte 58,63 Punkte. In sieben Testreihen, die das Shanghai AI Lab bei der Veröffentlichung seines Modells Intern-Decision verwendet hatte, kam die 27B-Version laut Unternehmen auf eine durchschnittliche Genauigkeit von 91,82 Prozent, gegenüber 88,74 Prozent bei Jev 1.13 und 90,02 Prozent bei Intern-Decision-4B. Beim öffentlichen Testsatz JevBench mit 231 Aufgaben beantwortete die 27B-Version demnach 208 Fragen richtig, neun mehr als Jev.

Zur Geschwindigkeit gibt StartLux an, dass die 4B-Version auf einer H200-Grafikkarte mit BF16-Präzision im Schnitt 26 Millisekunden benötigt, um drei Fragen gleichzeitig zu beantworten. Für die übrigen Größen 0,8B, 2B und 9B nennt das Unternehmen 12,2, 15,5 und 35,7 Millisekunden, für 27B 102,3 Millisekunden. Der Quellcode steht laut der Meldung unter Apache-2.0-Lizenz, die Modellgewichte unter CC BY-NC 4.0 für Forschung und nichtkommerzielle Nutzung; für kommerzielle Anwendungen sei eine gesonderte Lizenz von StartLux Labs erforderlich. Entwickelt wurde das Modell laut der Meldung unter Leitung von Mitgründer und CTO Guo Quanwei im Rahmen der Auto-Research-Forschungspipeline des Unternehmens.

Offen bleibt: Alle genannten Testwerte stammen aus eigenen Messungen von StartLux, die Meldung selbst ist eine Veröffentlichung des Unternehmens über seinen WeChat-Account; unabhängige Bestätigung der Zahlen liegt nicht vor.

Quelle: Titanium Media