ForgeKernel: KI-geschriebene Operatoren übertreffen handoptimierte DeepSeek-Version

Chips

In der Woche, in der der chinesische KI-Anbieter DeepSeek seine Inferenz-Engine DeepInfer vollständig als Open Source veröffentlichte, hat ein vollständig von einer KI geschriebenes Set von Rechenoperatoren namens ForgeKernel die bisherige Bestmarke für Operator-Effizienz übertroffen. Diese Bestmarke stammte von Ingenieuren, die den Operator FlashMLA von Hand, Zeile für Zeile, optimiert hatten und damit laut der Meldung mehr als 90 Prozent der Hardware-Obergrenze erreichten. ForgeKernel, bei dem laut der Meldung kein manuelles Feintuning stattfand, belegte zum Stichtag 22. Oktober gleichzeitig den ersten Platz in zwei Benchmark-Ranglisten.

Die eine Rangliste ist die Sammlung SOL-ExecBench FlashInfer-Bench, die auf Nvidia-Hardware läuft. Die andere ist die CANNBench-A3-Hardware-Rangliste, die im offiziellen Repository des Ascend-CANN-Projekts gepflegt wird. Dort erreichte ForgeKernel laut der Meldung einen Beschleunigungsfaktor von 1,835 und lag damit 25 Prozent vor dem Zweitplatzierten. Bei den Operatoren von DeepSeek v4.1 Flash übertraf ForgeKernel zudem die von DeepSeek selbst als Open Source veröffentlichte Nvidia-Version, nachdem die Optimierung laut der Meldung komplett von Null an mit KI durchlaufen wurde.

DeepSeek hatte zuvor bereits Modellgewichte sowie die Operator-Bibliotheken FlashMLA und DeepGEMM offengelegt. Mit DeepInfer öffnete das Unternehmen nun auch die gesamte Ausführungskette seiner Modelle.

Für mich zeigt diese Woche, dass der Wettbewerb in China nicht mehr nur um die besten Modelle geht, sondern zunehmend darum, wie effizient sie auf der vorhandenen Hardware laufen. Wenn eine KI ohne menschliches Feintuning handoptimierte Rekorde schlägt, verschiebt sich die Arbeit der Ingenieure von der manuellen Optimierung hin zur Entwicklung von Systemen, die diese Optimierung selbst übernehmen. Das betrifft vor allem Teams, die bislang ihren Vorsprung aus genau dieser Handarbeit gezogen haben.

Offen bleibt: Die Meldung nennt nicht, von wem ForgeKernel entwickelt wurde, und belegt die Spitzenplatzierungen nur mit den Ranglisten selbst, ohne unabhängige Einordnung.

Quelle: Leiphone Industrie