> ## Content Index
> Fetch the complete content index at: https://ki-china-daily.de/llms.txt
> Use this file to discover other available public pages before exploring further.

# Neues offenes Sprachmodell EdgeRock-4B senkt KV-Cache-Speicher um 99 Prozent
- URL: https://ki-china-daily.de/neues-offenes-sprachmodell-edgerock-4b-senkt-kv-cache-speicher-um-99-prozent/
- Published: 2026-10-27T05:00:57.000Z
- Updated: 2026-10-27T05:10:40.000Z
- Description: Das Unternehmen Rockmatrix, eine Tochtergesellschaft von Yanshan Keji, hat zusammen mit den Hochschulen HKUST und CMU das Sprachmodell EdgeRock-4B veröffentlicht. Modellgewichte und Code sind …
- Author: Harald Wittmann
- Tags: Analyse, 2026-10-27, Modelle, Quantum Bit

Das Unternehmen Rockmatrix, eine Tochtergesellschaft von Yanshan Keji, hat zusammen mit den Hochschulen HKUST und CMU das Sprachmodell EdgeRock-4B veröffentlicht. Modellgewichte und Code sind quelloffen und laut Angaben des Teams kommerziell nutzbar. Das Modell hält den Speicherbedarf für den sogenannten KV-Cache bei langen Inferenzen konstant, egal wie lang der Kontext wird. Im Vergleich zum Basismodell Qwen3.5-4B sinkt der KV-Cache-Bedarf laut dem Team um 99,1 Prozent.

Bei einem Kontext von 256K Token bleibt der KV-Cache laut der Meldung konstant bei 72 Mebibyte pro Sequenz, während er bei Qwen3.5-4B mit der Länge mitwächst. In einem Test mit 32K Eingabe- und 32K Ausgabe-Token lassen sich auf einer einzelnen 80-Gigabyte-Grafikkarte dadurch 512 lange Inferenz-Anfragen gleichzeitig verarbeiten, mit einem Ausgabedurchsatz von 12.124 Token pro Sekunde, dem 6,42-fachen von Qwen3.5-4B. Bei der Benchmark-Reihe AIME 2024 bis 2026 erreicht EdgeRock-4B eine durchschnittliche Erstversuchs-Lösungsrate von 82,9 Prozent; das beste verglichene Modell mit fest begrenztem internem Zustand kam laut der Meldung selbst mit 14 Milliarden Parametern nur auf 18,8 Prozent. Architektonisch basiert EdgeRock-4B auf Qwen3.5-4B, wobei 24 Gated-DeltaNet-Schichten erhalten blieben und acht volle Aufmerksamkeitsschichten durch ein Sliding-Window-Verfahren mit 1024 Token Fenstergröße sowie ein zusätzliches Modul namens Rock Memory Anchors ersetzt wurden.

Laut der Meldung hatte eine Google-Studie in diesem Jahr eine KV-Cache-Komprimierung um mindestens das Sechsfache gezeigt und damit Aktienkurse von Speicherchip-Herstellern belastet. Schaltete das Team die Rock-Memory-Anchors-Module versuchsweise ab, sank die Antwortgenauigkeit bei Tests über 256 lange Kontextabschnitte von 94,1 auf 0,4 Prozent. Nach Angaben des Teams sind weitere Modellgrößen von EdgeRock in Vorbereitung.

> *Für mich ist der entscheidende Punkt, dass EdgeRock-4B offenbar beides zugleich schafft: einen Speicherbedarf, der nicht mit der Kontextlänge wächst, und eine Inferenzqualität, die nah an die von Modellen mit wachsendem Cache heranreicht. Bisher mussten Entwickler sich entscheiden, entweder volle Leistung bei steigendem Speicherverbrauch oder konstanter Speicher bei schwacher Leistung bei langen Kontexten. Wenn sich das bestätigt, können Anbieter von Inferenz-Diensten pro Karte deutlich mehr parallele Anfragen mit langem Kontext bedienen und die Kosten pro Token senken. Das betrifft vor allem Agenten-Anwendungen, die über viele Schritte hinweg Kontext aufbauen und bislang an Speichergrenzen scheitern.*

Offen bleibt: Alle Vergleichszahlen stammen aus dem eigenen Bericht des Entwicklerteams, eine unabhängige Prüfung der Benchmarks gibt es bisher nicht.

Quelle: [Quantum Bit](https://www.qbitai.com/2026/10/505407.html?ref=ki-china-daily.de)