ByteDance-Forscher finden Ursache für schwankende Langtextabfrage bei DeepSeek

Forschung

Forscher des ByteDance Seed Teams haben einen Mechanismus für inkonsistente Abrufergebnisse bei DeepSeek-Modellen identifiziert. Die Kompression von KV-Caches in Blöcken führt zu positionsabhängigen Genauigkeitsunterschieden von bis zu 40 Prozentpunkten. Das als "Phasenempfindlichkeit" bezeichnete Muster ließ sich auch in neu trainierten Modellen reproduzieren.

Quelle: TechNode