Unsloth quantisiert DeepSeek V4.1 Flash für 64 GB

Modelle

Unsloth hat mit Dynamic V3.1 eine Quantisierung von DeepSeek V4.1 Flash-1017 veröffentlicht, die auf Geräten mit mindestens 64 GB Arbeitsspeicher laufen soll. Laut Unsloth erreicht die Version in mehreren Benchmarks die beste Leistung und ist etwa dreimal schneller als andere Implementierungen. Konkrete Testergebnisse für die 64-GB-Konfiguration wurden nicht genannt.

Quelle: Kuai Keji