iFlytek stellt Sprachmodell Spark X2.6 auf chinesischen Chips vor

Modelle

Der Sprachtechnologie-Konzern iFlytek hat auf dem Global 1024 Developer Festival das End-Cloud-Modell Spark X2.6 vorgestellt. Laut Unternehmen ist es das erste große Sprachmodell, das Code- und Agenten-Fähigkeiten vereint und dabei ausschließlich auf chinesischer Rechenleistung trainiert wurde. Konzernchef Liu Qingfeng sagte, iFlytek sei das einzige Unternehmen unter den Anbietern großer Modelle, das rein mit chinesischer Rechenleistung trainiere, während die übrigen fast ausnahmslos auf Nvidia-Chips liefen; das iFlytek-Modell sei zudem das kleinste unter diesen Anbietern.

Laut Liu musste iFlytek dafür eine bekannte Schwäche chinesischer Chips lösen: begrenzte Speicherbandbreite, die beim Training von Langstrecken-Aufgaben die Effizienz bremst. X2.6 überwindet das mit einer angepassten dynamischen Parallel-Trainingstechnik. Bei der Inferenz kommen eine verteilte Technik auf Basis heterogener chinesischer Rechenleistung sowie ein Verfahren hinzu, das Zwischenergebnisse wiederverwendet statt sie neu zu berechnen. Zugleich erschien das Open-Source-Modell X2.6-4B für Endgeräte, das laut iFlytek erstmals einen Sprung bei Agenten-Fähigkeiten auf Geräteseite schafft; die Vorgängerversion X2.5-4B, seit 1. September open source, liegt laut Unternehmen unter den weltweit meistheruntergeladenen Endgerätemodellen auf Platz vier. X2.6 nutzt eine MoE-Architektur mit 293B-A30B Parametern und 1 Million Tokens Kontextlänge; die Nutzung kostet befristet 0,9 Yuan je Million Input-Tokens, 0,08 Yuan bei Cache-Treffern und 3,6 Yuan je Million Output-Tokens. X2.6-4B ist befristet kostenlos.

Laut 36Kr soll sich die Aufgabenteilung zwischen Gerät und Cloud so aufteilen: 60 Prozent der Anwendungen liefen lokal und blieben datensicher, 30 Prozent über Cloud-Zusammenarbeit, die restlichen 10 Prozent benötigten ein Cloud-Großmodell. Außerdem stellte iFlytek laut 36Kr das Sprachmodell SparkAudio 1.0 vor, das neben Spracherkennung und Simultanübersetzung auch Audioverständnis, Emotionserkennung, Sprecherseparation und Umgebungsgeräusch-Verständnis unterstützen soll.

Für mich ist der bemerkenswerte Punkt an dieser Meldung, dass iFlytek sich selbst als Ausnahme positioniert: Während laut Liu Qingfeng die übrigen chinesischen Anbieter großer Modelle weiterhin auf Nvidia-Chips trainieren, wirbt iFlytek mit einem Modell, das komplett auf chinesischer Hardware entstanden ist. Das verschiebt den Maßstab, an dem sich chinesische Anbieter künftig messen lassen müssen: Es geht nicht mehr nur um Modellgröße oder Benchmark-Werte, sondern auch um die Herkunft der Rechenleistung. Wer wie iFlytek behauptet, das Effizienzproblem chinesischer Chips gelöst zu haben, muss sich an eigenen technischen Zahlen messen lassen, sobald Konkurrenten mit ähnlichen Ansprüchen nachziehen.

Offen bleibt: Die Behauptung, als einziges Unternehmen rein auf chinesischer Hardware zu trainieren, stammt allein von iFlytek selbst, unabhängige Bestätigung oder konkrete Benchmark-Zahlen liefert die Quelle nicht.

Quellen: AIbase News · 36Kr Newsflashes