Chinas Rechenzentren richten sich auf Token-lastige KI-Inferenz aus

Infrastruktur

Auf dem ITValue Summit 2026 am 17. September erklärte Wang Liangdong, Vizepräsident für Rechenleistung beim Serverhersteller Chaojuhui, dass sich die KI-Branche vom Training hin zur dauerhaften Inferenz verschiebt. Damit wachse der weltweite Verbrauch an Tokens weiter, was die Anforderungen an die Rechenzentrumsinfrastruktur verändere. Laut der Meldung verliert die bisherige Strategie, einfach mehr Server und mehr Hardware zu verbauen, zunehmend an Wirkung. Stattdessen gewinnt die Fähigkeit an Bedeutung, über lange Zeit stabil Tokens zu produzieren.

Nach Angaben des Treffens China Development Forum 2026 vom 23. März überstieg der tägliche Token-Abruf in China im März 140 Billionen, gegenüber 100 Milliarden Anfang 2024 ein Anstieg um mehr als das Tausendfache in zwei Jahren. Im selben Monat habe der wöchentliche Token-Abruf chinesischer Großmodelle drei Wochen in Folge den der USA überschritten. Die Plattform OpenRouter verzeichnete für den Zeitraum 16. bis 22. März einen weltweiten Token-Abruf von 20,4 Billionen, davon 7,359 Billionen aus China, also 36 Prozent.

Für die Zukunft nennt die Meldung Prognosen mehrerer Institute. JPMorgan rechnet damit, dass der Inferenz-Token-Verbrauch in China von rund 10 Billiarden im Jahr 2025 auf rund 3900 Billiarden im Jahr 2030 steigt, ein Anstieg um etwa das 370-Fache. IDC geht von einem weltweiten jährlichen Token-Verbrauch von 0,0005 Peta-Token im Jahr 2025 auf 150.000 Peta-Token im Jahr 2030 aus, mit einer jährlichen Wachstumsrate von 3418 Prozent. Bis 2031 sollen weltweit 350 Millionen aktive KI-Agenten aktiv sein, deren Token-Verbrauch je Agent das Hundert- bis Tausendfache klassischer Dialoganwendungen erreichen könne.

Daneben beschreibt die Meldung einen Architekturwandel weg vom bisherigen Standard von Acht-GPU-Servern hin zu sogenannten Supernodes, die Dutzende bis mehrere hundert Beschleunigerkarten über direkte Verbindungen wie NVLink zu einer logischen Recheneinheit zusammenschließen. Als Beispiele werden der von Huawei auf der Huawei Connect 2026 vorgestellte Ascend-960-Supernode mit 4096 Karten pro Knoten und 8 EFLOPS FP8-Rechenleistung genannt, die auf der WAIC 2026 gezeigte Wanquan-Plattform V5.0 von Lenovo sowie die FusionPoD-for-AI-Lösung von Chaojuhui. Laut der China Academy of Information and Communications Technology soll diese Bauweise die Datenübertragung zwischen Karten beschleunigen und Engpässe bei eng gekoppelten Aufgaben wie dem Tensor-Parallelismus beseitigen.

Offen bleibt: Die genannten Prognosen zu Token-Verbrauch stammen von unterschiedlichen Instituten mit abweichenden Methoden und Annahmen, was die Quelle selbst einräumt, ohne die Zahlen einheitlich einzuordnen.

Quelle: Huxiu Artikel