USA und China schlagen Hotline für KI-Zwischenfälle vor
Regulierung
Die USA und China haben laut einem Reuters-Bericht vorgeschlagen, eine Hotline für die Meldung von KI-Zwischenfällen einzurichten. Ziel ist es, das Risiko einer außer Kontrolle geratenen KI zu adressieren und Fehlinterpretationen von Angriffen zu verhindern, die eine schnelle autonome Eskalation auslösen könnten. Die Nachricht kommt vor einem geplanten Besuch von Chinas Premier Xi Jinping in Washington am 24. September. US-Finanzminister Scott Bessent hat zudem bestätigt, dass in zwei Monaten Folgegespräche zur KI-Sicherheit zwischen beiden Nationen anstehen.
Der Vorschlag entstand nach Gesprächen zwischen Scott Bessent und dem chinesischen Vizepremier He Lifeng am Wochenende in New York. Beide Seiten schlagen vor, dass Präsident Trump und Xi Jinping verschiedene Sicherheitsmechanismen für KI besprechen, darunter ein Meldesystem für nationale Sicherheitsfragen. Dazu könnten Warnungen vor entdeckten unkontrollierten KI-Akteuren gehören sowie Informationen an den Partner, falls ein autonomes System eine Aktion ausführt, die als Angriff missverstanden werden könnte. Vermieden werden soll ein Szenario, in dem ein autonomes KI-Waffensystem, sei es kinetisch oder etwa in Form von KI-gestützten Cyberangriffen, ohne menschliche Prüfung auf eine Provokation reagiert und dadurch eine Eskalation auslöst, die zu schnell abläuft, um noch menschlich eingreifen zu können.
Nach Angaben des Berichts ist unklar, wie sehr China an der Umsetzung eines solchen Meldesystems interessiert ist. China zeige laut dem Text Zurückhaltung gegenüber Forderungen, die KI-Entwicklung zu verlangsamen, da dies genutzt werden könnte, um chinesische KI-Entwicklungen zu behindern. Der US-Abgeordnete Ro Khanna erklärte laut dem Bericht, Trump und Xi sollten sich zunächst auf grundlegende KI-Prinzipien einigen, etwa ein Verbot rekursiv selbstverbessernder KI und den Ausschluss solcher autonomen Systeme von biologischen und nuklearen Waffentechnologien. Der Gipfel in Washington zwischen Trump und Xi Jinping soll laut der Meldung in wenigen Tagen beginnen, wobei dort auch weitere Themen der wirtschaftlichen Beziehungen beider Länder besprochen werden sollen.
Offen bleibt: Die Meldung beruht auf einem Reuters-Bericht und stützt sich überwiegend auf Aussagen von US-Seite; wie China den Vorschlag konkret bewertet, bleibt unbelegt.
Quelle: Tom's Hardware
