China und USA vereinbaren Kommunikationskanal zu Superintelligenz-Risiken
Regulierung
China und die USA haben eine bilaterale Kommunikationslinie zu Risiken sogenannter Superintelligenz (Super Intelligence, SI) vereinbart. Ziel ist laut der Meldung ein besserer Informationsaustausch und Risikomanagement im Bereich fortgeschrittener künstlicher Intelligenz. Die Vereinbarung wird als Ergebnis jüngerer KI-Gespräche zwischen beiden Ländern beschrieben. Nach Angaben der US-Seite wollen beide Seiten den Mechanismus in den kommenden Monaten weiter ausbauen und vor November ein Folgetreffen des neu eingerichteten „China-USA-Superintelligenz-Dialogs“ abhalten.
Der Kontakt zwischen beiden Ländern zu Fragen der KI-Sicherheit läuft laut der Meldung bereits seit Monaten. Schon im Sommer hätten beide Seiten begonnen, einen eigenen Dialogmechanismus vorzubereiten und dabei Themen wie Risiken durch fortgeschrittene Modelle, Schutz vor Cyberangriffen und künftige Zusammenarbeit bei der Regulierung besprochen. Die US-Seite habe demnach ein Kommunikations- und Frühwarnsystem für KI-gestützte Cyberangriffe angestrebt und darauf gedrängt, dass große KI-Labore mehr Verantwortung für Sicherheitsfragen übernehmen. China habe die Zusammenarbeit im Bereich künstlicher Intelligenz als wichtiges Thema der bilateralen Beziehungen betrachtet und an einem technischen Dialogkanal festhalten wollen.
Der Fokus der Gespräche habe sich laut in der Branche zitierten Einschätzungen von klassischen Themen wie Handel oder Zöllen auf mögliche künftige Superintelligenz-Systeme verschoben. Als Superintelligenz werden demnach KI-Systeme bezeichnet, deren Fähigkeiten die menschlicher Experten in mehreren Bereichen umfassend übertreffen. Beobachter äußerten laut der Meldung die Sorge, solche Systeme könnten für komplexe Cyberangriffe, die Manipulation kritischer Infrastruktur, automatisierte Geheimdienstaktivitäten oder andere schwer vorhersehbare Sicherheitsfolgen genutzt werden. Die US-Seite erklärte, der neue Mechanismus solle einen eigenen Informationskanal bereitstellen, über den beide Länder bei möglichen größeren KI-Vorfällen in Kontakt bleiben können.
Offen bleibt: Die Meldung stützt sich überwiegend auf unbelegte Angaben der US-Seite und auf nicht näher benannte Branchenbeobachter, eine unabhängige Bestätigung der Einzelheiten fehlt.
Quelle: cnBeta
