UN eröffnet ersten globalen KI-Governance-Dialog: 193 Staaten in Genf, Wissenschaftler warnen vor fehlender Sicherheitsgarantie
Kurzfassung
Der erste globale UN-Dialog zur KI-Governance mit allen 193 Mitgliedstaaten eröffnete heute in Genf, begleitet von einem Wissenschaftsbericht, der eine Verdopplung der KI-Aufgabenkomplexität alle 4 bis 7 Monate behauptet. Die Messbedingungen hinter dieser Zahl verdienen mehr Aufmerksamkeit als die Schlagzeile.
Der Global Dialogue on AI Governance der Vereinten Nationen eröffnete heute im Kongresszentrum Palexpo in Genf, mit allen 193 Mitgliedstaaten im Saal. Es ist das erste Mal, dass die UN ein Treffen dieser Größenordnung speziell zur KI-Governance einberuft. Die Schlagzeile des ersten Tages war keine nationale Positionserklärung, sondern ein Satz aus dem vorläufigen Bericht des Independent International Scientific Panel on AI: Die aktuelle Wissenschaft kann nicht garantieren, dass wachsende KI-Fähigkeiten keinen katastrophalen Schaden anrichten. Was wirklich eine genauere Betrachtung verdient, ist nicht diese Warnung selbst, sondern eine konkrete Zahl im selben Bericht: Die Komplexität von KI-Aufgaben verdoppelt sich demnach etwa alle 4 bis 7 Monate. Mich interessiert, wie diese Messung konstruiert wurde, und wer in Evals oder Red-Teaming arbeitet und eine andere Einschätzung hat, soll sich gerne melden.
Was in Genf tatsächlich passiert
Der Dialog geht auf den Global Digital Compact zurück, der beim Summit of the Future 2024 verabschiedet wurde. Diese erste Sitzung läuft vom 6. bis 7. Juli, zeitgleich mit dem WSIS Forum und dem AI-for-Good-Gipfel der ITU in derselben Woche, und zieht mehr als 2.600 Teilnehmende aus Regierung, Industrie, Wissenschaft und Zivilgesellschaft an. Den Vorsitz führen Estlands Botschafter Rein Tammsaar und El Salvadors Botschafterin Egriselda López gemeinsam. UN-Generalsekretär António Guterres eröffnete mit einer klaren Ansage: “Die Frage ist, ob wir diese Transformation gemeinsam gestalten, oder ob wir zulassen, dass sie uns stattdessen bestimmt.”
Die inhaltliche Substanz kam aus dem vorläufigen Bericht des Wissenschaftspanels, veröffentlicht am 1. Juli. Das Gremium, gemeinsam geleitet von Yoshua Bengio und der Journalistin Maria Ressa, besteht aus 40 Mitgliedern, ausgewählt aus mehr als 2.600 Bewerbungen aus 140 Ländern, eine Annahmequote von rund 1,5 Prozent, vergleichbar mit der Selektivität einer Wahl in eine nationale Wissenschaftsakademie. Bengios Wortlaut bei der Eröffnung: Die Wissenschaft könne “nicht garantieren, dass KI bei weiter steigenden Fähigkeiten keinen katastrophalen Schaden anrichtet, weder von selbst noch durch böswillige Nutzer”, mit Verweis auf wachsende Belege für täuschendes Modellverhalten. Ressa konzentrierte sich auf die Informationsökosysteme und warnte, KI-generierte Inhalte, die “mit Angst, Wut und Hass durchtränkt sind”, verbreiteten sich viral, sie nannte es ein “informationelles Armageddon”. Der Bericht benennt drei konkrete Bedrohungen für demokratische Institutionen: epistemische Erosion, die Lügner-Dividende und synthetischen Konsens, also massenhaft KI-generierte Inhalte, die einen öffentlichen Konsens simulieren, den es faktisch nicht gibt.
Ein diplomatisches Detail verdient Beachtung: Michael Kratsios, Direktor des Office of Science and Technology Policy im Weißen Haus, erklärte dem UN-Sicherheitsrat einen Tag vor Eröffnung des Dialogs, die USA würden “jeden Versuch internationaler Gremien, zentrale Kontrolle und globale Governance über KI zu beanspruchen, vollständig ablehnen”. Die US-Delegation erschien am nächsten Tag trotzdem in Genf. Diese Lücke zwischen Rhetorik und Anwesenheit ist wahrscheinlich die ehrlichste Zusammenfassung dessen, wo dieser Prozess gerade tatsächlich steht.
Was die Zahlen wirklich sagen
Zuerst der Satz, den gerade alle zitieren. “Die Wissenschaft kann keine Garantie gegen katastrophalen Schaden geben” ist nahe an einer Tautologie. Kein ernstzunehmendes wissenschaftliches Gremium konnte je eine absolute Garantie gegen katastrophalen Schaden für eine hinreichend mächtige Technologie ausstellen, Kernenergie und Gentechnik eingeschlossen. Das ist kein neuer Befund, sondern eine Grundeigenschaft davon, wie Wahrscheinlichkeit und Unsicherheit funktionieren. Die Zahl, die tatsächlich eine genauere Betrachtung verdient, ist die konkrete, überprüfbare: eine Verdopplung der KI-Aufgabenkomplexität alle 4 bis 7 Monate. Diese Zahl deckt sich eng mit den veröffentlichten “Time Horizon”-Studien von METR, die messen, wie lange eine Aufgabe dauert, gemessen in menschenäquivalenter Bearbeitungszeit, die ein KI-Agent mit 50-prozentiger Zuverlässigkeit eigenständig lösen kann, und dann eine Trendlinie an dieses Wachstum anpassen. Das ist eine genuin nützliche Kennzahl, aber sie basiert auf einem spezifischen und eher schmalen Satz an Software-Engineering- und Agenten-Benchmarks, größtenteils aus einer einzigen Forschungsgruppe, und ist eine extrapolierte Kurve, angepasst an unordentliche Daten aus mehreren Modellen, kein Naturgesetz. Das ist eine deutlich andere Aussage als “KI übertrifft menschliche Fähigkeiten umfassend”.
Nun die Größenordnung der Veranstaltung selbst. 2.600 Teilnehmende auf 193 Mitgliedstaaten verteilt ergibt im Schnitt etwa 13,5 Personen pro Land. Ein UN-Gipfel dieser Größenordnung, mit Veranstaltungsort, Sicherheitsvorkehrungen und Übersetzung in Dutzende Sprachen, kostet vermutlich irgendwo zwischen 10 und 20 Millionen Dollar. Microsoft, Google und Amazon zusammen verbrennen 2026 über eine Milliarde Dollar pro Tag an KI-Kapitalausgaben. Der Ressourcenfußabdruck dieses Treffens ist ein Rundungsfehler gegenüber der Industrie, die es zu regulieren versucht. Und dass 40 Wissenschaftler innerhalb von etwa einem Jahr nach Gründung des Panels einen “vorläufigen” Bericht vorlegen, ist eine deutlich dünnere Evidenzbasis als etwa der Prozess des IPCC, der über mehrjährige Bewertungszyklen auf Hunderte beitragende Wissenschaftler zurückgreift. Der Bericht selbst räumt dieses Timing-Problem direkt ein: “Entscheidungsträger brauchen wissenschaftliche Evidenz, um KI wirksam zu regulieren, aber wenn die Evidenz eindeutig ist, könnte es bereits zu spät zum Handeln sein.” Auch das ist eine unwiderlegbare Formulierung, nützlich als politisches Argument, aber selbst keine neue Evidenz.
Kennzahlen, die als Nächstes zu beobachten sind
Erstens, ob der vollständige Bericht des Wissenschaftspanels, der auf diese vorläufige Version folgen soll, Risiken tatsächlich mit Konfidenzintervallen oder Wahrscheinlichkeitsbereichen quantifiziert, statt bei “kann nicht garantieren” stehen zu bleiben. Das wäre eine echte Verschiebung von vorsorglicher Rhetorik hin zu etwas, das einer versicherungsmathematischen Einschätzung näherkommt.
Zweitens, ob dieser Dialog ein Dokument mit tatsächlichem Durchsetzungsmechanismus hervorbringt, ein Register für Vorfallmeldungen, ein gemeinsames Testprotokoll, irgendetwas jenseits einer unverbindlichen Erklärung. Bletchley Park 2023, Seoul 2024 und Paris 2025 haben allesamt Erklärungen mit begrenzter Nachverfolgung produziert. Dieser Dialog muss diese Latte reißen, um wirklich zu zählen.
Drittens, ein Blick darauf, was die US-Delegation in Genf tatsächlich öffentlich sagt, im Vergleich zu dem, was Kratsios dem Sicherheitsrat am Vortag mitteilte. Eine deutliche Lücke zwischen beidem würde darauf hindeuten, dass Washington einen Platz am Tisch behalten will, während es verbindliche Ergebnisse ablehnt, und diese Spannung ist wahrscheinlich der beste Einzelindikator dafür, ob die nächste Sitzung, geplant für Mai 2027 in New York, mehr hervorbringt als eine weitere Runde von Erklärungen.
Wenn dieser Artikel hilfreich war, abonniere den Newsletter für wöchentliche KI-PM-Einblicke.
Weiterführende Lektüre:
Verwandte Artikel
Xi Jinping eröffnet WAIC 2026: China gründet KI-Bündnis mit 29 Staaten
Xi Jinping trat erstmals persönlich bei der WAIC in Shanghai auf, während 29 Staaten eine von China geführte KI-Governance-Organisation gründeten. Ich habe nachgerechnet, was dieser Block wirklich darstellt.
KI-Sicherheitsindex Sommer 2026: Anthropic führt das Feld an, mit nur einem C+
Das Future of Life Institute hat seinen KI-Sicherheitsindex Sommer 2026 veröffentlicht. Anthropic erzielte mit einem C+ die beste Note unter neun Unternehmen. Die Hälfte der Bewertungsgrundlage stammt aus einer Selbstauskunft der Firmen. Wie stark das die Schlagzeile relativieren sollte, zeige ich hier.