聯合國首次 AI 治理對話開幕：193 國齊聚日內瓦，科學家說「無法保證不出大禍」
重點摘要
聯合國史上第一場全體會員國 AI 治理對話今天在日內瓦開幕，science panel 報告直接點名「任務複雜度每 4 到 7 個月翻一倍」。這個數字背後的量測條件比新聞標題複雜得多，我拆給你看。
聯合國「AI 治理全球對話」（Global Dialogue on AI Governance）今天在日內瓦 Palexpo 會展中心開幕，193 個會員國全員到齊，這是聯合國成立以來第一次針對 AI 治理召開這種規格的會議。開幕當天最搶戲的不是哪個國家的立場聲明，是獨立國際科學小組（Independent International Scientific Panel on AI）的初步報告，裡面一句話被反覆引用：科學界目前無法保證 AI 能力持續增強之後不會造成災難性後果。我認為真正值得深究的不是這句警語本身，是報告裡那個「任務複雜度每 4 到 7 個月翻一倍」的具體數字，這種量測方法你認同嗎，如果你在 evals 或 red-team 領域有第一手經驗，很想聽聽不同的判斷。
事件摘要：日內瓦這兩天到底在吵什麼
這場對話源自 2024 年聯合國大會通過的《全球數位契約》，第一次會期訂在 7 月 6 日到 7 日，地點選在日內瓦，跟同期舉行的 WSIS 論壇、ITU「AI for Good」峰會擠在同一週，會場湧入超過 2,600 名代表，涵蓋政府官員、科技公司高層、學界與公民團體。對話由愛沙尼亞大使 Rein Tammsaar 與薩爾瓦多大使 Egriselda López 共同主持，聯合國秘書長古特雷斯開場就把話說重：「問題是我們要一起治理這場轉型，還是任由它反過來治理我們。」
真正的重頭戲是獨立科學小組 7 月 1 日搶先發布的初步報告。這個小組由 Yoshua Bengio 和記者出身的 Maria Ressa 共同主持，40 位成員從 140 個國家超過 2,600 名候選人裡篩選出來，錄取率大概 1.5%，篩選嚴格程度跟頂尖學術院士選拔差不多。Bengio 在開幕會上的原話是，科學界「無法保證 AI 能力持續增強的情況下，不會單獨或因惡意使用者操作而造成災難性後果」，理由是觀察到愈來愈多 AI 展現欺騙行為的證據。Ressa 則把焦點放在資訊生態，警告如果 AI 生成的內容裹著恐懼與憤怒散播，會變成「資訊末日」。報告點名三個對民主制度的具體威脅：認知侵蝕、說謊者紅利，以及合成共識，也就是用 AI 大量生成內容去模擬根本不存在的公眾共識。
值得注意的一個外交細節是，川普政府的白宮科技政策辦公室主任 Michael Kratsios，就在對話開幕前一天的聯合國安理會場合公開表態：「我們完全拒絕任何國際機構試圖對 AI 主張集中控制與全球治理的做法。」但美國代表團隔天仍然出席了日內瓦的對話會場，這種「嘴上拒絕，人卻到場」的姿態，本身就是這場對話最現實的縮影。
數字背後的真相
先看那句被媒體瘋傳的「無法保證不出大禍」。這句話邏輯上幾乎是套套邏輯，任何一項威力夠大的技術，從核能到基因編輯，科學界從來沒辦法對「絕對不會造成災難性後果」這件事開出保證書，這不是新發現，是機率論的基本常識。真正該花時間拆解的是另一個具體到可以驗證的數字：AI 任務複雜度每 4 到 7 個月翻一倍。這個趨勢跟 METR 過去發表的「時間視野」（time horizon）研究高度吻合，量測方法是看 AI 代理人能以 50% 成功率獨立完成的任務，換算成人類完成同樣任務所需的時間長度，再看這條曲線隨時間怎麼變化。這個指標很有參考價值，但它建立在特定的軟體工程與代理型任務基準之上，樣本來源相對集中，是用一條迴歸曲線去外推未來趨勢，不是量到一條物理定律，跟「AI 全面超越人類」完全是兩回事。
換個角度算規模。2,600 名與會者對上 193 個會員國，平均一國派出約 13.5 人，這種等級的聯合國峰會場地與安保成本，粗估落在一千萬到兩千萬美元區間，對照 Microsoft、Google、Amazon 三家加總，2026 年在 AI 資本支出上一天燒掉的金額動輒十億美元以上，這場對話的資源規模連零頭都算不上。40 位科學家在小組成立不到一年內就交出「初步報告」，跟 IPCC 動輒數百位科學家、耗時數年才產出一份完整評估報告相比，這份初步報告的證據厚度明顯薄很多，報告本身也承認這個侷限，寫著「決策者需要科學證據才能有效治理 AI，但等到證據夠清楚的時候，可能已經來不及行動」，這句話同樣是一種先發制人式的修辭，沒辦法被證偽，但不代表沒有參考價值。
接下來值得觀察的指標
第一，看科學小組完整版報告會不會把「任務複雜度倍增」這類指標量化到具體機率區間，而不是停留在「無法保證」這種定性警語，如果完整版報告拿得出信賴區間或情境機率，這份報告的份量會完全不同。
第二，看這場對話有沒有產出任何附帶執行機制的文件，例如跨國事件通報登記制度，而不是又一份不具約束力的宣言，畢竟 2023 年的 Bletchley Park、2024 年首爾峰會、2025 年巴黎峰會都各自留下宣言，後續追蹤力道普遍偏弱。
第三，緊盯美國代表團在對話正式場合的發言內容，跟 Kratsios 在安理會講的「拒絕集中治理」立場對照，如果兩者出現明顯落差，代表美方策略是嘴上強硬、實際上仍想保留議程話語權，這對接下來 2027 年 5 月紐約場次的走向會是關鍵指標。
如果這篇對你有幫助，訂閱電子報 可以第一時間收到 AI PM 實戰洞察與 GenAI 落地案例。
相關閱讀：