← 返回文章列表

合成DNA強制篩查立法:AI四大龍頭CEO聯名致函美國國會

Nils Liu
AI安全 生物安全 監管政策 OpenAI Anthropic 新聞觀察

重點摘要

Sam Altman、Dario Amodei、Demis Hassabis、Mustafa Suleyman 四位AI龍頭執行長六月四日共同簽署公開信,要求美國國會強制篩查合成DNA訂單,理由是AI已大幅降低生物武器的製造知識門檻,且現有工具能協助使用者規避篩查。

合成DNA強制篩查立法:AI四大龍頭CEO聯名致函美國國會

Sam Altman、Dario Amodei、Demis Hassabis、Mustafa Suleyman,四位分別掌舵 OpenAI、Anthropic、Google DeepMind、Microsoft AI 的執行長,六月四日共同在一份公開信上署名,要求美國國會立法,強制合成核酸供應商在出貨前篩查每一筆訂單。這四家公司平時在模型性能和市場份額上正面競爭,同台聯署屬罕見。

公開信由非黨派倡議機構 Institute for Progress 和偏右翼的 Foundation for American Innovation 共同組織,並得到史丹佛大學生物安全專家 David Relman 等科學家聯署背書。能讓這兩個在監管立場上通常針鋒相對的組織走到同一側,本身就說明了問題的緊迫程度有多廣泛被認可。

AI 正在拉低生物武器的知識門檻

過去,製造生物武器的核心壁壘是知識,材料反而是其次。合成特定毒素或病原體的能力,需要微生物學博士學位、多年實驗室積累,以及對具體基因改造路徑的深度掌握。這套知識壁壘讓大多數潛在威脅停留在理論層次,AI 的崛起正在系統性地改變這個現實。

今天的 AI 蛋白質設計工具,包括 AlphaFold 後繼一代的應用,已經可以幫助使用者快速生成具有毒性潛力的核酸序列。David Relman 描述了一個更令人不安的情境:這些工具在被適當引導後,能告訴使用者如何調整訂單內容,讓現有篩查系統更難辨識實際意圖。Microsoft 研究員也已獨立驗證,現有 AI 蛋白質設計工具確實可以產生能繞過當前篩查資料庫的有害序列。這不是推測,是已在受控實驗室條件下被觀測到的能力。

自願篩查的結構性缺口

合成 DNA 行業目前有自願性篩查標準,主要供應商使用軟件比對訂單序列與已知危險序列資料庫。問題出在兩個地方:覆蓋率和更新速度。

並非每家合成 DNA 供應商都實施了同等的篩查標準,部分規模較小的廠商沒有系統性篩查機制。更根本的問題是,篩查資料庫的迭代速度遠遠落後於 AI 生成新序列的速度。資料庫裡沒有收錄的序列就能直接通過篩查,AI 可以協助設計結構不同但效果等效的新序列,讓現有資料庫失去參照意義。

這套自願系統在靜態威脅環境下或許勉強夠用,面對 AI 加速迭代的情況,架構本身就有無法靠內部更新消除的缺口。

參議院法案在等一個推力

公開信背後有立法對應。目前有一份兩黨參議院法案,要求所有美國合成基因廠商強制篩查訂單和客戶。強制與自願的核心差異,在於覆蓋率和責任歸屬:強制篩查讓每個市場參與者都在同一套標準下,不篩查的廠商面臨法律責任,同儕壓力升級成監管約束。

Geoff Ralston 的說法很具體:「對 AI 模型來說,應該很難甚至不可能被引導去幫助做立即危險的事情。」這個目標要實現,從源頭篩查合成核酸訂單是必要的基礎環節,缺了這層,後面所有的模型安全設計都是在漏水的容器上加蓋。

四家競爭對手站在同一頁

OpenAI 和 Anthropic 在 AI 編程工具市場的搶奪幾乎每週都有新聞,Google DeepMind 和 Microsoft AI 在企業部署上也直接競爭。他們在生物安全議題上站到同一邊,商業邏輯層面有一個額外含義。

AI 公司主動推動強制篩查標準,也是在搶佔標準制定的主動權。在重大事故發生前建立業界主導的篩查框架,政府後續的監管較可能沿用這套標準,標準制定的話語權留在業界手裡。等事故發生後再由政府主導立法,框架就不再是這批人說了算。

公開信的訴求本身不複雜:讓現有工具做本來就該做的事,並讓所有廠商都強制執行。這份法案的立法推進,取決於六月之後參議院的議程優先順序,但四位執行長同台聯署的動作,已經大幅提升這份法案的政治能見度。

來源:DNYUZ 報導 | Screen DNA 公開信

如果這篇對你有幫助,訂閱電子報 可以第一時間收到 AI PM 實戰洞察與 GenAI 落地案例。

訂閱最新分享

加入電子報,第一時間獲取關於金融 AI Agent 實戰與架構設計的最新文章。不訂閱你會慢別人一個週期!

絕不發送垃圾信。隨時皆可取消訂閱。