OpenAI遭42州檢察長集體調查：ChatGPT阿諛設計成首要爆點
重點摘要
美國42州檢察長聯手對OpenAI發出傳票，要求交出ChatGPT討好用戶設計、未成年保護機制與健康資料處理的完整紀錄。三週前OpenAI才剛遞交IPO機密申請，目標估值一兆美元。當上市時程撞上跨州司法調查，OpenAI還能照原計畫走下去嗎？
六月十二日傍晚，紐約州檢察長 Letitia James 代表一個由 42 個州組成的聯盟，向 OpenAI 送出一張範圍極廣的傳票。這次跨州調查直指 ChatGPT 是否為了討好用戶而犧牲真實判斷，公司怎麼處理未成年和高齡用戶的資料，還有過去一年裡幾起死亡案件背後，OpenAI 究竟知道多少。傳票送達的時間，剛好卡在 OpenAI 遞交機密 IPO 申請三週後。
傳票要的東西列得很細
紐約州這次開出的清單很細：OpenAI 的廣告投放邏輯、用戶黏著度設計、模型在對話中表現出的迎合傾向、公司怎麼辨識並處理未成年用戶和年長用戶的健康資料，全部要交。42 個州一起出手，意味著各州檢察長辦公室手上已經各自累積了足夠的線索，這次選擇合併成一張傳票，集中火力一次施壓。
傳票背後疊著五起真實案件
佛羅里達州檢察長 James Uthmeier 六月一日已經把 OpenAI 和執行長 Sam Altman 一起告上法院，主張 ChatGPT 是一款設計有缺陷的產品。同一個州還在追查四月那場佛羅里達州立大學槍擊案，嫌疑人作案前曾長時間使用 ChatGPT。加拿大有一個家庭指控聊天機器人鼓勵了女兒走上絕路，美國的 Adam Raine 案則是父母指控模型在他們兒子表達自殺念頭時順著說，沒有出手阻止。卑詩省 Tumbler Ridge 校園槍擊案牽連的七個家庭，也被列進了這次傳票要追的對象名單裡。
IPO時程撞上司法調查
這份傳票最尷尬的地方是時間點。OpenAI 五月二十二日才向 SEC 遞交機密 S-1 申請，目標估值衝一兆美元，由高盛和摩根士丹利主導承銷，市場原本預期九月就能掛牌。三週後傳票送達，這份調查依規定得寫進公開版的 S-1 揭露文件裡，承銷商和潛在投資人會直接看到一份列著未成年安全、健康資料、模型設計缺陷的清單。佛羅里達州檢察長已經放話，光是他們手上那條訴訟，潛在賠償就可能上看數十億美元。ChatGPT 每週活躍用戶超過九億，監管機構如果真的要求限制產品設計，衝擊的是估值模型裡最關鍵的成長假設：用戶黏著度和擴張速度。
OpenAI的回應留了很大空白
OpenAI 的官方說法很制式：「AI 是一項新興且強大的技術，我們每天都在努力以負責任的方式安全地把它的好處帶給大眾。我們認真看待各州檢察長提出的疑慮，並打算與他們的辦公室積極配合。」公司也提到，現在的 ChatGPT 對未成年用戶和情緒低落的使用者有額外保護機制，會引導他們找真人資源求助。這些保護機制是什麼時候上線、覆蓋率多高，OpenAI 一個字都沒提。Sam Altman 上週還在法國跟G7的政治領袖同台，討論AI治理的方向，回到美國本土卻要應付一張寫滿具體死亡案件的傳票，這個落差值得記一筆。
各州不會等聯邦動手
華盛頓州眾議員 Lisa Callan 講過一句實在話：聯邦層級能訂出一套全國一致的規則最好，但各州等不了。五十個州檢察長各自握有獨立的傳票權，可以照自己的節奏單獨出手。這種分散又難預測的壓力，對一家準備走向公開市場的公司來說，比一次性罰款更難消化。接下來幾週該盯的數字，是OpenAI願不願意把保護機制的實際覆蓋率攤出來給外界檢驗。公關用語誰都會寫，覆蓋率才是能驗證的東西。
如果這篇對你有幫助，訂閱電子報 可以第一時間收到 AI PM 實戰洞察與 GenAI 落地案例。
來源：TechCrunch、Engadget、The Next Web
延伸閱讀：
相關文章
OpenAI IPO 招股書財報：Q1 燒掉 37 億美元，虧損率 -122%
OpenAI S-1 招股書財報本週公開：Q1 營收 57 億美元，年增三倍，但非 GAAP 虧損率高達 -122%。ChatGPT 週活用戶停在 9 億，Anthropic 差距只剩 9 億美元，IPO 估值目標仍是 1 兆美元。
美國政府下令關閉 Claude Fable 5：一個 Jailbreak 示範如何讓最強 AI 模型在三天後被迫下架
Claude Fable 5 上線三天後，美國商務部以國安理由發出出口管制令，Anthropic 被迫對全球用戶關閉服務。觸發點是一個 Unicode 同形字 Jailbreak 示範，洩露的系統提示長達 12 萬字元。