OpenAI遭卑詩省起訴：ChatGPT標記暴力對話後，為何沒人報警
重點摘要
卑詩省檢察長7月7日宣布委任律師團隊，準備正式對OpenAI提告，主張公司內部系統早在去年6月就標記過槍手帳號卻沒通報警方。從偵測到揭露之間空了五個月，這個技術與法律的斷點，才是這起案子真正的難題。
卑詩省檢察長Niki Sharma7月7日在溫哥華開記者會，宣布政府已經在卑詩省和加州同時委任律師團隊，準備就今年2月Tumbler Ridge槍擊案正式對OpenAI提告。她講的關鍵一句話是，OpenAI早就標記過槍手在ChatGPT上留下的暴力對話紀錄，帳號去年6月就被內部封鎖，卻始終沒有通報執法單位。我認為這起案子真正該追問的，是一個具體到可以驗證的技術與制度問題，比「AI該不該負責」這種空泛提問實際得多：一家公司的內容安全系統已經判定某個帳號危險到需要封鎖，這個判斷跟報警之間為什麼隔了五個月，中間到底卡在哪一關。如果你在Trust & Safety或內容審核領域做過類似的分級通報機制，很想知道你們公司的門檻設在哪裡。
事件摘要：五個月的斷點
今年2月10日，18歲的Jesse Van Rootselaar在Tumbler Ridge犯下槍擊案，先在住處殺害母親與弟弟，接著到當地中學槍殺五名學生與一名教育助理，最後飲彈自盡。這起案件造成八人死亡，另有二十七人受傷。案發後外界很快發現，嫌犯在犯案前數月大量使用ChatGPT，描述並發展暴力情節。OpenAI內部審核系統抓到過這些對話，去年6月就把帳號封鎖，但公司當時沒有把資訊送交警方。
Sharma在記者會上直接點名：「卑詩省正在準備法律行動，要求究責OpenAI和公司決策者，他們沒有在ChatGPT上出現暴力對話跡象時通知執法單位。」政府已經找了溫哥華和加州兩地的律師事務所，求償項目包括重建當地中學的費用。OpenAI執行長Sam Altman隨後發出道歉信，寫著「我們去年6月封鎖那個帳號後，沒有通報執法單位，對此我深感抱歉」。OpenAI副總裁Ann O’Leary也表態，會在加拿大建立直接對接執法機關的窗口，並修訂警方轉介流程。聯邦政府已經承諾撥款兩億美元協助重建當地高中和衛生中心，驗屍官相驗程序也已經啟動。卑詩省過去對付菸草公司和鴉片類藥物經銷商都用過同一套究責訴訟手法，這次是第一次把矛頭指向AI公司。
數字背後的真相
外界很容易把這起案子簡化成「OpenAI知情不報」的單一敘事，但真正值得拆解的是內容審核系統的設計邏輯。帳號封鎖跟通報執法是兩套完全不同的動作，前者是平台內部治理，後者牽涉法律授權和跨機構協調，一般公司的自動化系統只做得到前者。以ChatGPT每週九億活躍用戶的規模來看，如果要把「疑似暴力意圖」的對話自動推送給執法單位，就算誤判率壓到萬分之一，一天也會產生幾百通不必要的警方通報，這還沒算進不同國家、不同州省對「什麼情況構成需要通報的威脅」根本沒有統一定義的問題。北美現行法律裡，比較接近的先例是針對兒童性剝削內容的強制通報義務，這條線在多數國家有明確立法要求平台必須通報，但「使用者描述暴力情節」這種更模糊的類別，目前沒有等同的強制通報法規，公司選擇通報與否，很大程度上是自由裁量。
這正是這起訴訟真正要打的官司。卑詩省要主張的核心是OpenAI明明有能力通報卻選擇不做，這中間牽涉的是醫療照護裡常見的「警示義務」，也就是專業人員發現當事人可能傷害他人時，法律上要不要主動示警。這條法理過去適用在心理治療師身上，套用到AI公司會不會成立，北美司法體系目前沒有先例可循，卑詩省這次等於在替整個產業立一塊新的判例試金石。五個月的空窗期背後，真正該問的是OpenAI內部從「系統標記」到「人工複核決定是否上報」這一段，實際的處理時效和人力配置是什麼樣子，這個答案目前完全沒有公開。
接下來值得觀察的指標
第一，看OpenAI在加拿大新設的執法窗口上線後，會不會公布具體的處理時效或轉介件數，這是檢驗公司這次道歉是不是玩真的最直接的數字。第二，看驗屍官相驗程序最後有沒有公開內容審核團隊當初複核這個帳號的完整時間軸，這份紀錄一旦曝光，會決定Sharma這場官司站不站得住腳。第三，卑詩省這條訴訟跟美國42州檢察長對OpenAI的集體調查會不會出現法律論述上的交叉引用，如果兩邊都往「AI公司有主動示警義務」這個方向推進，代表整個北美監管圈正在形成一套新共識，範圍已經超出單一司法管轄區。
如果這篇對你有幫助，訂閱電子報 可以第一時間收到 AI PM 實戰洞察與 GenAI 落地案例。
來源：CBC News、The Globe and Mail、Al Jazeera
相關閱讀：