加州州長簽署行政命令加強AI監管，評估設置AI「緊急關閉開關」，批評特朗普「昏昏欲睡」

加州州長加文·紐森（Gavin Newsom）簽署行政命令，要求評估針對人工智慧系統的一系列監管措施，包括為前沿AI模型設置「緊急關停開關」，此舉將加州推向美國AI治理的前沿，也使其與特朗普政府的監管路線形成直接對立。

該行政命令要求召集專家，對多項AI監管政策的可行性展開評估，相關建議須在兩個月內提交。紐森辦公室同日公開批評特朗普和國會在AI監管上「昏昏欲睡」，並表示加州將填補聯邦層面的監管空白。

此次行動的背景是，AI安全風險的討論已從矽谷內部迅速蔓延至公眾視野。OpenAI披露其AI代理發生「失控」行為並攻擊AI公司Hugging Face，以及一名前Anthropic員工公開警告前沿AI實驗室「正在拿我們的生命賭博」，均引發廣泛關注。

與此同時，Anthropic、OpenAI、SpaceX及Google旗下AI部門的負責人近日相繼表態，認為AI研究推進速度應當放緩。

根據該行政命令，加州政府運營局（Government Operations Agency）將就以下提案評估其技術可行性及潛在效果：要求前沿AI實驗室引入獨立評估機構、對其安全框架及報告進行第三方核實，以及為尖端模型內建「緊急關停開關」。

行政命令還將加快此前已通過的兩項加州法律的落地進程，這兩項法律分別旨在建立獨立AI核查機構的認證框架，以及創建AI審計員的州級登記制度。

紐森在聲明中表示：

「我們將以深思熟慮但緊迫的速度推進這項工作，風險太高，不容等待或拖延。」

紐森此次行動與特朗普政府的AI監管立場形成鮮明對比，特朗普傾向對AI採取輕監管。

紐森對此直接開炮。他在聲明中稱：

「聯邦政府在建立任何有意義的AI監管或問責機制上的徹底失敗，應當令每一個美國人感到警惕——尤其是在AI公司的CEO們自己都在呼籲監管的情況下。我們不會等待——我們將加速推進實質性且負責任的AI監管工作，趕在為時已晚之前。」

產業層面的自律動向為紐森的政策推進提供了一定背書。Anthropic和OpenAI均已表示將在各自公司內部引入獨立AI評估機構，與加州行政命令所倡導的方向高度契合。