美國 AI 監管爭議再度升溫。根據 Semafor 獨家報導,知情人士透露,白宮上週對 Anthropic 旗下最先進 AI 模型 Mythos 實施緊急出口管制,其中一項重要原因是美方懷疑一個與中國有關聯的團體已取得該模型的存取權限,引發國家安全疑慮。
中國實體疑似取得 Mythos 模型權限
Mythos 自今年 4 月推出以來,一直處於極為嚴格的封閉測試階段,僅開放給少數企業夥伴使用。Anthropic 原本希望透過受控部署方式,讓企業利用該模型發現與修補系統漏洞,同時避免其強大的網路攻擊能力遭到濫用。
Anthropic 過去曾警告,Mythos 具備自主發現程式漏洞、設計攻擊路徑以及利用系統弱點的能力,若落入駭客或敵對國家手中,可能被用於發動大規模網路攻擊,因此被外界視為接近「網路武器級」能力的 AI 模型。
知情人士指出,白宮擔心若中國政府或與中國有關的組織取得 Mythos,不僅可能對美國國家安全構成威脅,也可能透過 AI 業界常見的「蒸餾(Distillation)」技術,對模型進行逆向工程與能力複製。
不過,目前外界仍不清楚白宮是如何得知相關情報、涉及的具體組織為何,以及對方究竟透過何種方式取得 Mythos 的存取權限。
川普政府要求僅限美國公民使用
根據報導,川普政府於上週五下令 Anthropic 對 Mythos 及其面向消費市場的版本 Fable 5 實施出口限制。
新規要求 Anthropic 只能向美國公民提供這兩款模型的使用權限,甚至連公司內部持有外國國籍的員工也不得接觸相關系統。
面對這項幾乎無法執行的限制條件,Anthropic 最終選擇直接將 Mythos 與 Fable 5 全面下線,而非依照白宮要求進行身份篩選。
爭議起點:Fable 5 遭發現可被「越獄」
白宮 AI 與加密貨幣事務主管、總統顧問 David Sacks 週末在 X 平台透露了事件的另一條線索。
Sacks 表示,政府先前收到通報,指出 Anthropic 本週剛對外發布的 Fable 5 存在「越獄(Jailbreak)」漏洞,也就是使用者可能透過特殊提示詞繞過模型安全護欄,重新獲得其原本被限制的網路攻擊能力。
Sacks 指控,當政府向 Anthropic 通報問題後,執行長 Dario Amodei 認為相關漏洞風險有限,拒絕立即修復,因此政府才被迫採取出口管制措施。
按照 Anthropic 的設計,Fable 5 是 Mythos 的消費者版本,已額外加入多層安全機制,理論上無法被用於網路攻擊用途。然而白宮認為,一旦安全防護遭到破解,Fable 5 的能力可能接近 Mythos,進而形成安全風險。
傳亞馬遜向白宮示警
另一名接近白宮的人士透露,最初向政府反映 Fable 5 越獄問題的可能是亞馬遜。
消息指出,亞馬遜執行長 Andy Jassy 曾就此事與川普政府官員直接聯繫。由於 Anthropic 長期接受亞馬遜投資,且大量運算資源依賴 AWS 雲端平台,因此此消息格外受到關注。
亞馬遜方面並未證實相關細節,僅表示政府向企業徵詢潛在安全風險意見並不罕見,公司不會公開討論此類交流內容。
Anthropic 緊急赴華府滅火
根據 Axios 報導,事件爆發後,Anthropic 多位高階技術主管已趕赴華盛頓,並與白宮官員展開一系列會談,希望盡快解除出口管制措施。
雖然白宮官員先前曾批評 Anthropic 未充分重視安全問題,但知情人士表示,自上週五首次接觸以來,雙方已舉行多次線上會議,且都希望能盡快找到解決方案。
Anthropic 發言人則反駁稱,在有關 Fable 5 越獄事件與出口管制的討論過程中,白宮從未提及任何中國團體取得 Mythos 的問題。
公司同時強調,其產品目前禁止中國境內使用者存取,並未發現中國官方取得模型權限的證據。
與白宮積怨已久
這並非 Anthropic 首次與川普政府發生衝突。此前 Anthropic 曾遊說反對聯邦政府限制各州自行制定 AI 法規的計畫,也因美軍希望將其模型應用於自主武器系統,而與五角大廈爆發法律爭議。
不過,David Sacks 強調,這些歷史恩怨與此次出口管制決定無關。
他表示,政府高度重視 Anthropic 的技術能力,認為目前問題雖然嚴重,但應可迅速解決,「球現在在 Anthropic 那一邊」。
不只是安全事件
從目前已知資訊來看,白宮此次行動背後其實存在兩條主線:
第一是表面的網路安全風險,即 Fable 5 疑似存在可被破解的安全漏洞;第二則是更深層的地緣政治考量——美國政府擔心最先進 AI 能力流向中國。
若中國相關組織真的曾接觸 Mythos,美方憂慮的不僅是模型被直接使用,更擔心其核心能力被研究、蒸餾甚至複製,進一步削弱美國在先進 AI 領域的技術優勢。
這也顯示,美國對先進 AI 模型的監管思維正在從傳統的出口管制,逐步向「模型存取權管制(Access Control)」轉變。未來不只是晶片與硬體設備,連大型 AI 模型本身都可能被視為戰略資產,納入國家安全框架管理。
Anthropic 與白宮能否在短期內達成妥協,將成為全球 AI 監管與科技競爭的重要風向球。