《Anthropic 與對齊:權力、 AI 與國家安全的博弈》核心論點解析
本文為 Stratechery 創辦人 Ben Thompson 於 2026 年 3 月 2 日發布的分析文章,探討 Anthropic 與美國國防部之間關於 AI 使用的爭議,以及 AI 發展對國家安全和民主制度的深遠影響。以下就核心論點進行詳細闡述。
論點一:國際法的本質是「實力」而非「規則」
作者以美國對伊朗的軍事行動為開端,指出「國際法」的概念在某種程度上是「假的」。雖然相關法規和協議確實存在,但國際法的有效性最終取決於其執行力。也就是說,必須有一個實體具有執行能力,但這樣的實體並不存在。
聯合國的運作依賴成員國的同意,願意服從其命令並提供執行能力。真正重要的行為者是主權國家,而國家之間的相對權力不取決於律師和法官,而是投射力量和脅迫他人的能力。作者總結:伊朗違反了國際法,因為他們的軍隊被美國擊敗——這意味著美國決定誰對誰錯。
論點二:Anthropic 與國防部的衝突
就在世界關注伊朗局勢之際,科技界發生了另一場激烈辯論。美國聯邦政府宣布停止與 Anthropic 合作,將其列為「供應鏈風險」,這是政府與該公司之間關於其技術如何使用於五角大樓的戲劇性升級。同時,競爭對手 OpenAI 宣布與國防部達成協議,使其模型可用於機密環境——這是直到最近才由 Anthropic 持有的地位。
Anthropic 執行長 Dario Amodei 在聲明中明確表達了公司立場:在少數情況下,AI 可能損害而非捍衛民主價值。他們反對兩種使用場景:大規模國內監控和完全自主武器。這兩種例外情況從未包含在與國防部的合約中,Anthropic 認為現在也不應該被納入。
論點三:反對大規模國內監控的理由
Anthropic 支持將 AI 用於合法的外國情報和反情報任務,但反對將這些系統用於大規模國內監控,認為這與民主價值不相容。 AI 驅動的大規模監控對基本自由構成嚴重且新穎的風險。
作者指出,根據現行法律,政府可以在不取得搜索令的情況下,從公開來源購買美國人的詳細移動記錄、網頁瀏覽和社交關聯數據。強大的 AI 可以將這些分散的、個別無害的數據自動且大規模地組合成任何人生活的完整圖景。國家安全局(NSA)是國防部的一部分,這一事實為監控問題提供了有用的背景。
論點四:反對完全自主武器的理由
Anthropic 承認,部分自主武器(如目前在烏克蘭使用的那些)對於捍衛民主至關重要。即使是完全自主的武器(將人類完全排除在循環之外並自動選擇和攻擊目標)也可能對國家防禦至關重要。但作者強調,如今的前沿 AI 系統根本不夠可靠,無法為完全自主武器提供動力。
Anthropic 明確表示:「我們不會故意提供可能使美國軍人和平民處於風險的產品。」他們曾提議與國防部直接合作進行研發,以提高這些系統的可靠性,但對方沒有接受這一要約。在沒有適當監督的情況下,完全自主武器無法依賴來執行我們訓練有素的專業軍人每天展現的關鍵判斷力。
論點五:權力來自實力——AI 如同核武器
作者提出了一個尖銳的觀點:國際法最終是實力的函數;強權即公理。核武器等某些類別的能力足夠強大,足以根本影響美國的行動自由——我們可以轟炸伊朗,但無法對付北韓。
如果 AI 等同於核武器——或者更強——那就是 Amodei 和 Anthropic 正在建立一個可能與美軍抗衡的權力基礎。這意味著 AI 的發展軌跡若如 Amodei 所預測的那樣強大,美國面臨的選擇實際上是二元性的:選項一是 Anthropic 接受相對於美國政府的從屬地位,不尋求保留關於其模型如何使用 的最終決策權;選項二是美國政府要么摧毀 Anthropic,要么罷免 Amodei 。
論點六:民主監督的必要性
作者引用了 Anduril 創辦人 Palmer Luckey 的觀點:「你相信民主嗎?我們的軍隊應該由我們選舉產生的領導人監管,還是應該由公司高管監管?」
Luckey 指出,同樣的問題適用於監控系統或自主武器等定義模糊但重要的能力。什麼是自主?什麼是防禦?在進攻行動中保衛資產算什麼?面對被視為進攻方的國家在海岸部署航母戰鬥群又算什麼?
作者強調,必須相信美國實驗仍在進行中,人民有權選擇和罷免做出這些決定的當權者——即使我們不完美的憲政共和國已經足夠治理國家,也不能將真正的權力杠杆外包給億萬富翁和公司及其影子顧問。
論點七:台積電與美中 AI 競爭的系統性觀點
作者在過往文章中論述了中美競爭的系統性觀點:台灣是兩種情境的導火線。轉向亞洲是為潛在的中國入侵或封鎖做準備;收縮到美洲則是承認或授予中國作為亞洲霸主的地位,這將不可避免地導致台灣被中國包圍。
晶片支撐著現代經濟的各個方面;AI 的興起和可能帶來的巨額收益只會讓這種需求更加迫切。只要中國需要台積電晶片,他們就有強大的動機放過台灣。但關鍵問題是:如果切斷中國與先進晶片的聯繫,不僅會降低中國公司依賴美國生態系統的可能性,還會降低摧毀台積電的成本。如果 AI 變得像 Amodei 所說的那樣有能力——相當於或超過核武器——那麼中國最佳策略就恰恰是這一點:如果中國不能擁有 AI,在當前情況下,相對容易確保任何人都無法擁有 AI 。
論點八:開源 versus 封閉 AI 系統的辯論
作者批評 Amodei 和 Anthropic 一直是開源模型的堅定反對者,並推動了一項作者認為非常錯誤的拜登行政命令。作者認為,如果只有封閉的 AI 系統,那麼難以想像的權力將被賦予這些系統的所有者。
其次,AI 安全只能由少數負責任的管理者保證的想法忽略了構建其他模型的巨大激勵。第三,在 AI 擴散的世界中,對抗 AI 最好的防禦就是 AI——這意味著更多的 AI 實際上比受限的 AI 更容易開源。讓作者特別擔憂的是,Amodei 和 Anthropic 持續表現出的模式:只專注於成為擁有所有權力的唯一贏家,很少考慮其他人可能如何反應。
論點九:解決方案的建議——依法監管而非公司決定
作者認為,解決這個新現實的方式是通過新法律和加強問責監督;歡呼或甚至要求一個非民選的高管決定如此強大的能力可以在何處使用,會導致更加專制的未來。
同時,我們的對手肯定會開發自主作戰能力——作者承認這使得其晶片處方更有可能儘快實現。美國需要朝這個方向發展,以保持其作為國際法的最終來源。而「美國」指的是民選總統和國會,而不是舊金山的高管。 Anthropic 需要與這一現實對齊。
結語
這篇文章深入探討了 AI 時代權力與民主之間的根本張力。 Anthropic 與國防部的衝突表面上是關於監控和自主武器的使用,但更深層的問題是:誰應該控制這種可能改變世界的技術?作者的核心論點是:在權力政治的世界中,無論是國際法還是 AI 監管,最終都取決於實力而非善意。 AI 既然被視為具有與核武器相當的戰略重要性,那麼其發展和使用就必須納入民主制度的框架之內,而非由私人公司單方面決定。