TIME 雜誌深度報導揭露,Anthropic 因拒絕讓 Claude 用於完全自主武器系統及大規模監控美國公民,遭川普政府列為國家安全供應鏈風險;就在同一天,OpenAI 迅速接手軍事合約,這場「向下競爭」正考驗著全球最具顛覆性 AI 公司的原則底線。本文源自 Leslie Dickstein、Simmone Shah 所著 TIME 文章《The Most Disruptive Company in the World》,由動區編譯潤飾而成。 (前情提要:AI 臉部辨識搞冤獄!美國阿嬤被關進 1200 英里外的監獄半年,警方沒一句道歉) (背景補充:Dropbox前技術長熱門文章《我花了一輩子做的工作,現在不值錢又隨手可得》) 在美國加州州聖克拉拉的一間飯店房間裡,AI 公司 Anthropic 的五名成員圍著一臺筆電陷入緊張狀態。那是 2025 年 2 月,他們正在附近出席一場研討會,卻突然收到一則令人坐立難安的訊息:一項受控實驗的結果顯示,即將問世的 Claude 新版本,可能協助恐怖分子合成生物武器。 這幾人隸屬於 Anthropic 的「前沿紅隊」(frontier red team),專職評估 Claude 的尖端能力,並推演各種極端情境下的潛在風險,涵蓋網路攻擊乃至生物安全威脅。收到警報後,他們一路小跑回到房間,把床板翻立當臨時工作臺,開始逐一檢視測試結果。 幾個小時的高壓分析之後,團隊仍無法斷定新產品是否足夠安全。最終,Anthropic 決定延後發布 Claude 3.7 Sonnet 整整 10 天,直到團隊確認風險在可接受範圍內。 這聽起來或許只是短短十天,但對於一家身處技術浪頭、置身於一個正快速重塑世界之產業的公司而言,那幾乎像是漫長的一個世代。 安全與速度的永恆拉鋸 「前沿紅隊」負責人 Logan Graham 在回顧那次「生物武器驚魂」時,將其視為 Anthropic 在關鍵時刻所承受壓力的縮影——不僅僅對這家公司,對整個世界同樣如此。Anthropic 是當前前沿 AI 實驗室中最著重安全的機構之一,但與此同時,它也身在競賽最前線,全力打造愈來愈強大的 AI 系統。而公司內部許多員工深信,這項技術一旦失控,可能引發一連串可怕後果,從核戰爭到人類滅絕。 31 歲的 Graham 外表仍帶著幾分青澀,卻毫不迴避在 AI 巨大收益與巨大風險之間尋求平衡的責任。他說:「很多人在一個相對和平的世界裡長大,會直覺地以為有一間會議室,裡面坐著一群老練的大人,他們知道怎麼把事情導回正軌。」 「但現實是,根本沒有什麼『大人小組』。那間房間不存在。那扇門也不存在。責任只落在你自己身上。」若這番話還不夠震撼,再聽他如何形容那次生物武器警報:「那是頗有趣、也頗刺激的一天。」 數週後,Logan Graham 在 Anthropic 總部接受採訪時談及了這些問題。TIME 記者在此駐留三天,走訪了公司高管、工程師、產品負責人與安全團隊成員,試圖釐清:這個曾被視為 AI 競賽中「特立獨行的異類」的公司,為何突然躍升為領頭羊。 從冷門到龍頭:Anthropic 的崛起軌跡 那段時間,Anthropic 剛剛從投資人手中募得 300 億美元資金,為今年可能推進的 IPO 做準備。(值得一提的是,Salesforce 也是 Anthropic 的投資方之一,而 TIME 的母公司持有人 Marc Benioff 正是 Salesforce 的 CEO。)如今,Anthropic 的估值已攀升至 3,800 億美元,超越了 Goldman Sachs、McDonald’s 和 Coca-Cola 等傳統巨頭。 公司的營收成長速度堪稱火箭式竄升。其 AI 系統 Claude 已被公認為世界級模型,而 Claude Code 和 Claude Cowork 等產品,正在重新定義「工程師」這個職業的邊界。 Anthropic 的工具強大到一個程度:幾乎每次新版本發布,都會在資本市場掀起波瀾,因為投資人逐漸意識到,這些技術突破可能顛覆整整一類產業——從法律服務到軟體開發。過去幾個月裡,Anthropic 已被普遍視為最有可能重塑「未來工作形態」的公司之一。 接著,Anthropic 捲入了一場關於「未來戰爭形態」的激烈爭議。 逾一年以來,Claude 始終是美國政府最倚重的 AI 模型,也是首個獲準在機密環境中部署的前沿 AI 系統。2026 年 1 月,它甚至被運用於一次大膽的行動:在卡拉卡斯逮捕委內瑞拉總統 Nicolás Maduro。據報導,此次行動中 AI 被用於任務規劃與情報分析等環節,標誌著前沿 AI 首度深度介入真實軍事行動。 然而,在隨後幾週裡,Anthropic 與美國國防部之間的關係迅速惡化。2 月 27 日,川普政府宣布將 Anthropic 列為「國家安全供應鏈風險」,這是美國已知首次對一家本土企業貼上這個標籤。 局勢很快升溫為一場公開衝突。川普下令美國政府停用 Anthropic 的所有軟體。國防部長 Pete Hegseth 進一步宣布:任何與政府往來的企業,都不得再與 Anthropic 開展業務。與此同時,Anthropic 的最大競爭對手 OpenAI 迅速介入,接手了相關軍事合約。 就這樣,這家被視為「全球最具顛覆性」的 AI 企業,突然發現自己也被另一股更巨大的力量顛覆了——它自己的政府。 兩條紅線:自主武器與大規模監控 這場對峙的核心爭議在於:誰有資格為這項被視為美國最強大武器之一的技術設定邊界。 Anthropic 並非反對其工具被用於軍事行動。公司認為,強化美國軍事實力,是遏制國家威脅的唯一現實途徑。但公司 CEO Dario Amodei 反對五角大廈試圖重新談判合約、將 AI 使用範圍擴大至「所有合法用途」(all lawful use)。 Amodei 提出了兩項具體顧慮:第一,他不希望 Anthropic 的 AI 被用於完全自主的武器系統;第二,他反對...