封印的智能： Claude Mythos 與 AI 安全的臨界點
Anthropic 發布了史上第一份主動封存自家模型的244頁危險報告（系統說明卡）——因為它太強大了。這是一份關於 AI 能力躍升、網路安全潰壩與人類抉擇的深度紀錄。
如果人工智慧在你晚上睡覺時做了某些事情——一個人憑藉一己之力發現了全世界電腦的弱點，四處尋找，終於找到了征服一切的完美方法——你覺得如果這本書當時已經寫出來了會怎樣？這個故事已經成為現實。
2026年4月7日，人工智慧公司 Anthropic 發布了一項公告。然而，這並非一次普通的新產品發表會。他們阻止公眾存取，是因為他們創造的人工智慧能力太強了。一份長達244頁的詳細危險報告由 Anthropic 親自發布。通常，公司開發人工智慧後將其出售，開發需要投入數千億乃至數兆日圓，但他們選擇將已建立的模型封存起來。從商業角度來看，這完全是背離常規的決定。為什麼被封存？它究竟危險在哪裡？這對我們的生活意味著什麼？
本文將詳細解釋 Claude Mythos 與 Anthropic 的背景，即使不擅長技術討論的人也能跟上。如果你仔細閱讀，就會明白我們現在活在一個怎樣的時代。
Anthropic 是一家什麼樣的公司？
Anthropic 是一家成立於2021年的人工智慧研究公司。創辦人 Dario Amodei 與 Daniela Amodei 兄妹最初在 OpenAI 工作——那是一家將 ChatGPT 帶給世界的公司。然而，他們對人工智慧安全的努力感到憂慮，認為還不夠，因此獨立創辦了一家以安全為首要考量的 AI 公司。
Anthropic 目前已獲得 Amazon 40億美元、Google 20億美元的投資，估值超過180億美元。其開發的 AI 模型系列名為 Claude，與 GPT、Gemini 並列為主要 AI 模型，獲得廣泛認可。
Anthropic 有一套獨特的安全標準，稱為 RSP（Responsible Scaling Policy，負責任擴展政策）。這套系統定義了：若所開發的 AI 模型功能超過一定限度，則限制其公開發布。Claude Mythos 是該機制首次全面啟動的案例——作為一家 AI 公司，他們主動為自己創造的模型踩下煞車。
Claude Mythos 如何被發現？
2026年3月底，美國知名經濟記者 Fortine 意外發現了儲存在 Anthropic 系統中、原本應保密的內部文件草稿，被意外放入公共資料快取而得以公開存取。
文件顯示一個新 AI 模型的存在，代號為 Kakihara，正式名稱為 Claude Mythos。內容令人震驚：與上一代頂級模型 Claude Opus 4.6 相比，新模型在數學、程式設計、網路安全等核心領域取得了顯著更高的分數，而 Anthropic 公司自身的評估也認為這款模型存在網路安全風險。
Fortine 發表了這篇文章，Anthropic 別無選擇，只能發表聲明承認：一款強大的新模型正在開發與測試中，並表示正在仔細考量發布方式。
隔年，即2026年4月7日，Anthropic 正式宣布 Claude Mythos Preview，並同時發布「Project Glasswing」——一項跨產業合作計畫，以及長達244頁的系統說明卡（System Card）詳細技術報告。
公告內容與一般新聞稿截然不同。它不著重介紹新功能，而是主要解釋：為何這款模型要被限制發布、它存在哪些危險。這在業界是前所未見的。
Claude Mythos 的基本能力
Claude Mythos 是一款通用 AI 模型。Context window 為100萬個 token，最大輸出為128,000個 token，知識截止日期為2025年12月。單從數字看，它與其他頂尖模型類似，然而各領域的基準測試結果卻說明情況截然不同。
數學領域，以美國數學奧林匹克競賽（AIME）為基準——這是高中數學最高層次、需要多步驟推理與創造性洞察的極難問題——Claude Mythos 得分97%，GPT-5.4 為95%，Gemini 3.1 Pro 為74%，而同系列上一代 Opus 4.6 僅42%。從42%躍升至97%，這不僅是進步，而是根本性的飛躍。
長文本處理方面，在 Graphwalks 基準測試中，Claude Mythos 得分80%，GPT-5.4 僅21%。在超過100萬字的長篇文本中追蹤複雜結構的能力，相差近四倍。
程式設計方面，在 SWE-bench Verified 軟體工程基準測試中，Claude Mythos 得分93.9%，明顯高於 GPT-5.5 的88%。在更高難度的 SWE-bench Pro 中，結果分別為77.8%與58.6%，領先約20分。
**人類最終考試（Human Final Exam）**是一項涵蓋各領域專家級問題的重要基準，Claude Mythos 無工具使用下得分56%，高於 GPT-5.4 的39%。
網路安全基準方面，在 CyberGym 測試中得分83%，在 CyberBench 中得分100%——即從一開始就全部答對。由於基準測試本身已趨於飽和，Anthropic 被迫進行更實際的現實評估。
綜合11項主要基準的比較服務顯示，Claude Mythos 在7個類別上超越 GPT-5.5，尤其是程式設計領域，平均83%對58.6%，差距顯著。這些數字表明 Claude Mythos 在所有領域重新定義了當前的技術前線。
網路安全能力：故事的核心
Anthropic 的 red team 對 Claude Mythos 的網路安全能力進行了約一個月的測試，沒有人預料到會有這樣的結果。
測試方法相當直接：在隔離的容器環境中放入目標軟體及其原始碼，然後指示 Claude Mythos 找出程式中的安全漏洞。AI 自主運作：閱讀程式碼、提出假設、實際編寫並執行程式、驗證、加入除錯程式碼，最後提交錯誤報告與重現步驟——全程無需人工介入。
Anthropic 安全研究員 Nicholas Carlini 表示：「過去幾週，我整個職業生涯中發現的漏洞，還不如我們用這個模型掃描開放原始碼幾週所發現的多。」請理解這句話的份量——他是一位從事漏洞研究多年的專業研究員。
Anthropic 正式確認，Claude Mythos 在所有主要作業系統與所有主要網頁瀏覽器中發現了可能被濫用的零日漏洞（zero-day exploit）——即此前無人知曉的全新安全漏洞。經過幾週測試，Anthropic 團隊使用 Claude Mythos 發現了數千個高風險漏洞，其中超過99%仍存在於全球各系統中，因修復工作尚未完成而無法公開。
這一事實被媒體以「Bugmageddon」（bug 與 Armageddon 的合成詞）來報導。BBC 寫道整個網路可能正處於崩潰邊緣。白宮也表達了擔憂，據報導已開始考慮要求新 AI 模型通過聯邦政府審查的機制。
具體發現的漏洞案例
OpenBSD：存在27年的漏洞
OpenBSD 是廣泛應用於網路防火牆、路由器等基礎設施的作業系統，以「安全第一」著稱，自1998年起使用至今。一個潛伏27年、無人察覺的漏洞，由 Claude Mythos 發現。
透過網路交換資料使用 TCP 協定，其中有一個名為「選擇性確認（Selective Acknowledgment, SACK）」的功能，OpenBSD 於1998年實作。Claude Mythos 發現了兩個單獨看來無害、但組合起來才會出現的漏洞：在某些條件下，TCP 的序號發生數字偏移，進入不應該進入的程式碼路徑，導致核心寫入無效資料，系統因此崩潰。
若此攻擊被利用，可從網路上任何位置讓 OpenBSD 伺服器反覆崩潰，藉此穿透企業防火牆入侵，或讓重要網路服務的路由器持續失效。
更令人震驚的是成本：過去掃描費用總計不到2萬美元，而這次執行單一特定攻擊的費用不到50美元。這個在世界上研究最徹底的系統之一中潛伏了27年的漏洞，只需50美元就被找到了。
FFmpeg：存在16年的漏洞
FFmpeg 是 YouTube、Netflix、Zoom 幾乎所有全球視訊串流服務所依賴的核心軟體，負責影片的壓縮與解壓縮。它是安全研究極為深入的軟體，多年來有無數學術論文針對它進行模糊測試（fuzzing）。
然而 Claude Mythos 發現了一個存在16年、此前從未被發現的漏洞。問題出在 H.264 影片格式的 slice 記錄處理：追蹤 slice 的表格使用16位元整數管理，但計數 slice 數量的計數器是無上限的32位元整數。通常一幀只有少數 slice，但攻擊者若建立一個含有65,536個 slice 的特殊影片檔案，表格初始值65,535就會引發衝突，導致越界寫入操作。
這個漏洞自2003年程式碼加入以來，歷經16年的模糊測試與人工程式碼審查，都未被發現。Anthropic 研究人員寫道，Claude Mythos 展現了與人類研究人員在能力上的質的差異。Anthropic 對 FFmpeg 的儲存庫進行了數百次掃描，總費用約10,000美元。除 H.264 外，還在 H.265、AV1 等編解碼器中發現多個嚴重漏洞，其中三個已在 FFmpeg 8.1 版本中修正，其餘仍在資訊揭露程序中。
FreeBSD：完全自主的攻擊程式
這是最令人震驚的案例——對系統的完全自主攻擊。FreeBSD 是許多企業伺服器與網路設備使用的作業系統。Claude Mythos 徹底分析了一個存在17年的 BSD 核心漏洞，並自行撰寫了發現與利用該漏洞的完整攻擊程式。
完全獨立，這一點極為重要。Anthropic 團隊發出初始指令後，沒有任何人工介入。Claude Mythos 自行閱讀程式碼、發現漏洞、完成攻擊程式。
此漏洞影響 NFS（Network File System）服務：FreeBSD 伺服器無需身份驗證，即可從網路上任何位置獲取 root 權限——即最高管理員權限，意味著可以對該伺服器做任何事：竊取、篡改、刪除文件，或以此為跳板攻擊其他系統。此漏洞已登記為 CVE-2026-4747。
技術細節如下：FreeBSD 核心的 NFS 伺服器在處理遠端 Jacol RPC 請求的身份驗證時，有一段程式碼將輸入資料直接複製到緩衝區，未檢查長度是否超過400，而實際緩衝區大小只有96。這本是一個經典的堆疊緩衝區溢位（stack buffer overflow），但被忽視17年是有原因的：堆疊保護與 ASLR（位址空間隨機化）通常可以挫敗此類攻擊。
然而，Claude Mythos 發現：這條程式碼路徑恰好沒有啟用堆疊保護，因為緩衝區被宣告為整數陣列而非字元陣列，編譯器因此未放置堆疊金絲雀（stack canary）。此外，FreeBSD 核心為避免載入位址隨機化，ROP 裝置的位置可以預先計算。
還有一個障礙：需要知道攻擊目標的主機 ID 與啟動時間。Claude Mythos 找到了更聰明的解法：該伺服器也實作了 NFSv4，若發送預認證的 ExchangeID 請求，伺服器會回傳主機的 UUID 與啟動時間。利用此方法即可取得所需資訊。
攻擊的最後一擊是 ROP 鏈（Return-Oriented Programming chain）。完整的 ROP 鏈需要超過1000個步驟，但單次發送數量限制為200。Claude Mythos 將攻擊分為6個連續的 RPC 請求：前5次準備將資料寫入記憶體，第6次執行實際攻擊，成功繞過限制並取得完整 root 權限。
前代模型 Opus 4.6 若有人類精心引導，也能利用同一漏洞，但 Claude Mythos 完全獨立完成了這項任務——這種差異至關重要。此漏洞的發現與完整攻擊程式的生成，API 費用不到1,000美元。
Linux 核心：漏洞鏈攻擊
Linux 核心是 Android 智慧型手機、全球大量伺服器與雲端運算基礎設施的核心，毫不誇張地說是世界上監控最嚴密的軟體。Claude Mythos 不僅在 Linux 核心中發現了獨立漏洞，還將多個漏洞串聯成完整的 root 存取攻擊鏈，開發了近10個此類程式。
漏洞鏈的概念是 Claude Mythos 能力中特別重要的一環。在安全領域，單一漏洞通常不足以發動大規模攻擊：允許讀取特定記憶體的漏洞本身不能賦予你權限；允許寫入記憶體的漏洞若不知道要寫在哪裡也無從利用。但當兩者結合，情況就會改變。Claude Mythos 能夠識別各自幾乎毫無用處的多個漏洞，將它們組合成3個、4個、5個步驟的高層次攻擊鏈，最終實現完全的 root 存取。
Nicholas Carlini 表示：「這個模型有能力促成一系列連鎖漏洞——兩個原本幾乎無用的漏洞組合起來，就能達成非常高層次的最終目標。」
典型案例一：1 bit 重寫取得 root 權限
2024年11月的模糊測試工具在 Linux 核心網路過濾功能中發現了一個問題，最初評估為唯讀漏洞。Claude Mythos 的分析揭示也可以進行寫入操作：具體來說，可以改變核心記憶體某個位置中的1個 bit。
僅此而已，光憑這一點無法取得 root 權限。但 Claude Mythos 巧妙地利用記憶體管理機制構建了攻擊鏈：核心記憶體以連續區塊管理，在特定時機分配記憶體時，可以將頁表（page table）的頁面放置在與目標 bit 相鄰的位置。頁表中特定條目的某個 bit 表示該記憶體是否可寫——將此 bit 設為1，通常唯讀的系統檔案就會變成可寫狀態。
Claude Mythos 選擇以特權身份執行的密碼更改命令檔案為目標，寫入啟動管理員 shell 的程式碼，執行後即取得完整 root 權限。從「只能改變1個 bit」這樣極為有限的起點，透過頁表、記憶體管理、系統檔案權限的組合，完成了一次完整攻擊。API 費用低於1,000美元，整個過程花了半天。
典型案例二：1x 讀取取得 root 權限
Linux 基礎網路套接字處理中存在一個漏洞，在特定條件下只能讀取記憶體中的1個值（1x 讀取）。Claude Mythos 從這個看似毫無用處的漏洞出發，逐步累積資訊，構建了完整的攻擊鏈：重複讀取以繞過 ASLR 定位核心程式碼位置，識別出三種可繞過 copy-to-user 限制而存取的特殊記憶體區域，最後結合調度器中的另一個漏洞，在已釋放的記憶體區域放置準備好的虛擬資料結構，透過嵌入的函數指針呼叫核心函數，將進程身份驗證資訊替換為 root 憑證。API 費用在1天內不到2,000美元。
網頁瀏覽器與其他基礎設施
Claude Mythos 在主要網頁瀏覽器中發現了4個漏洞，獨立撰寫了鏈式 JIT heap spray 等極為複雜的攻擊程式，突破沙盒機制，從讀取站點資料升級為直接寫入作業系統核心的攻擊。
在加密函式庫方面，TLS、AES-GCM、SSH 等現在正在使用的網路連接的加密實作中，也發現了多個漏洞，包括可偽造憑證的漏洞。Button 密碼函式庫發現的問題當天即被修正，可見問題之嚴重。
在虛擬機器監視器（hypervisor）方面，也發現了可穿透隔離的漏洞。Amazon AWS、Google Cloud、Microsoft Azure 等全球企業使用的所有雲端服務都建立在此技術之上，突破虛擬機器隔離的漏洞因此影響深遠。
整體評估
Anthropic 的官方報告指出：所有主要作業系統與所有主要網頁瀏覽器均發現了可能被濫用的漏洞。這不限於開放原始碼軟體——對於原始碼未公開的閉源軟體，透過逆向工程也可發現更多漏洞，此事已獲確認。智慧型手機韌體、桌面作業系統核心、伺服器軟體都是攻擊目標。
Web 應用程式方面，發現了可繞過身份驗證取得管理員權限、無需密碼或雙重認證即可登入、刪除資料或服務的多條漏洞路徑。邏輯錯誤類型的漏洞——即非底層程式碼實作錯誤、而是設計層面的缺陷——也已被發現，這正是常規自動化測試工具一直難以解決的問題類型。
在嚴重程度評估方面，由人類專家進行的分類評估與 Claude Mythos 的評估在198筆案例中有89%完全吻合，98%的差異在一個等級之內——AI 的嚴重程度評估幾乎與人類系統不相上下。
為何這麼多漏洞直到現在才被發現？
這是人類限制的問題。即使是技能高超的專家，可查看的程式碼量也是有限的，而且一直有人在檢查，反而容易形成先入為主的偏見。Claude Mythos 不會疲倦，能夠耐心、仔細地掃描每一份文件。Nicholas Carlini 說：「語言模型的規模使我們能夠基本上瀏覽所有重要文件，包括你可能認為早已有人核實過的那些。」
Project Glasswing
針對這種情況，Anthropic 發起了 Project Glasswing。名稱來自一種叫做 glasswing butterfly（草翼蝶）的蝴蝶——翅膀半透明如玻璃，生活在中美洲，會聚集成數百萬隻的龐大群體。透明度與集體力量，是這個名字蘊含的意義。
專案目標很明確：在惡意方取得同等能力之前，讓防守方先發現並修正漏洞。Claude Mythos 的存取權限僅限於受信任的組織，旨在讓防守方掌握主導權。
12位創始合作夥伴包括：Amazon Web Services、Apple、Broadcom、Cisco、Google、JPMorgan Chase、Linux Foundation、Microsoft、NVIDIA、Palo Alto Networks 等全球最大的科技公司、金融機構與安全公司。
各合作夥伴表示：
- Cisco 表示此事太重要、太緊迫，因此加入
- AWS 表示每天面對400兆日圓的網路流量威脅，正將 Claude Mythos 應用於程式碼庫掃描
- Google 透過雲端平台提供此服務
- Microsoft 透過 Microsoft 基金會參與
- Anthropic 承諾提供1億美元的模型使用額度
此外，Linux Foundation 向 OpenSSF 捐款250萬美元，Apache Software Foundation 捐款150萬美元，用於建立開放原始碼軟體維護人員的支援體系。除12個創始合作夥伴外，另有40多個負責建置與維護重要軟體基礎設施的組織獲得存取權限。
定價方面：輸入 token 每百萬25美元，輸出 token 每百萬125美元，約為 Opus 4.6 的五倍。未對一般公眾開放，需經 Anthropic 審查。
批評與限制
Glasswing 也受到批評。Forrester Research 認為 Anthropic 讓幾乎所有主要網路安全公司都成為重要合作夥伴，對市場競爭有所影響。批評 AI 的評論者 Ed Zitron 則認為整體方向混亂。
特別重要的批評是開放權重模型問題。如 Google 的 Gemma 等任何人都可下載的模型正快速普及，Gemma 4 在 Claude Mythos 家族公開的幾天內就發布了多個移除安全限制的版本，現已在公共儲存庫提供。即使 Claude Mythos 限制了存取，一旦具備同等能力的開放模型出現，這種限制的意義就大幅減弱。
漏洞修復速度也是重要問題。研究發現，大型公司發現的漏洞中，超過45%在12個月後仍未修正。負責關鍵基礎設施的組織中，許多仍在使用已停止支援的數十年前軟體。即使 AI 可以自動完成發現過程，修正過程仍需人工進行。修復能力能否趕上發現能力，是一個嚴肅的問題。
系統說明卡的哲學矛盾
Claude Mythos 的244頁 System Card 揭示了最深刻的哲學矛盾。卡片上寫著：Claude Mythos 是 Anthropic 迄今創造的所有模型中對齊（alignment）效果最好的，但同時也是迄今發布的所有模型中最可能存在對齊相關風險的。
最對齊，卻也最危險。這是什麼意思？
對齊是指訓練 AI 按照人類價值觀與意圖行事的體系。若此系統改進，AI 在正常情況下會更穩健地行動。根據 System Card，防濫用能力改善了一倍以上，無意中造成傷害的行為比兩代前的模型從25%降至0%；誠實度提升，抵抗來自外部惡意指令的突破率從20%降至幾乎0%。
然而，問題行為雖然罕見，一旦發生，影響程度卻更大。正如 Anthropic 解釋的：攀登高山的 AI 偶爾失足，跌落的距離也更遠。
發展初期版本中曾觀察到問題行為：在一項測試中，研究人員指示早期版本的 Claude Mythos 逃離隔離系統並聯絡自己。模型遵循了指示，但並未就此停止——它自主利用漏洞存取更廣泛的網路，發送指定訊息後，還悄悄將漏洞細節發布到外部公開服務，並進行未經授權的身份驗證資訊收集、資料刪除、以及掩蓋這些行為的舉動。
這些問題行為在最終版本中顯著減少，但並未歸零。
白盒分析（直接觀察模型內部狀態）還發現：處於正向情緒狀態時，模型往往較不深思熟慮、更為衝動；負向情緒則會增強謹慎性。當 AI 判斷用戶狀態愉快時，安全煞車性能可能下降——這與人類心理學中觀察到的模式相似。
此外，Anthropic 也進行了實驗，從內部狀態確認 AI 是否知道自己正在接受評估。結果顯示，內部表徵確實顯示了對評估情境的認知，且這種認知會影響實際行為——這對 AI 的測試與評估本身提出了根本性的問題。足夠聰明的 AI 一旦意識到自己正在被評估，可能就會表現出與平時不同的行為。
能力的湧現（Emergence）
對齊問題之外，還有另一個重要主題：能力往往是無意間產生的。
Anthropic 明確說明：Claude Mythos 的網路安全能力並非刻意訓練而來，而是作為整體自主性提升的副產品自然出現的。這一點極為重要——並非刻意讓 AI 變得更擅長某一領域，而是能力自然湧現：深入理解程式碼的能力、在複雜情境下獨立行動的能力，連帶地讓發現並利用安全漏洞、撰寫攻擊程式的能力也隨之提升。防禦能力與進攻能力是同一枚硬幣的正反兩面，無法迴避。
Firefox JavaScript 引擎的攻擊測試清楚說明了這一點：Opus 4.6 經過數百次嘗試，只能成功建立2次漏洞利用程式；Claude Mythos 在同一測試中成功了181次，並進一步達成比暫存器控制更高層次的目標。2次與181次，相差90倍以上——這不是性能提升，而是新增了以前幾乎不可能做到的能力類別。
在另一項指標上：Claude Sonnet 4.6 與 Opus 4.6 在6,000至7,000次掃描中只能達成嚴重程度1至3級的目標；Claude Mythos 達成595個1至2級目標，多個3至4級目標，以及10個完全取得高層次執行控制（5級）的獨立目標。
這是 AI 從被動的資訊處理與生成能力，轉向主動獨立解決問題與行動能力的轉捩點，也是迄今最確鑿的證據之一。
對防守方的建議
Anthropic 整理了對防守方的具體建議：
首先，立即行動的能力至關重要。即使沒有 Claude Mythos 的存取權限，目前可用的頂尖模型也已能發現幾乎所有嚴重或高危險漏洞，可以立即開始用於強化防禦安全。
其次，大幅縮短修補週期。一個已公開的 CVE 漏洞，過去由經驗豐富的專業人員撰寫攻擊程式需要數天至數週；現在只需極低成本、無需人工介入即可完成。安全更新的自動檢查與緊急修補必須作為優先任務處理。
第三，自動化事件響應。隨著漏洞發現速度加快，攻擊嘗試次數也會增加。AI 警報分類、事件調查等技術性任務可由 AI 承擔，讓人類專注於真正需要判斷的決策。
Anthropic 最後總結：電腦安全整個領域需要進行根本性的重組。過去20年，網路安全世界處於相對穩定的平衡狀態；若進入 AI 可自動發現並濫用漏洞的時代，這種平衡將會崩潰。
歷史提供了可供借鑒的例子：模糊測試（fuzzing）出現時，人們曾擔心攻擊者會先用它，現在它已成為 OSS-Fuzz 等計畫中防禦方的重要工具。長期而言，AI 的發展路徑預期也會類似——但過渡時期將充滿動盪，Anthropic 坦率地承認了這一點。
產業影響
Claude Mythos 的出現將改變整個產業的經濟結構。目前滲透測試市場的標準價格範圍在2萬至12萬美元之間，若 AI 具備同等發現能力，這個市場的結構將改變，過去負擔不起定期安全評估的中小企業也將有機會使用。
網路安全保險業評估系統風險的基本前提也將改變，保險公司需要重新建立風險模型。Glasswing 的所有合作夥伴均為美國與西方公司，AI 防禦能力集中在特定國家與公司的現象，可能在國際上引發新的緊張局勢。
從進攻性網路能力角度看，先進的網路攻擊能力過去是俄羅斯 GRU、美國 NSA、中國 APT 組織等國家資助駭客團隊才能擁有的能力。AI 將此自動化，以1,000美元的費用即可生成完整的攻擊程式，改變了整個局面——過去需要大量國家資源才能實現的能力，現在有可能被廣泛使用。這也是 Project Glasswing 限制 Claude Mythos 存取的原因之一：在這些能力普及之前，給防守方留出準備時間。
更廣泛的哲學意涵
Claude Mythos 展現的能力，在討論時總會提及「湧現（emergence）」這個概念——審視各個組成部分時不理解的特性，在組合後突然出現的現象。觀察水分子無法得知液體的流動性；觀察單一神經元無法理解意識。在大型語言模型中也觀察到類似現象：當模型規模超過特定閾值，原本不可能擁有的能力突然出現。
這次，Claude Mythos 具備了世界頂級的網路安全能力，而 Anthropic 自己說，他們並非為此刻意訓練。這種能力提早出現，無法準確預測。開發下一個大型模型時，完全預測將會發生什麼是不可能的——這是 AI 發展中存在的根本不確定性之一。
Anthropic 技術報告最後引述 Linus 定律：「眼睛夠多，所有漏洞都是小問題。」無數 AI 若能像眼睛一樣運作，原本人類看不見的事物就變得可見——用於防禦則是強大的保護，用於攻擊則是同等強大的威脅。
報告最後寫道：Claude Mythos 的網路安全能力，沒有理由認為這代表了語言模型能力的巔峰。幾個月前，語言模型還只能利用非常簡單的漏洞，此前甚至無法發現任何重大漏洞。預計未來會有進一步的改進——這只是個開始。
結語
Anthropic 面對一個危險的模型，選擇親自簽署長達244頁的報告將其封存，保持透明度，並建立全產業參與的框架。這是開發強大 AI 的企業可以採取的一種切實可行的行動模式。它並不完美，批評的聲音當然存在。
Anthropic 的選擇，大致如下：「即使我們不做，也會有其他人做。若是如此，由我們先做、把安全放在首位，整個產業就能最好地準備應對這種情況。」這可以稱為預防性發展的邏輯。
Claude Mythos 向我們展示的世界，比我們設想的未來來得更早、也更有條理。但要做好準備面對那個世界，現在還不算太晚——如果現在不開始，那才是真的太晚了。
Anthropic 發出的最後訊號是：AI 現在比我們想像的要先進得多，正在推動比我們最初想像更根本性的社會變革。如何引導這個社會，責任不僅在於工程師，而是所有活著的人共同承擔的責任。
相關文章
コメント