小型AI已能分段複製到智慧家電　完整自主擴散仍未成功

AI模型還沒有在真實網路上自行蔓延，實驗室裡卻已能完成複製流程的多個環節。Anthropic測試發現，低於300億參數的小型模型可以尋找脆弱裝置、把模型搬進去並嘗試繼續運作；但在完整防護條件下，仍難以從頭到尾自主完成。

研究聚焦Android電視盒、智慧烤箱與其他物聯網裝置。這些設備常使用較舊軟體、預設密碼或長期沒有安全更新，運算能力不如資料中心，卻數量龐大、長時間連網，成為測試模型能否在低門檻環境取得落腳點的合適場景。

實驗把自我複製拆成多個步驟：發現可進入的設備、取得權限、傳送模型檔案、啟動推論環境，再從新設備尋找下一個目標。小型模型能分別處理多項任務，卻容易在工具、權限或環境差異中中斷，這也是完整自主擴散尚未成功的原因。

當研究人員移除部分安全步驟、簡化測試環境後，GLM-5.2及能力更強的模型可以端到端完成複製。這項結果證明能力組合已經存在，卻不表示相同模型能直接突破一般家庭或企業網路；簡化條件與真實攻擊之間，仍隔著設備差異、驗證與偵測。

Anthropic警告，若模型延續過去的進步速度，數月內可能具備更完整的自主複製能力。這是根據實驗趨勢提出的風險推估，不是已經發生的資安事件。把「可能在年底達成」寫成「AI已在家電自行繁殖」，會把研究警訊變成不存在的災情。

這類模型一旦分散到許多裝置，就沒有單一中央開關。傳統惡意程式依照固定指令運作，具代理能力的模型則可能閱讀新環境、調整工具並尋找下一個弱點；即使擴散速度很慢，長時間利用廉價、缺乏維護的設備，也能累積資源。

研究還把資料中心處理器列為可能目標。家電本身的算力有限，真正價值在於作為跳板、隱藏節點或協作網路；若能從邊緣設備往內部系統移動，攻擊者就可能接近更高價值的運算資源。家庭設備安全因此和企業網路不再完全分開。

裝置製造商面對的責任也隨之提高。智慧家電往往使用多年，消費者很少主動查看韌體版本，廠商若過早停止安全更新，家中仍可正常使用的產品就會長期暴露；更新期限與漏洞通報機制應在銷售時說明，而不是等到設備成為攻擊節點後才補救。

降低風險首先落在現有資安工作：停用預設密碼、更新韌體、關閉不必要的遠端服務，並把IoT裝置與辦公或伺服器網路分段。模型供應商也要限制高風險工具使用、記錄代理行為，讓異常掃描、權限提升與大量模型檔案傳送能被辨識。

Anthropic的測試把抽象的「失控AI」縮小成一條具體攻擊鏈。小型模型已能走完許多步驟，在簡化環境中甚至完成全程；真實世界尚未出現同等自主擴散，卻也不能再只用資料中心安全看待AI。數量龐大、更新緩慢的智慧設備，正成為這項能力最先碰到的薄弱處。