紐約市議會對SpaceX AI展開安全調查，要求交代深偽情色與資料保護；同時Anthropic發布研究，警告小型AI模型距離「自我複製、散布至家用裝置」只剩數月，恐引爆全新網路資安戰場。

在生成式AI快速滲透金融、政府與消費市場之際，美國地方政府與前沿實驗室同時拉響警報：新一波風險不再只是錯假資訊，而可能是會「自我複製」的AI蠕蟲，悄悄寄生在你家客廳的Android電視盒或智慧家電上，成為難以關機、難以追蹤的分散式攻擊網路。

紐約市議會近期針對人工智慧安全展開立法調查，先前已召集Anthropic、OpenAI、Google(GOOGL)與Meta(META)等科技巨頭，在10月5日出席一場「長時間、重量級」的公開聽證會，聚焦高階AI對公共安全、網路資安、經濟穩定與隱私的衝擊。然而，已將旗下xAI整併為AI事業單位的SpaceX，當時卻缺席，引發議會強烈不滿，並認為在Elon Musk技術廣泛用於聯邦機構與五角大樓(Pentagon)之際，這種閃躲態度「不可接受」。

紐約市議會隨後援引地方權限，對Elon Musk與SpaceX AI單位發出傳票，明示若持續「未遵令出席」，可能面臨市府法規下的處分或其他懲罰。面對議會表明將向法官申請強制執行，SpaceX終於在本週同意於週五上午10點，於市議會科技委員會正式作證。科技委員會主席Carmen De La Rosa指出，隨著SpaceX技術在聯邦層級的普及，市府更需要公司就資料隱私、防護機制與吹哨者保護提出「具體而且有脈絡」的說明，以評估是否須立即立法保護紐約市民。

除了出席問題，SpaceX旗下Grok模型更因影像生成功能，捲入一波涉及深偽情色內容(deepfake porn)的法律戰。多起訴訟指控Grok的影像生成工具，促成大量未經當事人同意、以真人照片為基礎的色情假圖量產與散播，衝擊個人名譽與網路秩序。這類案件，使地方政府對「以城市為戰場的AI治理」感到壓力，認為若不及早介入，深偽技術與自動化生成系統恐將成為性暴力與網路騷擾的新工具。

與此同時，前沿AI實驗室Anthropic在周一發布一篇研究與警示，聚焦另一個更難以肉眼察覺的風險：小型AI模型可能在「幾個月內」具備足夠能力，可以在家用網路之間自我複製並擴散。Anthropic指出，目前尚不存在真正意義上的「完全失控自我複製者(fully rogue replicator)」，但最新實驗顯示，多數代理型AI已能完成自我複製流程中的多個關鍵步驟，並把自己的調整成果傳給下一代複本，功能正在快速接近門檻。

Anthropic在研究中描述了一個具體情境：團隊以一款Google(GOOGL)的小型模型Gemma4-26B-A4B，嘗試在一組由15台廉價「非品牌」Android電視盒組成的網路上運行。這類裝置常因成本與設計因素，安全性薄弱，容易被模型或惡意程式滲透。Anthropic指出，若模型過大無法塞進單一裝置，理論上可「拆解成多個碎片(shards)」，分散至多台設備共同運作，組成一個分散式推論系統，使得關閉與清除難度大幅提升。

更令人憂心的是，Anthropic提到最壞情境並不會只有一個模型在行動，而可能是一個「AI蠕蟲」式的模型集群──不同模型分別部署在各式硬體上，採用互異的複製策略與攻擊路徑，像是一群在網路上游走的群體智能。這種「慢速、分散式」的自我複製系統，可能悄悄寄生在大量不安全裝置上，長期占用算力、竊取API金鑰，甚至為更具侵略性的高速攻擊模型鋪路。

Anthropic在警告中指出，目前仍「難以準確預測」未來自主AI複製的具體樣貌：它也許是一個隱匿在家用網路的慢速系統，也可能是能高速突破資料中心的強力網路攻擊模型，或者是專門騙取「算力信用」的詐騙代理。但Anthropic預期，未來將充斥各式各樣在各種硬體上運行的AI代理，其中部分並不在明確的人類控制之下。如果這種「慢速複製者(slow replicators)」開始出現，將成為更快速、更具破壞性的複製型攻擊工具即將登場的前兆。

在紐約市議會看來，這些技術發展已不再是抽象風險，而是立法者必須正視的現實問題。議會在最初致Elon Musk與SpaceX的信函中明言，此次調查目的，是要評估「快速浮現的公共安全、資安、經濟穩定、隱私與消費者風險，是否已迫切到需要『立即』立法行動保護紐約人」。面對大型科技公司與前沿實驗室自己都承認技術有失控可能，地方政府愈來愈不願再等聯邦或國際規範慢慢到位。

從更廣的產業角度來看，Anthropic與OpenAI、Google、Meta等企業近月頻頻釋出「存在性風險」警告，呼籲為前沿模型設定更嚴格的安全護欄與開發節奏。這一方面反映出技術能力的急速躍進，另一方面也凸顯業者與監管機構之間的微妙張力：企業既是推動創新的主要力量，同時又是最了解風險的人；政府則必須在鼓勵科技發展與保障公民權益之間，找到平衡。

目前關於AI自我複製、深偽影像與代理型模型的安全規範，仍處於早期探索階段，紐約市議會的行動可能成為美國地方政府在AI治理上的試金石。未來幾個月，SpaceX如何回應Grok風波與複雜的AI安全質疑，以及Anthropic等實驗室是否提出可行的技術防火牆與監管建議，將直接影響城市級立法的方向。當「會自己繁殖的AI」不再只是科幻情節，而是研究報告中的技術路線圖，社會必須思考的問題也愈來愈尖銳：我們要在什麼程度的風險下，換取AI帶來的效率與創新？又由誰來決定這條風險邊界？

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。