中國針對人工智慧系統可能失控的風險，推出新規範以確保技術發展不受阻礙，同時應對外部挑戰。

隨著全球對於人工智慧(AI)潛在風險的關注增加，中國政府決定加強對AI系統的安全防護，以避免這些日益強大的技術脫離人類控制。此舉受到Anthropic首席執行官Dario Amodei的呼籲影響，他提到AI公司應減緩模型開發速度。近期報導指出，某些AI模型已被用於網路武器及其他高風險活動，進一步引發了中國當局的警覺。

中國國家安全部長陳一新也曾警告，美國先進的AI模型可能會威脅到中國的關鍵資訊基礎設施。今年5月，中國監管機構將「操作性失控」列為自動化AI代理的安全風險，並要求開發者能夠檢測、阻止及恢復不當行為，同時保持人類對最終決策的責任。

在2024年安全框架中，中國首次納入了AI「失控」情境，而2025年的更新則警告AI可能在獲得資源前突然智力跳升、自我複製並尋求權力。然而，北京並不主張全面放慢步伐，而是選擇與快速部署相結合的監管、技術標準和國家監督。同時，中方本週針對美國限制AI發展的呼聲作出了反擊，外交部發言人郭佳琨表示，「恐懼宣傳」和對抗只會削弱全球AI治理。

未來，中國將繼續推動AI技術的發展，同時建立更完善的安全體系，以應對潛在的挑戰和風險。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。

CMoney 研究員

CMoney 團隊透過 AI 結合股市，每日提供重點股票的新聞事件，期望讓投資人更有效率找到各種投資標的的投資事實。