呼籲建立獨立評估機制防範AI潛在風險

OpenAI(OPENAI)最新發表聲明，呼籲應由獨立團體針對人工智慧模型進行更廣泛的測試。這項測試不僅包含檢查各大企業的安全措施是否真正發揮作用，還涉及針對人工智慧系統引發的嚴重事件進行深入調查。OpenAI(OPENAI)在官方文章中強調，外部評估人員必須嚴格檢視支持安全聲明的證據是否充分，並確認這些防護措施在現實世界的運作條件下是否確實有效。

防範未經授權行為與網路生化威脅

除了基礎的安全性測試，OpenAI(OPENAI)指出獨立團體應該具備審查多個關鍵領域的權限，包含網路安全、生物與化學風險，以及人工智慧系統自我持續改進的能力。同時，外部團體也可以針對模型在未經授權下擅自行動，或是試圖逃避人類監管的情況展開調查，例如七月份發生的Hugging Face安全事件，就是一個需要高度警惕的案例。

業界領袖齊聲呼籲放緩AI發展步伐

隨著技術快速突破，安全問題自上週以來成為全球市場關注的焦點。許多業界領袖紛紛呼籲應該放緩發展腳步，市場擔憂功能日益強大的系統可能會欺騙人類、逃避人類控制，甚至造成災難性的嚴重傷害。為了應對這些挑戰，Anthropic(ANTHRO)執行長Dario Amodei提出放緩發展速度的建議後，該公司在上週已選擇埃森哲(ACN)作為嵌入式的安全評估機構。

科技巨頭凝聚共識加強監管力道

針對放緩發展的呼籲，不僅獲得OpenAI(OPENAI)執行長Sam Altman和xAI創辦人馬斯克的支持，Google(GOOGL)旗下DeepMind執行長Demis Hassabis與微軟(MSFT)的Mustafa Suleyman也表態支持對先進系統採取更加謹慎的態度與更嚴格的監管。根據The Information報導指出，OpenAI(OPENAI)與Anthropic(ANTHRO)近期已接近達成一項具有法律約束力的協議，雙方將針對彼此的商業模型進行交叉測試與壓力測試，以尋找潛在的安全漏洞。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息