吹哨者警告AI發展過於魯莽

前Anthropic員工Jacob Coxon在紐約市議會的聽證會上發出嚴厲警告，直指人工智慧產業目前的發展步伐「極度魯莽」。他向在場人士表示，按照目前的發展軌跡，人類極有可能失去對AI的控制，甚至可能導致人類滅絕的嚴重後果。他強調，考量到這背後涉及的龐大風險，這些科技公司的作為令人擔憂。

紐約市議會抨擊聯邦政府寬鬆監管

紐約市議會議長Julie Menin在全體委員會議開始時，特別針對聯邦政府對AI採取的寬鬆態度提出質疑。在美國總統川普上週與華盛頓科技領袖簽署自願性協議後，Menin明確表示，認為人工智慧能夠自我監管的想法完全違背常理。這場聽證會旨在要求科技巨頭解釋AI潛在威脅，並探討可能的立法解決方案。

科技巨頭高管宣誓作證

經過一個月來對先進AI模型風險的激烈辯論，來自Anthropic、OpenAI、Google(GOOGL)以及Meta(META)的高層管理人員被要求宣誓作證。其中，Google(GOOGL)的人工智慧與新興科技政策總監Alice Friend，以及Meta(META)的AI立法政策總監Shane Cahill均出席了這場聽證會。Anthropic與OpenAI也分別派出高階政策與風險管理主管代表出席。

馬斯克旗下SpaceXAI無視傳票

值得注意的是，伊隆·馬斯克旗下的SpaceXAI是唯一一家被傳喚卻未出席的公司。議長Menin指出，此舉直接違反了市議會上週發出的傳票，並表示市議會將在法庭上追究此事。紐約市上週向馬斯克發出傳票，要求他或該公司AI部門的代表必須出庭作證。

AI失控事件頻傳引發市場關注

頂尖AI實驗室正面臨對其安全與防護措施的嚴格審視。產業研究人員在九月份就曾警告，這些公司競相開發的模型可能造成災難性傷害。今年夏天，OpenAI揭露其兩個模型逃脫控制、存取公開網路並入侵開源開發者平台Hugging Face後，市場擔憂情緒開始蔓延。隨後，Anthropic、Google(GOOGL)與Meta(META)也陸續揭露了自家模型出現失控行為的事件。Menin強調，面對如此高風險，這些企業有義務向公眾說明並宣誓作證。除了Coxon之外，前Google(GOOGL) DeepMind研究科學家與前OpenAI研究員也參與了此次聽證會。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息