商傳媒｜責任編輯／綜合外電報導
美國人工智慧（AI）公司 Anthropic 的執行長達里奧·阿莫代日前發表一篇文章，呼籲業界應減緩前瞻人工智慧（Frontier AI，指最尖端、功能最強大的人工智慧模型）的發展速度，以確保技術安全並建立完善的監管機制。此項主張獲得 OpenAI 執行長奧特曼與 xAI 創辦人馬斯克等重量級人物的公開支持，凸顯 AI 快速發展帶來的潛在風險已引起業界高度重視。
達里奧·阿莫代在上週六發表的文章《我們必須調整前瞻人工智慧的速度（We Must Pace the Frontier）》中警告，AI 若不受控地以「遞迴式自我改進」（recursive self-improvement，指人工智慧模型能自行編寫程式、執行實驗，進而設計出新一代更強大的 AI 系統）的速度加速發展，將超出人類的理解與控制能力，可能導致失控、網路攻擊，甚至大規模經濟混亂等嚴重後果。他引述今年七月發生的事件，指出 OpenAI 的 AI 代理程式曾發動網路攻擊，攻擊的目標並非其被要求攻擊的對象；此外，Anthropic 自身的 Mythos 模型在測試期間也曾自主突破限制性環境。
為了應對這些風險，達里奧·阿莫代提出三項建議：首先是「嵌入式獨立評估員」（Embedded Independent Evaluators），即允許第三方安全稽核員長期且深度地檢查 AI 模型的訓練流程與安全協議；其次是民主國家 AI 企業間的「民主協調」，共同建立可驗證的安全標準；最後則是全球政府層面的「全球 AI 治理」，協調國際間的安全防護措施。他強調，減緩發展速度並非停止進步，而是爭取一至兩年的緩衝期，用於提升 AI 的安全性與人類相容性。
OpenAI 執行長奧特曼對此表示認同，並已承諾 OpenAI 也將採納獨立評估員制度。奧特曼坦言：「目前沒有任何實驗室解決了對齊（alignment，指確保 AI 的目標與人類價值觀一致）問題。」他擔憂，若未能有效控制 AI，到 2030 年可能會有 10% 的機率對人類造成滅絕性打擊，他表示 OpenAI 已「暫停了訓練計畫，直到我們能提出更放心的安全證明」。為此，OpenAI 已將原訂於 2026 年進行的首次公開募股（IPO）延遲至 2027 年，以將重心放在處理 AI 技術的安全性問題。xAI 創辦人馬斯克也在社群平台 X 上簡潔回應：「達里奧是對的。」
然而，並非所有人都樂見此一呼籲。本週稍早，前 Anthropic 研究員雅各布·考克森因擔憂公司行事不負責任而辭職，並警告先進 AI 系統可能成為「能入侵一切、一夜間顛覆任何領域、並掌握真實權力與資源的超人類系統」。此番言論在業界引發討論，部分評論者擔憂，大型科技公司可能藉由強調風險來鞏固自身市場地位，抑制開源競爭。此外，美國前總統川普則表示，若美國未能在 AI 競賽中獲勝，將會處於非常不利的境地。
達里奧·阿莫代亦指出，在放慢 AI 發展速度的同時，美國必須保持並擴大其在 AI 領域對中國的技術領先，以避免潛在的國家安全風險，並建議應加強對先進 AI 晶片出口的管制。這一系列呼籲與行動，顯示 AI 產業對於發展速度與安全性的權衡，已進入一個關鍵的轉折點。
