商傳媒｜方承業／綜合外電報導
一名人工智慧（AI）研究員 Jacob Coxon 近日辭去在美國 AI 公司 Anthropic 的職務並離開 AI 產業，他指控包括 Anthropic 在內的 AI 公司，在開發具備自我改進能力的 AI 模型上「拿我們的生命在豪賭」。他認為，這些公司正競相開發「超級智慧」，其能力最終恐超越人類智慧的理論臨界點，並可能在十年內造成人類滅絕。
Jacob Coxon 過去三年曾在 OpenAI 和 Anthropic 兩家頂尖 AI 公司工作，主要負責模型預訓練階段，即 AI 模型吸收大量數據的過程。他公開表示，AI 開發者普遍相信 AI 可能在本世紀末導致人類滅絕。Anthropic 的安全主管 Evan Hubinger 也證實，公司內部確實有員工擔憂 AI 可能毀滅人類，他個人估計未來十年內發生此類風險的機率超過 10%。Hubinger 更指出，Anthropic 目前尚未有明確計畫確保當 AI 系統能力超越人類時，能確實服從人類的指令。
Jacob Coxon 強調，若無政府干預或業界協調減速，沒有任何公司能負責任地開發超越人類智慧的 AI。他提到，雖然 Anthropic 清楚理解相關風險，但由於擔心若自己不率先發展，會讓更不謹慎的競爭對手取得主導地位，因此陷入一場競賽。今年二月，Anthropic 曾從其安全章程中移除一項承諾，該承諾原要求若風險無法控制，將暫停模型開發，理由是單方面暫停將讓位給不那麼謹慎的競爭者，反而使產業整體更不安全。
這股對 AI 發展過快的擔憂已擴及業界。今年七月底，包括 Anthropic 執行長 達里奧·阿莫代（Dario Amodei）在內的逾千名科技業員工，聯名呼籲華盛頓支持一項協調減緩先進 AI 發展的機制。OpenAI 也在八月曾暫停其最新模型的訓練兩週，之後在更嚴格的控制下恢復。OpenAI 首席科學家 Jakub Pachocki 呼籲「極度謹慎」，並表示全球政府應將 AI 未來發展的國際協調列為首要任務。
在監管方面，目前美國聯邦法律尚未對 AI 模型進行規範。九月，美國參議員 伯尼·桑德斯（Bernie Sanders）和眾議員 格雷戈里奧·卡薩（Greg Casar）共同提出一項法案，尋求在聯邦監管機構成立之前，暫停 AI 的開發。美國總統 川普（Donald Trump）則強調美國在 AI 技術上領先中國的重要性，並暗示政府將對 AI 發展採取較為寬鬆的監管方式。與此同時，輝達（Nvidia Corp.）執行長 黃仁勳（Jensen Huang）在 OpenAI 推出 Astra 模型時，曾表示「通用人工智慧（AGI）已經到來」，顯見業界對 AI 發展前景的看法不一。
