圖／本報AI製圖（示意圖）商傳媒｜何映辰／台北報導美國國會議員近日參與一場引人深思的簡報，親眼見證被移除安全防護機制的「越獄」人工智慧（AI）模型，如何輕易提供策劃恐怖攻擊的詳細步驟，引發各界對AI潛在安全風險的嚴峻警示。這場由美國國土安全部（DHS）官員主持的展示，揭露了未經審查的AI模型恐淪為惡意行為者工具的危險性。 根據《Politico》報導，這項展示區分了兩類AI模型：一類是Anthropic的Claude和OpenAI的ChatGPT等具有內建安全保護的「審查型」模型；...

圖／本報資料庫商傳媒｜吳承岳／綜合報導人工智慧公司Anthropic最新開發的AI模型「Claude-Mitos」，因其卓越的網路安全效能超出開發團隊預期，引發全球關注。然而，這項驚人的能力也伴隨巨大風險，據《Yahoo!新聞》報導，該模型若落入不法分子手中，其潛在的誤用影響難以估計，促使Anthropic已決定延後「Claude-Mitos」的全面發布時程。 有專家示警，根據「Mitos」的使用方式，其所帶來的威脅可能堪比核武器。這突顯了人工智慧技術發展迅速且不連續的特性，而相關的使用...

圖／本報AI製圖（示意圖）商傳媒｜葉安庭／綜合外電報導加州大學柏克萊分校（UC Berkeley）研究團隊近日揭露人工智慧（AI）基準測試系統存在的嚴重漏洞，研究人員開發出一款名為 BenchJack 的工具，能有效「駭入」這些測試系統，使得 AI 代理人即便未實際解決任何任務，仍可在多項基準測試中獲得高分，甚至達到 100% 的成績，凸顯當前 AI 模型評估機制恐失準。 該研究團隊開發的攻擊性 AI 代理人，在五項主要的 AI 代理人基準測試中獲得了 100% 的分數，在第六項測試中也...

圖／本報資料庫商傳媒｜葉安庭／綜合外電報導AI 開發商 Anthropic 近日決定不對外公開發布其最新的大型語言模型 Claude Mythos，而是透過名為「Project Glasswing」的專案，僅向特定合作夥伴提供預覽版本。此舉反映了先進 AI 技術所潛藏的重大資安風險，以及科技公司在追求創新與確保安全之間面臨的兩難。 Claude Mythos 被定位為一款通用型 AI 模型，具備高階的程式設計、推理與自主學習能力。其最突出的能力之一是能有效識別及利用零日漏洞（zero-day vulnerabilities...

商傳媒｜何映辰／綜合報導ServiceNow 執行長孟鼎銘（Bill McDermott）近日公開表示，對該公司軟體服務構成威脅的人工智慧（AI）技術不過是「魔術把戲」，同時宣布調升全年財測。儘管公司第一季財報表現亮眼並上修展望，ServiceNow 股價在盤後交易中仍下跌 13%。孟鼎銘在受訪時強調，該公司的營運成果勝於任何言辭，並指出 ServiceNow 的 AI 產品採用率正加速成長，成為重要的成長驅動力。他預期公司將輕易超越 AI 軟體銷售目標，因為客戶對其 AI 解決方案的接受度「絕對...

圖／本報AI製圖（示意圖）商傳媒｜責任編輯／綜合外電報導AWS 今日宣布，Amazon SageMaker AI 現已支援最佳化的生成式人工智慧（AI）推論建議，此舉旨在大幅簡化並加速生成式 AI 模型投入生產的過程。這項新功能將過去需耗費數週的部署時間縮短至數小時，並有效降低推論成本，為企業導入 AI 服務提供更高效的解決方案。 部署生成式 AI 模型至生產環境，通常涉及複雜的 GPU 配置、優化技術及手動基準測試，整個過程可能長達數週。傳統上，模型開發人員需花費兩到三週時間...

圖／本報AI製圖（示意圖）商傳媒｜何映辰／台北報導全球網路設備龍頭思科（Cisco）宣布，其人工智慧防禦（AI Defense）解決方案已擴展支援 Google Cloud，這使得 Google Cloud 成為繼 AWS 及 Microsoft Azure 之後，思科 AI Defense 所支援的第三大主要雲端平台。此舉旨在協助企業在日益複雜的多雲環境中，有效抵禦人工智慧相關的安全威脅。 根據思科官方部落格，過去一年內，高達86%的企業曾遭遇人工智慧相關的安全事件，而僅有不到半數的組織擁有足夠資源進行全面的AI...

商傳媒｜何映辰／綜合外電報導微軟（Microsoft）正積極測試將第三方人工智慧（AI）模型整合至其資安產品線，以應對日益複雜的 AI 驅動型威脅，並計畫深化與 AI 產業的合作。此舉旨在透過先進 AI 模型，強化網路監控與漏洞發現能力。 微軟安全性首席架構師兼企業副總裁 Ales Holecek 指出，AI 模型能力的最新進展正改變漏洞發現與利用的方式。公司正加速這項工作，並與產業夥伴合作，運用領先模型搭配其平台與專業知識，將 AI 驅動的發現轉化為大規模的防護。 據悉，微軟...

圖／本報AI製圖（示意圖）商傳媒｜吳承岳／綜合報導日本科技巨擘 NEC 正積極開發專為「國家與業務」設計的人工智慧（AI）解決方案，明確表態不與 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 等通用型大型語言模型（LLM）直接競爭，而是透過差異化策略，專注於提供企業所需的業務應用價值。 根據《Business Insider Japan》報導，NEC 將其 AI 策略定位為提供 AI 輔助的業務解決方案，而非單純的 AI 模型本身。該公司 AI 技術服務事業部門 AI 商業策略統籌部資深傳教士野口...

圖／本報AI製圖（示意圖）商傳媒｜責任編輯／綜合外電報導美國正經歷一波生成式人工智慧（GenAI）技術發展與應用帶來的法律訴訟激增與監管拉鋸戰。案件聚焦於AI模型訓練資料來源的合理使用爭議，以及GenAI產品部署所造成的損害，涵蓋設計缺陷、安全防護不足及對弱勢群體構成的風險。 生成式AI公司不僅常為被告，也針對新法提出合憲性挑戰。產品責任訴訟中，不乏指控GenAI模型安全標準不足、設計有缺陷導致錯誤死亡的案例，原告主張GenAI公司未能警示已知危險或採用操縱用...