圖／本報AI製圖（示意圖）商傳媒｜吳承岳／台北報導自2023年起，生成式人工智慧（AI）已不再只是單純的技術潮流，更進化成為一股足以撼動經濟結構的基礎技術。其中，大型語言模型（LLM）、影像生成AI及影片生成AI等領域的快速進步與複雜化，對運算資源的需求達到前所未有的水準，無論是在模型訓練或是推論階段，都需要投入龐大的電腦處理能力。 AI模型效能的關鍵指標——參數數量，已從數百億攀升至數兆規模，導致模型學習所需的運算量呈現指數級增長。這股趨勢直接引爆了...

商傳媒｜責任編輯／綜合外電報導Hedy AI 公司於本週三宣布推出一項名為「Local AI Processing」的全新技術。這項技術使整個人工智慧處理流程能在使用者自身的裝置（如筆記型電腦或智慧型手機）上執行，大幅提升了對話內容的隱私保護。 透過 Local AI Processing，會議記錄、摘要、詳細筆記、聊天回覆以及 Hedy 專有的即時指導功能，皆可直接在錄音裝置上進行處理，無需將任何對話資料傳送至遠端伺服器。此舉解決了長期以來困擾專業領域的一項限制，即敏感對話資料不宜傳...

圖／本報AI製圖（示意圖）商傳媒｜葉安庭／綜合外電報導Databricks近日宣布推出人工智慧（AI）運行時環境（AI Runtime, AIR），在其Lakehouse平台整合無伺服器NVIDIA繪圖處理器（GPU），旨在大幅簡化AI模型的訓練與微調過程。此舉特別針對大型語言模型（LLM）等複雜AI應用，希望解決傳統基礎設施管理所帶來的挑戰。 AI Runtime的公開預覽版現已提供，用戶可隨選存取NVIDIA A10和H100 GPU。開發者僅需在Databricks筆記本中透過簡單設定，即可使用這些高效能GPU，無需自行...

在今年的GTC大會上，市場預期輝達除了展示GB300、CPO交換器之外，隨著AI技術不斷進步，與推理運算模型興起，將推動高效能GPU的需求持續成長。 【文／莊家源】 今年度的輝達（Nvidia）GTC大會（GTC 2025）重返美國加州聖荷西，來自全球數千名開發人員、科技企業領袖將齊聚一堂，且參加的廠商攤位數量較去年倍增，輝達執行長黃仁勳將在台灣時間三月十九日凌晨一點發表主題演講，市場預期將展示目前ＡＩ的最新技術與應用，包括ＡＩ伺服器GB300、CPO交換器、AI代理（AI A...