搜尋

任你搜索,樂屋世界

搜尋

關鍵字:大型語言模型

一共有:821筆"大型語言模型"結果被找到
排序方式:
Google TurboQuant演算法突破 AI記憶體效率倍增不失真

Google TurboQuant演算法突破 AI記憶體效率倍增不失真

圖/本報AI製圖(示意圖)商傳媒|責任編輯/綜合外電報導Google 研究部門(Google Research)近日推出一項名為 TurboQuant 的人工智慧模型壓縮演算法,宣稱能在不犧牲準確性或無需重新訓練的情況下,大幅降低大型語言模型(LLM)關鍵記憶體「鍵值快取」(KV cache)的消耗。這項技術的發表,預計將對AI硬體設計及部署帶來深遠影響。 現今的LLM在處理長文本時,鍵值快取記憶體會隨著對話長度與上下文視窗大小呈線性增長,進而大幅增加圖形處理器(GPU)的記憶體負擔並拖...

Gartner預測:AI模型Token單價趨零 企業營運成本恐不減反增

Gartner預測:AI模型Token單價趨零 企業營運成本恐不減反增

圖/本報資料庫商傳媒|何映辰/台北報導根據國際研究暨顧問機構Gartner今日發布的最新報告預測,到2030年,人工智慧(AI)模型的關鍵運算單位「Token」單價將趨近於「零」。儘管單價大幅下降,但隨著AI技術的快速演進與應用普及,企業的整體AI推論成本(inference cost)反而可能不減反增。 Gartner指出,大型語言模型(LLM)的推論成本將在2030年之前降低逾90%,而模型效率則有望提升高達100倍。以具備1兆參數的LLM為例,其推論成本相較於2025年將減少超過90%。報告將...

Gartner 示警:AI 代幣價格驟降 企業成本負擔不減反增

Gartner 示警:AI 代幣價格驟降 企業成本負擔不減反增

圖/本報資料庫商傳媒|林昭衡/綜合外電報導研究顧問機構 Gartner 今日(30日)發布警告指出,儘管人工智慧(AI)推論(inference)代幣的單位價格預計將大幅下滑,但由於 AI 應用模式的改變,企業在 AI 方面的總體支出負擔恐將持續存在,甚至不減反增。 Gartner 預計,到 2030 年,一個具有一兆參數的大型語言模型(LLM)的推論費用,相較於 2025 年將下降超過 90%。同時,相同規模模型的效率預計可提高達百倍。Gartner 高級總監分析師 Will Sommer 表示,這項成本效益...

Ricoh 發表 AI 模型 解析圖表「暗黙知」助企業數位轉型

Ricoh 發表 AI 模型 解析圖表「暗黙知」助企業數位轉型

圖/本報資料庫商傳媒|吳承岳/台北報導日本影像科技大廠 Ricoh 今日宣布,已成功開發一款專為處理企業內部文件「暗黙知」(隱性知識)的多模態大型語言模型(LMM)基本模型「Qwen3-VL-Ricoh-32B-20260227」。這款新模型能高精度理解包含複雜圖表與圖像的企業文件,有效將過去難以被人工智慧辨識利用的隱性知識轉化為可操作數據,為企業數位轉型帶來新助力。 該模型以阿里巴巴雲(Alibaba Cloud)的「Qwein 3.0-VL」為基礎,並在日本經濟產業省與新能源產業技術綜合開發...

AI幻覺成大型語言模型固有缺陷 研究點出用戶互動風險

AI幻覺成大型語言模型固有缺陷 研究點出用戶互動風險

商傳媒|葉安庭/綜合外電報導根據喬治城大學醫學中心(Georgetown University Medical Center)近期舉辦的一場研討會,來自美國國家衛生院(National Institutes of Health, NIH)的博士後研究員 Brandon Colelough 指出,人工智慧(AI)大型語言模型(LLM)產生「幻覺」或錯誤資訊的現象難以避免,這使AI應用存在潛在危害。 Brandon Colelough(同時也是馬里蘭大學博士生)在 Bhussry 研討會系列中解釋,所謂的AI幻覺是指「貌似合理卻不符合事實的內容斷言——錯誤或捏造...

汽車經銷商加速導入AI工具 提升銷售效率與顧客體驗

汽車經銷商加速導入AI工具 提升銷售效率與顧客體驗

圖/本報資料庫商傳媒|林昭衡/綜合外電報導全球汽車經銷商正加速導入人工智慧(AI)工具,以提升銷售流程效率並優化顧客服務體驗。根據今日發布的報導,科技巨頭OLX Group與南非AutoTrader等平台,近期紛紛推出結合大型語言模型的AI解決方案,為汽車市場帶來變革。 OLX Group執行長克里斯汀·吉西(Christian Gisy)在日前於葡萄牙里斯本舉行的CLAIM AI會議上指出,該集團自2018年起便投入「AI優先」基礎設施建置,並在過去八年間投入逾2億美元於AI能力開發。目前,OLX ...

Finda 攜手 Upstage 商業化金融 AI,深化大型語言模型應用

Finda 攜手 Upstage 商業化金融 AI,深化大型語言模型應用

圖/本報資料庫商傳媒|葉安庭/綜合外電報導金融科技公司 Finda 宣布與 AI 研發商 Upstage 簽署策略協議,雙方將共同開發並推動人工智慧(AI)金融解決方案的商業化,目標是將生成式 AI 模型從實驗室帶入實際金融運作。 這項合作旨在將大型語言模型(LLM)直接整合至日常金融業務中,涵蓋範圍包括金融工作流程自動化、風險分析、客戶支援以及文件處理等關鍵環節。根據《kmjournal.net》報導,Finda 將提供其金融數據基礎設施及平台環境,以部署 Upstage 的 AI 模型;而 ...

三大市場一次看懂,買房金越滾越大

三大市場一次看懂,買房金越滾越大

文/黃信安 圖/FREEPIK 今年投資環境變數多,AI估值高、美中角力延續,降息循環也將牽動市場情緒。想為買房累積頭期款,關鍵是分散布局、降低單一市場風險。本刊整理股市、債市與新興市場三大方向,2026年的投資策略建議。 展望2026年,雖然川普關稅政策不確定性降溫,但美、中地緣政治持續緊張,加上AI科技股估值過熱,以及聯準會步入降息循環,每個事件持續牽動市場敏感神經,想存買房頭期款的民眾,應避免重壓單一資產或市場。 今年投資策略應聚焦多元配置...

金融業AI資安部署國際經驗:模型輔助而非自主,風險控管成關鍵

金融業AI資安部署國際經驗:模型輔助而非自主,風險控管成關鍵

圖/本報資料庫商傳媒|責任編輯/綜合外電報導隨著網路威脅日益自動化且複雜,全球金融機構面臨將人工智慧(AI)導入網路資安營運中心(SOC)的龐大壓力。然而,資安前線團隊警告,若將AI視為能自主調查的工具,恐將帶來嚴峻風險,因為大型語言模型(LLM)在實際生產環境中的表現,與供應商的承諾之間存在明顯落差。 美國車貸業者 Exeter Finance 資深資安工程師 Ankit Gupta 與美國泰森食品(Tyson Foods)首席資安工程師 Shilpi Mittal,在 2026 年 RSAC 大會上分享了...

ARK Invest:2025年AI內容產量超越人類 模型崩潰危機浮現

ARK Invest:2025年AI內容產量超越人類 模型崩潰危機浮現

商傳媒|何映辰/台北報導根據研究機構ARK Invest的數據,人工智慧(AI)年度文字內容產量已於2025年超越人類創作,並預計在2029年底前,累積AI生成內容將會超越人類文明有史以來的所有書面紀錄。這項驚人的趨勢引發各界對於內容品質、知識信任度及AI模型未來發展的深切擔憂。 ARK Invest首席未來學家Brett Winton(布雷特·溫頓)指出,2025年是AI文字產量超越人類的關鍵節點。此處的「書面產量」涵蓋範圍廣泛,包括人類自古騰堡印刷術時代以來產出的每一張明信片、備忘...