搜尋

任你搜索,樂屋世界

搜尋

關鍵字:大型語言模型

一共有:513筆"大型語言模型"結果被找到
排序方式:
開發者運用 Docker 部署 LiteLLM,統一管理逾百種 AI 模型

開發者運用 Docker 部署 LiteLLM,統一管理逾百種 AI 模型

商傳媒|責任編輯/綜合外電報導軟體開發者和 DevOps 工程師現可透過 LiteLLM 與 Docker 技術,建立一個自主託管的 AI 模型閘道器,將應用程式請求路由至多個大型語言模型(LLM),並透過單一的 OpenAI 相容 API 介面進行管理。 LiteLLM 的核心優勢在於其能抽象化底層模型供應商的差異。使用者不需讓應用程式直接連接至 OpenAI、Anthropic、Azure OpenAI 或其他供應商,而是將請求發送至 LiteLLM 代理伺服器。此代理伺服器透過單一設定檔,就能管理超過 100 種 LLM 的路...

Take-Two執行長:AI難創熱門遊戲,原創性仍需人類思維

Take-Two執行長:AI難創熱門遊戲,原創性仍需人類思維

圖/本報資料庫商傳媒|責任編輯/綜合外電報導遊戲大廠Take-Two Interactive執行長施特勞斯·澤爾尼克(Strauss Zelnick)近日在播客節目中指出,人工智慧(AI)雖然對遊戲開發極具潛力,但本質上難以創造出真正的「熱門遊戲」(hit game),因為AI仰賴的是過往數據,而真正的創意則需展望未來。 澤爾尼克駁斥了「有了AI,人人都能製作電玩遊戲」的說法。他強調,開發遊戲的技術早已普及,並非AI獨有。他進一步說明,每年有數千款手機遊戲問世,但其中僅有零到五款能成為...

AI代理人記憶突破:MCP與CRDTs打造去中心化持久記憶

AI代理人記憶突破:MCP與CRDTs打造去中心化持久記憶

商傳媒|責任編輯/綜合外電報導過去兩年,人工智慧(AI)代理人已從研究展示演進至實際的生產基礎設施,廣泛應用於程式編寫輔助工具(如Claude Code、Cursor)及端到端解決客服問題等場景。然而,多數AI代理人仍處於「無狀態」模式,意味著每次對話或任務都獨立於先前的互動,導致重複建立意圖的「金魚效應」。 這種無狀態性並非AI模型本身的限制,而是其外層系統的架構瓶頸,儘管現代大型語言模型(LLM)能處理龐大的上下文視窗。目前業界多採取將記憶層附加到代理人身...

2026開發者必備五大AI技能:掌握提示工程與雲端架構迎戰未來

2026開發者必備五大AI技能:掌握提示工程與雲端架構迎戰未來

商傳媒|葉安庭/綜合外電報導隨著生成式人工智慧(AI)浪潮席捲全球軟體開發領域,欲在2026年職涯中脫穎而出的開發者,關鍵在於能否有效運用AI工具。市場數據顯示,具備AI技能的專業人士薪資較傳統軟體職位高出67%,且年成長率達38%,但企業內部普遍面臨嚴重的AI技能落差。 AI技能需求激增與企業缺口 根據產業顧問機構Gartner的預測,到2028年,高達九成的企業軟體工程師將運用AI程式碼助理,相較於2024年初不到14%的比例,顯示AI工具的普及速度驚人。DataCamp於今年二...

階躍AI發表StepAudio 2.5 Realtime 以RLHF強化角色扮演語音

階躍AI發表StepAudio 2.5 Realtime 以RLHF強化角色扮演語音

圖/示意圖商傳媒|林昭衡/綜合外電報導上海人工智慧實驗室階躍AI(StepFun)於昨(24)日發布了其最新端對端即時語音大型語言模型StepAudio 2.5 Realtime。該模型不僅支援高度客製化角色設定,更透過專為角色扮演情境優化的強化學習人類回饋(RLHF)技術,以及卓越的類語言理解能力,提供業界領先的語音互動體驗。 StepAudio 2.5 Realtime 採用端對端設計,有別於傳統將語音識別、推論和合成分為多個連續步驟的流水線系統,能透過單一統一系統直接實現音訊輸入與輸出。...

AI模型高效辨識軟體漏洞 專家警示:缺人類輸入恐陷「模型崩潰」

AI模型高效辨識軟體漏洞 專家警示:缺人類輸入恐陷「模型崩潰」

圖/示意圖商傳媒|何映辰/台北報導人工智慧(AI)公司Anthropic近日發布「Project Glasswing」專案的初步研究成果,旗下AI模型Mythos Preview展現出在網路安全領域的卓越能力,已成功在多個廣泛使用的軟體系統中,辨識出超過一萬個高風險或關鍵級別的漏洞。然而,有專家擔憂,AI模型若過度依賴自身生成的數據,恐面臨「模型崩潰」的風險,導致其輸出變得不可靠。 Anthropic指出,Mythos Preview已與約50個合作夥伴共同掃描超過1,000個開源軟體專案。合作夥伴們在一月內...

智慧眼鏡迎發展轉捩點?XREAL與Google聯手導入AI新功能

智慧眼鏡迎發展轉捩點?XREAL與Google聯手導入AI新功能

圖/示意圖商傳媒|責任編輯/綜合外電報導智慧眼鏡製造商XREAL的創辦人兼執行長池·徐(Chi Xu)認為,在與Google建立合作關係後,智慧眼鏡產業已迎來關鍵轉捩點。Google在近期的Google I/O大會上,特別展示其Gemini AI模型在硬體生態系統的深度整合,其中智慧眼鏡是主要關注焦點之一。 XREAL自2021年起已出貨超過35萬台AR眼鏡,在全球智慧眼鏡市場中佔據重要地位。池·徐強調,公司多年來致力於理解消費者對智慧眼鏡的實際需求,而非僅依賴矽谷的預設觀念。其Air和Beam設...

風險升級!不用寫程式也能攻破AI?企業代理人暴露新資安危機

風險升級!不用寫程式也能攻破AI?企業代理人暴露新資安危機

圖片來源/本報資料庫商傳媒|記者顏康寧/台北報導全球生成式人工智慧技術加速普及,各國網路安全防線正面臨全新挑戰。最新外電與產業研究顯示,AI 資安風險已不再侷限於傳統程式碼漏洞、系統後門或帳密外洩,而是進一步延伸至語言操控、社交工程與自動化代理系統失控等新場景。當大型語言模型成為企業客服、研發、程式開發與維運流程的一部分,資安防禦也被迫從「技術防火牆」走向「語意、心理與治理邊界」的整合戰場。心理操縱取代程式解碼 語言攻擊成新型AI風險根據《...

南韓Naver、Kakao領航企業AI雙軌策略 整合ChatGPT與Claude Code

南韓Naver、Kakao領航企業AI雙軌策略 整合ChatGPT與Claude Code

商傳媒|責任編輯/綜合外電報導南韓科技巨頭 Naver 和 Kakao 正在企業人工智慧(AI)領域引領新趨勢,紛紛採用「雙軌策略」,整合 OpenAI 的 ChatGPT 與 Anthropic 的 Claude Code 作為員工標準工具。此舉旨在依據任務類型分配不同 AI 模型職責,最大限度地發揮兩種工具的優勢,並降低供應商鎖定風險。 《Tech Times》報導指出,Naver 已將 ChatGPT 和 Claude Code 納入其內部 AI 工具包中,而 Kakao 也正向所有員工推廣 Claude Code,預計將於本月底完成部署。在兩家公...

Anthropic 發表 AI 工具 洞悉 Claude 模型思維

Anthropic 發表 AI 工具 洞悉 Claude 模型思維

圖/示意圖商傳媒|葉安庭/綜合外電報導美國人工智慧公司 Anthropic 近日揭曉一項革新性的「自然語言自動編碼器」(Natural Language Autoencoders, NLAs)系統,旨在深度解讀其大型語言模型 Claude 的內部運作機制。這項技術能將 AI 模型在「思考」時所產生的數值活動模式,轉換為人類可理解的自然語言,從而揭示模型如何形成決策與回應。 Anthropic 表示,如同人類以語言溝通,AI 模型 Claude 雖然以文字對話,但其內部實際運作是透過「激活」(activations)這種數值...