新聞資訊
新聞資訊
1 月 21 日消息,The Information 月初爆料稱,DeepSeek 將在今年 2 月中旬農(nóng)歷新年期間推出新一代旗艦 AI 模型 ——DeepSeek V4,將具備更強的寫代碼能力。
1 月 20 日,正值 DeepSeek-R1 發(fā)布一周年之際,有開發(fā)者發(fā)現(xiàn) DeepSeek 在 GitHub 中更新了一系列 FlashMLA 代碼,橫跨 114 個文件中有 28 處都提到了未知的“MODEL1”大模型標識符。

該標識符與已知的現(xiàn)有模型“V32”(即 DeepSeek-V3.2)被并列或區(qū)別提及。根據(jù)代碼上下文分析,“MODEL1”很可能代表一個不同于現(xiàn)有架構(gòu)的新模型。
開發(fā)者分析認為,“MODEL1”與“V32”在關(guān)鍵技術(shù)上存在區(qū)別,主要體現(xiàn)在鍵值(KV)緩存的布局、稀疏性處理方式以及對 FP8 數(shù)據(jù)格式的解碼支持等方面。這些差異表明新架構(gòu)可能在內(nèi)存優(yōu)化和計算效率上進行了針對性設(shè)計。
此前,DeepSeek 研究團隊還陸續(xù)發(fā)布了兩篇技術(shù)論文,分別介紹了名為“優(yōu)化殘差連接(mHC)”的新訓(xùn)練方法,以及一種受生物學(xué)啟發(fā)的“AI 記憶模塊(Engram)”。這一舉動不禁引起用戶猜測,DeepSeek 正在開發(fā)中的新模型有可能會整合這些最新的研究成果。敬請期待。
發(fā)布日期: 2024-04-15
發(fā)布日期: 2024-01-22
發(fā)布日期: 2024-11-19
發(fā)布日期: 2024-03-01
發(fā)布日期: 2024-01-02
發(fā)布日期: 2023-07-04
發(fā)布日期: 2024-05-09
發(fā)布日期: 2024-08-22
發(fā)布日期: 2026-01-22
發(fā)布日期: 2026-01-22
發(fā)布日期: 2026-01-22
發(fā)布日期: 2026-01-22
發(fā)布日期: 2026-01-22