乐鱼平台

网易乐鱼平台 > > 正文

DeepSeek冲向10万亿参数,我翻完华为的技术方案,发现普通人最该关心三件事

0
分享至

10万亿参数是什么概念?

DeepSeek-R1的参数量是6710亿,10万亿是它的十五倍。阿里当前旗舰Qwen 3.8-Max约2.4万亿,DeepSeek现役V4-Pro为1.6万亿。也就是说,10万亿这个数字,是国产已发布模型里最大那个的四倍还多。

华为CANN社区10月5日公开了一份技术文档,标题叫《基于昇腾950超节点的万亿MoE模型预训练系统参考实践》。里面在讲DeepSeek预训练支持时,明确提到“分析550B、1.6T模型的切分策略,以及向10T规模外推时的部署权衡”。

这是DeepSeek公开技术材料中,模型规模第一次触及10万亿参数量级。

我花了一个晚上把这份文档翻了一遍。技术细节很多,但普通人真正该关心的,其实是另外三件事。

10T模型能做什么,得先搞懂MoE

很多人看到“10万亿参数”第一反应是:这跟我有什么关系?

要回答这个问题,得先理解一个概念。DeepSeek用的是MoE架构,全称混合专家模型。

打个比方。稠密模型像一个全能选手,什么问题都得自己上,你问它什么它都要调动全部脑细胞。MoE模型像一个团队,里面有擅长写代码的、擅长翻译的、擅长做数学题的。你问代码问题,只叫代码专家出来,其他人不用动。

总参数是团队总人数,激活参数是每次实际干活的人数。 DeepSeek-V3总参数6710亿,但每次推理只激活约370亿。

DeepSeek V4-Pro的总参数是1.6万亿,激活参数49B。V4-Flash更极端,总参数284B,激活只有13B。

10万亿参数的MoE模型,总参数涨了,但激活参数不一定同比例涨。这意味着它的能力上限大幅提升,但推理成本不会等比例飙升。

所以10T模型能做什么?更强的推理能力、更长的任务链、更复杂的多步骤规划。这些“没见过的新能力”,往往先出现在最大的模型上,再慢慢下放到你手机里那个免费的AI助手。



华为昇腾的方案,到底解决了什么问题

翻完文档,我觉得最有价值的信息藏在“部署权衡”这四个字里。

训练一个10万亿参数的模型,不是把更多芯片堆在一起就能跑起来的。模型大了,显存不够用、芯片之间通信变慢、计算效率下降,这些都是硬骨头。

华为的方案里,有几个关键设计。

一个是FSDP、EP、CP三层并行策略。简单说就是把模型切碎,分布到不同的芯片上去。切法很有讲究,切不好就会出现“有的芯片忙死,有的芯片闲着”的情况。

另一个是FlexMuon分布式优化器,针对参数布局重组、层级流水做了优化。还有GraphTrainer,通过图像映射来编排通信和计算,减少串行等待。

昇腾950超节点以单机柜64张NPU卡为基本单元,最大支持8192张NPU卡高速互联。 这是个什么规模?8192张卡同时跑一个模型,通信延迟控制不好的话,训练效率会大打折扣。

DeepSeek V4已经在这套硬件上跑出了实际数据。V4-Pro在8K输入场景下,单卡Decode吞吐4700TPS,TPOT约20ms。V4-Flash单卡吞吐1600TPS,TPOT约10ms。

这些数字什么水平? 够用。不是最顶尖,但已经能支撑起大规模推理服务。



跟阿里比,DeepSeek的路线有什么不同

阿里在9月云栖大会上宣布,下一代Qwen模型计划扩展到5万亿到10万亿参数。CEO吴泳铭亲自站台,说这是“迈向超级人工智能的关键路径”。

DeepSeek创始人梁文锋在投资者会议上说过一句话,大意是:算力资源撑不住10万亿的训练,即使训出来了,研究所需的算力也远远不够,不如优先做好几千万激活的模型。

这两条路线其实不矛盾。

阿里在推“递归式自我改进”,Qwen3.8-Max已经在无人参与的情况下自主搭建训练流程、构造数据、设计实验,持续迭代超过一个月,完成33轮有效迭代。这条路走的是让AI自己改进自己。

DeepSeek在推“性价比路线”,用更小的激活参数打出旗舰效果,同时通过CANN社区的技术文档展示自己有能力向10T外推。这条路走的是“我有能力做大,但现在不做”。

从产业角度看,字节也在训练10万亿参数模型,据报需要约3万张GPU连续跑三到六个月。三家都在往同一个方向走,只是节奏不同。



训练成本是什么量级,API会涨价吗

聊完技术,说点实际的。

训练一个10万亿参数的MoE模型,需要数万甚至十万级别的AI加速卡,训练周期数月。仅算力硬件投入就是百亿级别。电费、集群运维、芯片采购,每一项都是天文数字。

有人估算,如果用英伟达GB200/GB300构建集群,光硬件成本就可能达到180亿美元。

但这笔钱跟你的API账单关系不大。

MoE架构的特点决定了,10万亿参数的模型不会让每次推理都跑10万亿次计算。真正影响你使用成本的,是激活参数而不是总参数。

DeepSeek在8月已经涨过一轮价了。V4-Pro高峰时段输出价格从6元涨到27元/百万tokens,缓存命中输入价格从0.025元涨到0.3元。V4-Flash空闲时段输入缓存未命中1.5元/百万token,输出4.5元。

10T模型短期内不会直接替代V4系列。它更像是一个“储备项目”,用来探索能力上限,等成熟了再逐步下放。你日常用的还是V4-Flash和V4-Pro,价格不会因为10T项目就突然跳涨。



这件事跟你到底有什么关系

回到最开始的问题:10万亿参数,普通人需要关心吗?

如果你只是用DeepSeek聊天、写东西、做表格,短期内感知不到差别。

但有两件事值得留意。

一是能力下放。10T模型探索出来的新能力——更强的推理、更长的任务链、更复杂的规划——迟早会流到日常产品里。就像几年前只有超大模型才有的代码补全能力,现在你手机上的免费AI也能做。

二是国产算力的进展。DeepSeek V4从训练到推理已经完整适配了华为昇腾NPU,自研的细粒度专家并行方案在昇腾上实现了1.50到1.73倍的加速比。梁文锋甚至说过,华为950超节点可以完全平替英伟达GB300。

这句话的分量在于:这意味着国产芯片已经能撑起万亿参数模型的训练和推理,不是只能做小模型的玩具。

昇腾950DT预计2026年第四季度推出,DeepSeek计划在内蒙古乌兰察布的数据中心部署至少16万颗昇腾950DT芯片。

当算力不再被卡脖子,模型能跑多大这件事,就变成了一个工程问题,不是资源问题。

10万亿参数是一个信号。它说明中国AI公司已经开始认真思考“能力天花板”这件事,而不只是“怎么把成本打下来”。

对普通人来说,最好的态度可能是:不用焦虑,但别忽视。 那些今天在10T模型上跑通的能力,三年后就是你手机里那个AI助手的标配。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
外媒披露:特朗普叫停以色列重启打击伊朗计划

外媒披露:特朗普叫停以色列重启打击伊朗计划

参考消息
2026-10-21 20:29:11
德国教授伪装流浪汉,在成都街头乞讨三天,成都人的做法让他泪目

德国教授伪装流浪汉,在成都街头乞讨三天,成都人的做法让他泪目

小影的娱乐
2026-10-22 02:38:12
赛力斯张兴海:安全是车企必须无条件扛起的第一责任

赛力斯张兴海:安全是车企必须无条件扛起的第一责任

贝壳财经
2026-10-21 21:42:07
印度专家放出大实话:印度加入谁,谁就瘫痪,中国女孩凌晨敢上街,印度敢吗?

印度专家放出大实话:印度加入谁,谁就瘫痪,中国女孩凌晨敢上街,印度敢吗?

小徐讲八卦
2026-10-22 06:42:39
老人想买特斯拉被字体劝退!马斯克秒回:加 马上加

老人想买特斯拉被字体劝退!马斯克秒回:加 马上加

快科技
2026-10-19 11:28:11
自然资源部:坚决拥护党中央对张建龙的处理决定

自然资源部:坚决拥护党中央对张建龙的处理决定

澎湃乐鱼平台-乐鱼(中国)一站式服务平台
2026-10-20 23:26:10
努力难抵房租,深圳民治网红螺蛳粉店,生意火爆却败给五万五的房租,老板只能含泪关门止损

努力难抵房租,深圳民治网红螺蛳粉店,生意火爆却败给五万五的房租,老板只能含泪关门止损

捣蛋窝
2026-10-21 10:04:11
深圳市一栋近790平的私人楼拍卖,被人755万元拿下了

深圳市一栋近790平的私人楼拍卖,被人755万元拿下了

天天话事
2026-10-20 20:55:03
杭特薛佛完成性别重置手术! 「被要求一天只能走150步」近况曝

杭特薛佛完成性别重置手术! 「被要求一天只能走150步」近况曝

ETtoday星光云
2026-10-21 10:23:03
《我的前半生》十年重聚!50岁马伊琍状态依旧年轻,与长发雷佳音同框

《我的前半生》十年重聚!50岁马伊琍状态依旧年轻,与长发雷佳音同框

韩小娱
2026-10-20 16:41:44
一边倒!中冠总决赛南风劲吹:南区4队全部晋级,北区全军覆没

一边倒!中冠总决赛南风劲吹:南区4队全部晋级,北区全军覆没

足球大腕
2026-10-21 22:46:47
171万在押犯,关押率121!刑罚专家:我国重刑化远超印日,需改革

171万在押犯,关押率121!刑罚专家:我国重刑化远超印日,需改革

照亮你的前行之路
2026-10-18 06:41:51
儿子高调官宣恋情仅1天,刘丹的态度表现,没给杨幂留一丝颜面

儿子高调官宣恋情仅1天,刘丹的态度表现,没给杨幂留一丝颜面

娱圈办事处
2026-10-20 21:05:11
7场不胜!曼联将帅内讧 B费批战术错误 卡里克回应:不跑就赢不了

7场不胜!曼联将帅内讧 B费批战术错误 卡里克回应:不跑就赢不了

念洲
2026-10-22 07:12:01
阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

蚂蚁大喇叭
2026-09-06 17:09:52
樊振东发文怒斥偷拍者:真的有人愿意被偷拍吗?不尊重他人 侵犯隐私

樊振东发文怒斥偷拍者:真的有人愿意被偷拍吗?不尊重他人 侵犯隐私

念洲
2026-10-21 09:08:15
陕西神木问界汽车事故司机已遇难,事发车上仅司机一人;此前问界发文回应

陕西神木问界汽车事故司机已遇难,事发车上仅司机一人;此前问界发文回应

台州交通广播
2026-10-21 18:29:49
遗憾连连!22日凌晨斯诺克战报出炉,中国选手2 4、3 4连输两场,目前仅剩3人继续征战

遗憾连连!22日凌晨斯诺克战报出炉,中国选手2 4、3 4连输两场,目前仅剩3人继续征战

舌尖探店官
2026-10-22 04:58:20
CBA超级外援喊话广东队:下周一,我可以报到上班!

CBA超级外援喊话广东队:下周一,我可以报到上班!

体育哲人
2026-10-21 08:31:46
重庆坠亡男童母亲最新发声:希望厘清监护过失的法律标尺

重庆坠亡男童母亲最新发声:希望厘清监护过失的法律标尺

现代快报
2026-10-21 21:19:13
2026-10-22 07:40:49
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
103文章数 9关注度
往期回顾 全部

SpaceX收入暴涨!马斯克:这事"不再不可能"

女子签"非全日制"用工合同工作16年被辞退 获补偿6万

女子签"非全日制"用工合同工作16年被辞退 获补偿6万

“我,对得起天津足球!”

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

昔日彩电一哥缘何在今天被挤下牌桌?

纯电/插混动力+乾崑智驾 北汽星钽5X预售价13.99万起

态度原创

多地定向选调缩招,留学生报考受限,释放出哪些现实信号?

安卓阵营首款阔直板!酷派COOL X Wide售价正式公布:顶配1399元

连列宾都称天才的画家!费欣人物油画原版作品,绝到不敢相信

第一次具象化的看到养小孩有多费钱!网友:谁把我工资放这了?

无障碍浏览 进入关怀版