乐鱼平台

网易乐鱼平台 > > 正文

对话高通数据中心业务总经理:从定制CPU到3D堆叠HBC,高通下出端云AI一盘棋

0
分享至


智东西
作者 ZeR0
编辑 漠影

智东西夏威夷毛伊岛9月22日现场报道,在骁龙峰会2026上,高通一口气推出两款2nm旗舰芯片——第六代骁龙8超级至尊版和第六代骁龙8至尊版。(详情参见《刚刚,高通2nm双旗舰来了,为智能体AI重造架构,手机能跑300亿参数大模型》)

会后,高通技术公司执行副总裁兼技术规划、边缘解决方案和数据中心业务总经理马德嘉Durga Malladi与智东西等媒体进行交流,涉及话题包括高通为何重归数据中心CPU市场、3D堆叠与高带宽计算(HBC)、定制CPU和高主频CPU的好处、如何构建AI软件栈、高通AI SoC的独特竞争力、与中国AI公司的合作情况等。

经智东西整理,重点信息如下:

1、高通进入数据中心CPU市场有什么优势?

在骁龙峰会2023上,高通首次介绍用于PC平台的定制Oryon CPU。当时,与行业里的其他产品相比,它带来了非常显著的性能提升。

此后,高通一直将Oryon CPU核心扩展到产品组合中的其他领域。

去年高通重新进入数据中心市场时,决定把Oryon CPU也带到数据中心。

高通认为,无论从性能还是性能效率来看,它都非常出色,相比目前行业里的其他方案也极具竞争力。

2、怎么看到将内存和计算单元3D堆叠的技术路线?

高通是这项技术的先行者之一。去年高通首次谈到要把近存计算引入其平台,几个月前宣布将这项技术命名为HBC。

这是一种新的存储与计算融合架构,基本思路是采用分离式3D堆叠技术,将计算单元与LPDDR DRAM Die堆叠,可以理解成在一个“内存立方体”的正下方放置计算单元,同时还会集成很多其他功能。

高通此前已经宣布,其第一代和第二代HBC产品将分别搭载于AI250和AI300数据中心AI芯片。

今天高通总裁兼CEO安蒙宣布,这项技术不会只应用于数据中心,高通也会把它带到终端设备上。

3、自研Oryon CPU对高通AI战略意味着什么?

高通拥有Arm架构授权,所以能在微架构层面进行创新,并进行自己的定制化修改。

定制CPU构成了高通的一项差异化能力,已帮助高通打造出了非常有竞争力的产品,高通会继续在这个领域投资。

过去CPU主要被用于通用计算,或者作为系统中的机头。随着智能体AI兴起,CPU正在成为智能体AI的关键计算基础之一,因为CPU需要承担大量工作,负责协调和编排整个系统,决定接下来应该做什么。

因此,在智能体AI时代,CPU的作用正在变得更加重要。高通认为自己的定制CPU核心对于未来发展会非常重要。

4、高主频CPU在智能体AI工作流中能发挥什么作用?

高通在移动平台上率先突破5GHz门槛,反映了其持续在自研Oryon CPU核心上的投入。

随着智能体AI的发展,CPU的重要性正在越来越高。它发挥作用的地方会从终端设备一直延伸到数据中心。

5、高通准备如何应对英伟达CUDA生态层面的竞争?

CUDA是英伟达的编程平台。在CUDA之上还有Dynamo推理服务框架,涉及很多其他编译器和软件组件。

几个月前,高通完成了对AI软件基础设施公司Modular的收购。Modular提供的是一个更加开放的开源平台,它的编程语言叫作Mojo。高通上个月已经宣布,Mojo将采用Apache 2.0许可证完全开源,而且它能够运行在任何第三方平台上。

类似地,高通还有AI推理框架MAX,它处于编译器/软件栈这一层,大部分也会开源,其中一部分会采用授权模式,但任何人都可以使用它。

高通正在大力投资这种开放式软件栈框架,因为行业需要这样的开放架构,AMD作为合作伙伴也表达了对高通的支持。

高通希望Modular软件栈未来部署时可以运行在多种硬件上,而不会局限于某一种硬件平台,会保持开放性。

6、怎么看AI导致消费电子涨价带来的挑战与机遇?

消费电子本身就是一个具有周期性的行业,价格会涨,也会跌。

不认为消费电子产品涨价是AI直接造成的,有多个因素共同作用。

一方面,AI技术正在让终端设备变得越来越强大;另一方面,整个行业存在一定程度的供应和内存短缺。

整个生态系统里的所有因素并不都由高通控制,高通能控制的是把强大的AI技术带进终端设备。

同时,高通也在努力大幅提高设备的效率,包括设备内部如何更高效地使用计算资源和内存资源。

7、如何为不同设备的个人上下文策略提供一致体验?

个人上下文会根据消费者的行为、使用模式等信息,逐步在设备内构建。

高通现在所做的一件事情,就是确保消费者无论使用哪一台设备,只要它是由骁龙平台驱动的,用户的上下文都能跟随用户在不同设备之间流转,从而获得统一、一致的体验。

要实现这一点,高通必须与合作伙伴以及云服务合作伙伴共同协作,这是高通正在推进的方向。

8、怎么应对不同品牌的用户个人数据管理方式不同?

高通能够了解消费者具体需要和想要什么,并保存这些用户偏好。

随着个人知识图谱不断扩展,高通可以采用合适的方法对这些信息进行压缩,从而控制知识图谱的规模,确保能够在设备端建立一个非常高效的知识图谱。

长期记忆意味着有些上下文信息需要在更长的时间尺度上被保留下来。最终发展到某一阶段后,其中一部分上下文可能也需要存到云端。

高通正在研究究竟什么样的方式才是最合适的方案。

9、端侧AI模型能用什么标准来衡量?

关键并不只是模型有多大,真正重要的是模型质量和各项指标、能否在智能体AI场景下把任务做好。

比如高通今天展示的在手机上跑300亿参数级模型,通常你不会在终端上看到这么大的模型,但这个复杂模型对智能体AI使用场景很有帮助。

智能体不一定只用设备本地运行的模型,可能还会调用云端进行一部分推理,同时还会进行联网调用以及其他函数调用,以确保能够获得完成任务所需的全部相关信息。

在衡量模型质量方面,业界有一些成熟的基准测试。对于智能体工作流,现在也开始出现一些新的基准测试。

高通会采用行业已存在的标准指标来评估,不会另外定义一套评价体系。

10、高通在AI芯片竞争中有什么核心优势?

当你考虑一款真正优秀的AI SoC或是一款能非常好地运行智能体AI的SoC到底需要什么时,你会发现,仅仅拥有最好的GPU、最好的NPU或最好的CPU都不够,而是需要这三者都非常优秀。

除了计算能力外,你还需要在如何充分利用内存带宽方面拥有丰富经验。这也是高通一直在内存等领域进行投入的原因。

此外,把所有这些东西整合到一起,需要合适的封装技术,以及各种外围组件和传感器。因为传感器中枢能够帮助你构建一种全新的个人上下文。

归根结底,高通的投入并不集中在某一个单独领域,其投资和研发覆盖了整个技术体系。完整的IP组合能力将成为高通未来的一个独特差异化优势。

11、目前最大的技术挑战是什么?

制程技术、计算能力和内存都是,很难只选一个。

12、高通如何与阶跃等中国AI公司合作?

高通在中国拥有非常大的业务和团队规模,与中国初创企业保持良好关系,相关合作覆盖很多不同的技术领域,原因是AI领域正出现大量创新,而高通非常喜欢和有创新能力的合作伙伴共事。

今天高通的演示就有两个例子,一个是阿里原生智能体电脑Qwen Book,另一个是在手机端运行30B混合专家(MoE)模型。这个MoE模型最初来自阿里Qwen 30B,阶跃对它进行了一些微调,研发出StepEdgeOmni 300亿参数MoE模型,然后他们和两三家合作伙伴一起做出整个端侧智能体demo。

高通一直关注哪些合作伙伴值得一起向前发展,对各种商业合作保持开放。

13、近几年什么变化使AI真正能带给消费者不同体验?

从ChatGPT发布至今,AI模型本身的能力成熟和强大了很多。今天的模型和2023年的模型已经完全不在一个水平上。这意味着,基于这些模型构建智能体AI应用时,能够实现的用例也得到了显著提升。

因此,虽然从2023年开始,行业里就已经有很多关于“我们应该开发哪些AI使用场景”的想法,但当时模型还没成熟到足以真正支撑这些体验的程度,现在以消费者为中心的应用场景已经很复杂和成熟。

14、实现高通未来核心收入目标,具体如何分配?

在今年6月举行的投资者日上,高通宣布核心财务目标:到2027财年结束时达到50亿美元,到2029财年结束时达到150亿美元。

高通对实现这些目标非常有信心,已公布了一些客户合作,但现阶段不会披露不同客户的具体收入分布情况。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传2027年国企要变天,到底真假?评论区炸锅...

网传2027年国企要变天,到底真假?评论区炸锅...

慧翔百科
2026-10-20 17:28:40
一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

云上乌托邦
2026-10-20 18:05:26
台风“蔷琵”(超强台风级)最新路径公布,最大风力达17级,将给浙沪闽台带来强风雨,或在福建二次登陆

台风“蔷琵”(超强台风级)最新路径公布,最大风力达17级,将给浙沪闽台带来强风雨,或在福建二次登陆

台州交通广播
2026-10-21 12:57:43
儿子高调官宣恋情仅1天,刘丹的态度表现,没给杨幂留一丝颜面

儿子高调官宣恋情仅1天,刘丹的态度表现,没给杨幂留一丝颜面

娱圈办事处
2026-10-20 21:05:11
40岁妻子不满丈夫要离婚,叫来63岁的情夫,2015年他俩合伙杀死丈夫

40岁妻子不满丈夫要离婚,叫来63岁的情夫,2015年他俩合伙杀死丈夫

汉史趣闻
2026-10-21 10:31:35
沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

闻识
2026-05-04 08:59:03
员工伙食都照顾不好一定是烂公司!张雪称米饭风波基本搞定

员工伙食都照顾不好一定是烂公司!张雪称米饭风波基本搞定

快科技
2026-10-21 10:27:15
深圳业主的续贷噩梦:700万的房子银行只认480万,第三次续贷,门关了

深圳业主的续贷噩梦:700万的房子银行只认480万,第三次续贷,门关了

新浪财经
2026-10-21 03:56:12
领先梅西,C罗37次失点排名足坛第一

领先梅西,C罗37次失点排名足坛第一

南方都市报
2026-10-21 12:18:13
前阿森纳球星直言:离开阿森纳去巴萨是最大错误

前阿森纳球星直言:离开阿森纳去巴萨是最大错误

晚风知我意21
2026-10-20 19:33:11
中使馆发旅游安全预警,泰方回应:普通游客不会遭绑架

中使馆发旅游安全预警,泰方回应:普通游客不会遭绑架

蓬勃乐鱼平台-乐鱼(中国)一站式服务平台
2026-10-21 08:56:28
两岁女童被高空抛下的苹果砸伤左眼,肇事者无法确定 家属起诉楼上13名业主和小区物业!判了

两岁女童被高空抛下的苹果砸伤左眼,肇事者无法确定 家属起诉楼上13名业主和小区物业!判了

红星乐鱼平台-乐鱼(中国)一站式服务平台
2026-10-21 13:37:56
超强台风"蔷琵"已升至巅峰强度 路径出现大拐弯

超强台风"蔷琵"已升至巅峰强度 路径出现大拐弯

看看乐鱼平台-乐鱼(中国)一站式服务平台Knews
2026-10-21 13:17:31
00后小伙踩着自制飞行滑板飞越长江被质疑是AI,本人辟谣,景区回应

00后小伙踩着自制飞行滑板飞越长江被质疑是AI,本人辟谣,景区回应

界面乐鱼平台-乐鱼(中国)一站式服务平台
2026-10-20 19:58:28
被骂五年,冯竞爽终于回应:就穿爱穿还穿

被骂五年,冯竞爽终于回应:就穿爱穿还穿

草莓解说体育
2026-10-21 12:35:00
1937年王明回国欲挑战毛主席权威,康生断言:你不是对手

1937年王明回国欲挑战毛主席权威,康生断言:你不是对手

沆砀无垠
2026-10-21 10:15:03
星巴克中国:明天起,将在全国开始施行消费入座,会摆放相关提示牌;店员将对孕妇、行动不便者等优先给予帮助

星巴克中国:明天起,将在全国开始施行消费入座,会摆放相关提示牌;店员将对孕妇、行动不便者等优先给予帮助

每日经济乐鱼平台-乐鱼(中国)一站式服务平台
2026-10-21 11:19:10
轰38分5断!乔治首秀刷新队史纪录,绿军交易不亏,但选错老大了

轰38分5断!乔治首秀刷新队史纪录,绿军交易不亏,但选错老大了

你的篮球频道
2026-10-21 07:12:47
马科斯暴怒不已?他没料到,中国的油,不再给菲律宾“开小灶”了

马科斯暴怒不已?他没料到,中国的油,不再给菲律宾“开小灶”了

阿腩讲娱乐
2026-10-21 06:15:01
全民拒接陌生来电,运营商亲手把通话功能玩废了

全民拒接陌生来电,运营商亲手把通话功能玩废了

起点财经
2026-10-20 11:52:52
2026-10-21 17:07:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12774文章数 117185关注度
往期回顾 全部

SpaceX收入暴涨!马斯克:这事"不再不可能"

康奈尔校报做了件石破天惊的事:公布轮奸女生的7人姓名

康奈尔校报做了件石破天惊的事:公布轮奸女生的7人姓名

“我,对得起天津足球!”

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

日赚近5亿的长鑫,股价却跌掉了15000亿

高新华:奇瑞致力于成为AI驱动的智能科技公司

态度原创

当学业压力来袭,怎样当好孩子情绪“减压阀”?这场微讲座为你支招!

秋冬季节孩子咳嗽气喘?若胸部凹陷一定要及时就医!#呼吸道疾病 #合胞病毒 #支原体感染 #疫苗

卡其裙、小棕裤,今年最好看的单品都在这了,穿出秋天的氛围与时髦

美原油储备降至44年来最低 美以伊战事或重燃

无障碍浏览 进入关怀版