2026-11-11 16:04

词元的账要算细,先看芯片怎么“搬数据”

00:00 00:00

C114讯 11月11日消息(九九)2026移动网络大会上周在广州举行。海光信息在大会上集中展示了CPU、DCU双芯在端边计算、词元经营、可信算力等方向的成果,并获评“中国移动战略供应商”,作为成员单位参与共建“中国移动供应链风险预警中心”,还与中国移动共同启动“MOMA生态开放计划”。

大会期间,海光信息技术支持与中心通信行业方案部总经理王楠接受媒体采访。从一颗面向边缘侧的1000系列芯片,到多NUMA架构下的调度、PD分离的工程瓶颈,再到运营商词元经营的吞吐、时延与成本,他给出的答案都指向同一件事:芯片侧要把“该谁干的活”分清楚。

端侧补位:海光1000系列CPU契合低功耗场景需求

当前,词元经营正成为算力产业价值兑现的主赛道。随着大模型加速向行业场景落地,端侧正形成感知、推理、行动的业务闭环,边缘算力成为词元经营向产业末端延伸的关键支撑。

针对边缘算力在环境适配、供电散热、分散运维、生态碎片等方面的挑战,海光集中展出1000系列CPU及配套生态产品。王楠介绍:“1000系列主要是用于一些低功耗的场景,它的特点就是低功耗、核心比较少、性能比较强,所以一些宽温的场景和面向工控的场景,以及室外环境恶劣的场景可以采用1000系列芯片。”

换句话说,这颗芯片要解决的不是峰值算力,而是能不能在供电、散热、运维都不友好的地方长期待住。词元经营向产业末端延伸时,缺的往往就是这一环。

据了解,海光1000系列CPU采用C86架构,4核8线程,典型TDP低至10W,支持零下40摄氏度至105摄氏度宽温工作。可支撑工厂设备控制、数据采集以及交通、能源、电力等领域的网关接入与现场计算,为词元经营补齐端侧生产场景。

双芯协同:NUMA亲和降时延,PD分离提效率

词元效率优化方面,海光依托CPU+DCU双芯架构,为跨芯片算力资源统一调度、提升整体利用率提供开放计算架构方案。

在“双芯方案”里,海光CPU的角色是智能调度中枢。王楠先从芯片本身的变化讲起,随着产业的发展,核心数越来越多,从原来的32核到未来可能做到96核,甚至更高核心,就会形成多个NUMA的架构。多NUMA的好处是核心多,代价是时延。为了解决这个问题,海光开发NUMA亲和性的技术,就是让内存的数据直接亲和到离CPU核心最近的NUMA节点上,以此提升整体效率。

这套思路还被延伸到CPU与加速卡之间。“GPU有专门的CPU和GPU通道,也是通过NUMA亲和性,CPU可以最快地到达GPU的核心节点去处理,通过自动绑核的方式来做数据处理。”芯片内部的“就近原则”,被复制到了两颗芯片之间。

协同真正吃紧的地方,在大模型推理上。PD分离(预填充—解码分离)几乎是必选项,因为预填充阶段主要要求GPU有很强的计算能力,解码阶段要求有大量的显存,所以要针对不同的场景选择不同的GPU型号;至于PD和D之间的数据传输,P把数据处理完要传给D节点,KV Cache传输是一个很大的瓶颈,海光通过优化跨节点数据传输路径与缓存管理机制,提升传输效率;另外,在CPU侧,利用CPU先做一些数据的预处理和调度,然后再进行内部的处理。三步下来,CPU和DCU才算真正协同,而不是各算各的。

安全与生态:Token要跑得动,也要守得住

对运营商而言,数据与模型安全是开展词元经营的核心底线。海光将安全拆解成两层,第一层是模型与数据本身,海光的CPU、GPU都有内生安全模块,可以保证数据可用不可见。上云的情况下,比如一些租户只能看到自己的数据,其他宿主机看不到这个租户的数据。

第二层是数据在芯片之间的搬运,这一点容易被忽略。CPU处理完数据,要在显存内传输到GPU的显存中,这个传输通道之前是用明文的,海光也会通过加密的方式变成密文传输。

王楠表示,CPU侧靠CSV安全虚拟化与内存加密做底层防护,DCU侧配套安全处理与显存保护,两侧经安全通道连通,Token生成的全过程就被纳入机密域保护,敏感数据被越权访问的风险随之降低。

王楠还提到的攻防,海光正与启明星辰等伙伴合作,做AI大模型安全模型的处理,用DCU去提升相应的安全能力——芯片既是被保护的对象,也是防护能力的放大器。

从端侧补齐生产现场,到用CPU+DCU把调度、存储、安全串成一条链,海光在这次大会上讲的其实不只是两颗芯片。据公开信息,接下来海光将依托光合生态,推动国产CPU、DCU及各类异构加速硬件的统一调度与协同运行。

作者:九九   来源:C114通信网

相关

中国移动网络运营商网关Cache
本评论 更新于:2026-11-11 16:17:24
在C114 APP中与业内人士畅聊通信行业热点话题!