C114讯 10月29日消息(南山)10月28日,国产GPU厂商天数智芯在上海举办媒体开放日活动,WAIC 2026上发布的通用GPU旗舰产品天垓300首次面向媒体开放实机演示,并与全球GPU龙头英伟达的H200进行了对标。
天垓300实测效果
为什么要对标H200?作为大模型推理和复杂计算领域具有代表性的高水平GPU,H200水平是衡量先进AI算力的重要标杆。而对标H200的看点,在于测试所对应的真实业务。据悉,上海仪电今年7月针对四大主流模型、三类场景开展测试,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。
天数智芯性能实验室的实测进一步覆盖典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。活动现场开放天垓300实机演示,接受与H200在GLM5.3等大语言模型、文生图、文生视频场景的对比测试。

多并发下天垓300与H200性能对比
此次对标,说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。随着日均Token调用量较2024年初增长上千倍,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。各项表现显示,天垓300高度满足Token工厂对算力的各项实际要求。
首先是高效率。电力、机房和固定运维等支出难以随意压缩,单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。
其次是可预期。Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。
最后是可持续。天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。

天垓300同时提供开放、可组合的异构计算平台解决方案。以通用GPU为底座,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商的加速卡、专用芯片协同。以AFD分离为例,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商的XPU承担FFN专家网络,两类芯片在统一调度下异构协同,实测Decoding推理延迟可降低60%,该方案已实际跑通,是国内第一个基于GPU+XPU的异构部署AFD分离方案。
“未来的AI算力系统,不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示,“关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。”
在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点,据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。
用AI开发AI
硬件性能达到可用区间之后,另一道门槛是开发者能否真正用好。新模型不断出现,部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂,硬件性能就很难及时转化为业务价值。天数智芯此次展示的软件栈,让AI不仅作为计算任务被运行,也参与AI系统自身的开发与优化。
在活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。

天数智芯副总裁石加圣阐述GPGPU软件栈进化路径
“Agentic AI让一位工程师的经验,能够持续服务千千万万开发者。”石加圣强调,天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能,让模型和应用开发者能够在自身工作流中复用专家经验,更快获得反馈、自主完成优化。
云端能力下沉
作为天数智芯云边端一体化布局的重要组成部分,现场也实测了端侧算力终端彤央TY1200。彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。

彤央产品线介绍
在储能电芯研究案例中,TY1200支持科研智能体自动采集、治理实验数据,并可在约2分钟内生成报告;应急视觉识别案例,端侧CV与多模态大模型交叉验证,将识别准确率由70%提升至95%;在文旅案例中,同一台TY1200,白天提供智能导览、夜间训练CV小模型;搭载TY1200的陪诊机器人,已在上海市阳光康复中心服务视障人士,负责导诊、分诊与带路。
活动现场,天数智芯预告了下一代端侧产品彤央TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。
从云端天垓300、天数智算软件栈,到端侧彤央算力终端,天数智芯以贯通云边端的产品体系,把高质量算力落实为可实测、可复现、可交付的有效产出,瞄准“人工智能+”在千行百业的规模落地,提供高质量算力支撑。

