2024-3-22 18:11

中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战

C114讯 3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改变着我们的生活和工作方式。智能时代,通信及网络重要性在不断提升,产品迭代速度明显加速,对数据、算力、网络持续演进提出了新的要求。

在日前思博伦举办的“创新驱动智能未来”的Spirent Day 2024峰会上,中国移动通信有限公司研究院项目经理秦凤伟在主题演讲中指出,智算中心具有明显的通信特征,随着AI技术的快速发展,推动算、网软硬件技术的快速选代升级。而在测试领域,制定普适统一的智算中心网络性能评测体系仍然面临四大挑战。

首先,节点规模方面,模拟GPU实际的计算、周期性通信,测试结果是否可以客观反映实际结果;以及仪表是否能支持千卡级、甚至万卡即模拟能力。

其次,性能指标方面,测试仪端口、规模是否能匹配网络的演进速度;能否有效反映如有效宽带、长尾时延等新指标。

再次,模型种类层面,不仅需考察基本的通信原语及其不同的实现方式,还要关注测试工具迭代速速能否匹配并支持各类大模型,以及针对不同模型能否形成统一的网络性能评价标准。

最后,定制化需求上,随着端网协同的趋势日益明显,需兼顾做网卡和网络;对于私有拥塞控制协议、传输协议等的定制优化,评估是否具备高度灵活的可编程能力和定制化功能显得尤为关键。

 

作者:赵婷婷   来源:C114通信网

相关

网络思博伦中国移动测试宽带
本评论 更新于:2024-4-28 3:07:13
在C114 APP中与业内人士畅聊通信行业热点话题!