2024-7-2 14:54

AI智算发展对高速光模块的应用需求研究

本文版权为《邮电设计技术》所有,如需转载请联系《邮电设计技术》编辑部

摘要:AI智算技术的高速发展驱动高速光模块需求量激增,大规模数据处理、大模型训练和推理等任务对高速光模块提出了前所未有的高要求。通过分析大模型训练的分布式并行计算需求,建立通信模型,并以GPT-3为例定量分析大模型通信量,由于通信量巨大,完成大模型训练的数据通信时间远高于并行计算时间。因此,在不降低计算性能的前提下,降低通信时间成为AI智算对通信网络的核心诉求,而采用更高速率的光模块互联、提升有效带宽是解决问题的主要途径。AI智算对高速光模块技术的需求将主要体现在更高速率、更大规模、高集约化、低功耗、高稳定性以及可管可控等方面。

关键词:AI;智算;大模型;GPT-3;高速光模块

doi:10.12045/j.issn.1007-3043.2024.06.002

概述

随着人工智能技术的飞速发展,全球智算数据中心建设加速,而光模块是智算数据中心内保障数据传输的关键组件,其市场需求也随之激增。根据 LightCounting 2023年7月发布的《超级数据中心光学报告》预测,用于AI集群的以太网光模块总销售额将持续增长,2028年达到176亿美金,占所有以太网光模块市场的 38%,市场占有率较 2023年提升 13%,其中 800G 光模块将在2024年规模应用,1.6T光模块将在2026年规模应用。AI智算驱动高速光模块发展是业界共识,但以大模型训练为代表的 AI 应用是如何影响智算数据中心内的通信需求,进而驱动光模块的速率提升和用量的激增,业内却鲜有定量论述。本文对此展开研究,以 AI 大模型并行计算需求为源,以智算数据中心内高速光模块发展趋势为宿,层层剖析和关联,建立通信模型,进行定量测算。

点击查看全文(PDF)>

作者:栾昊立,王晓东,杨 锐,郝建宇,赵铭浩,尹祖新等   来源:邮电设计技术

相关

以太网数据通信网络
本评论 更新于:2024-10-11 22:41:40
在C114 APP中与业内人士畅聊通信行业热点话题!