本文版权为《邮电设计技术》所有，如需转载请联系《邮电设计技术》编辑部
摘要：AI智算技术的高速发展驱动高速光模块需求量激增，大规模数据处理、大模型训练和推理等任务对高速光模块提出了前所未有的高要求。通过分析大模型训练的分布式并行计算需求，建立通信模型，并以GPT-3为例定量分析大模型通信量，由于通信量巨大，完成大模型训练的数据通信时间远高于并行计算时间。因此，在不降低计算性能的前提下，降低通信时间成为AI智算对通信网络的核心诉求，而采用更高速率的光模块互联、提升有效带宽是解决问题的主要途径。AI智算对高速光模块技术的需求将主要体现在更高速率、更大规模、高集约化、低功耗、高稳定性以及可管可控等方面。
关键词：AI；智算；大模型；GPT-3；高速光模块
doi：10.12045/j.issn.1007-3043.2024.06.002
概述
随着人工智能技术的飞速发展，全球智算数据中心建设加速，而光模块是智算数据中心内保障数据传输的关键组件，其市场需求也随之激增。根据 LightCounting 2023年7月发布的《超级数据中心光学报告》预测，用于AI集群的以太网光模块总销售额将持续增长，2028年达到176亿美金，占所有以太网光模块市场的 38%，市场占有率较 2023年提升 13%，其中 800G 光模块将在2024年规模应用，1.6T光模块将在2026年规模应用。AI智算驱动高速光模块发展是业界共识，但以大模型训练为代表的 AI 应用是如何影响智算数据中心内的通信需求，进而驱动光模块的速率提升和用量的激增，业内却鲜有定量论述。本文对此展开研究，以 AI 大模型并行计算需求为源，以智算数据中心内高速光模块发展趋势为宿，层层剖析和关联，建立通信模型，进行定量测算。
