人工智能时代到来,AI大模型批量商业化落地,带动算力需求指数级增长。
中银证券研报指出,根据nature,在2014年、2015年的前GPU时代,算力需求翻倍的时间约为24个月。而伴随GPT等大模型落地,算力需求进一步提升,算力需求翻倍的时间已降低至2个月。
作为AI核心底座,上游的算力芯片需求井喷,其中关键的连接零部件——铜连接与光连接的选择亦引起人们关注。随着数据中心规模的扩大,针对长距离、高速度的通信需求,光纤技术获得青睐,但是,成本与整体能效问题,依然是考虑的重点。
高速铜连接优势显著
业内人士指出,相比光连接,铜连接具备更多优势。铜连接应用场景更加广阔,大部分需求都在铜连接范围内可以解决,故其市场规模更大。此外,铜连接在散热效率提升、成本节约、通讯质量的高保真等方面亦有优势。
事实上,在成本和能耗上具有显著优势的铜缆高速连接器仍在持续扩张。华金证券研报指出,据LightCounting报告,作为服务器连接以及在解耦合式交换机和路由器中用作互连,高速铜缆的销售不断增长。预计2023年~2027年,高速铜缆的年复合增长率为25%,到2027年,高速铜缆的出货量预计将达到2000万条。数据中心建设将拉动高速传输电缆及其连接产品需求。
资料显示,高速铜缆分为无源铜缆和有源铜缆两类。无源铜缆DAC常用于数据中心同机柜或相邻机柜之间的数据传输,是目前高速线缆市场主流产品。作为数据中心物理网络中的“首段高速公路”,DAC以低能耗、高传输速率和低部署维护成本等显著优势,迅速成为AI大模型数据中心的理想互连方案。
作为全球领先的ICT核心零组件解决方案提供商,立讯精密在高速互连领域有着深厚的积累。其DAC产品在国际大型数据中心已广泛使用长达十余年,并凭借其领先的基础科研、精密制造等优势,获得各大头部云服务商的青睐和稳定合作。这一合作基础为AI算力芯片在全球算力集群的大规模普及和应用提供了坚实的支撑。
值得一提的是,立讯精密的铜缆产品全部采用自研自产的Optamaxtrade;超低损耗、抗折弯高速裸线技术。该技术由立讯精密自2014年便开始自主研发,其保证了铜缆在AI算力中心复杂布线的环境下,高速传输时信号的稳定性和清晰度。
在立讯精密的线束和连接器中,铜部分在客户方面已经打开市场及知名度,而在高速互联领域,立讯精密与欧美主流客户共同发布行业标准,带着在铜连接领域的实力打入光连接市场,二者兼备,配套立讯在通信板块的液冷散热、服务器电源、服务器整机组装等各类配套产品,客户可以在这里找到一站式解决方案,更加方便客户。
GB200芯片引爆高速铜连接
立讯精密在高速铜连接方面的领先布局及多年深耕,于近日传来回声。
北京时间3月19日凌晨,2024年英伟达GTC大会上,英伟达推出新Blackwell架构GPU组成的GB200,将提供4倍于Hopper的训练性能,大模型参数达到了万亿级别。此外,GB200芯片采用铜缆连接成一大亮点。英伟达GB200 NVLink Switch和Spine由72个Blackwell GPU采用NVLink全互连,具有5000根NVLink铜缆,合计长度超2英里。
黄仁勋在接受媒体采访时表示,英伟达不只是出售芯片,而是瞄准了潜力巨大的数据中心市场——运行人工智能数据中心的供应商更关注的是总运营成本,包括部署时间、性能、利用率等等。
比如,在能效方面,万联证券研报显示,过去,在90天内训练一个1.8万亿参数的MoE架构GPT模型,需要8000个Hopper架构GPU,15兆瓦功率;如今,在Blackwell架构下进行训练,同样90天时间的情况下只需要2000个GPU,以及1/4的能源消耗。
事实上,算力需求日益增长背景下,能效和稳定性已成为数据中心发展的关键因素。GB200凭借铜缆连接的低功耗和高稳定性,为数据中心的高效运行提供了有力保障。
英伟达采用铜缆背板的新连接方式,带动了市场对“铜缆高速连接”概念的关注。华金证券研报指出,根据新思界产业研究中心发布的《2023~2028年高速线缆行业市场深度调研及投资前景预测分析报告》显示,目前高速线缆凭借着性价比优势在网络设备互联、数据传输方面占据着重要地位,市场规模正不断扩大。2022年国内高速线缆市场规模已突破百亿元,行业发展潜力巨大。同时,据市场研究机构LightCounting发布的高速线缆、LPO和CPO报告显示,未来五年内,高速线缆市场规模将增加一倍以上,从2023年的12亿美元增长到2028年的28亿美元。
国泰君安研报亦指出,立讯精密目前拥有 DAC、ACC 等高速铜缆产品,结合其光连接、热管理等其他产品布局,在柜间以及柜内的高速互连均有完备的解决方案,持续收获全球头部客户认可。此外,其与行业领先客户合作发布下一代数据中心高速铜缆白皮书进一步彰显其竞争力,未来深度受益于需求扩容。
业内人士指出,立讯精密的DAC 、ACC高速铜缆,过去主要以国内客户出货为主,近年来成功开发谷歌、思科等海外客户,并积极与英伟达对接GH200、GB200等产品,后续弹性十足,预计高速铜缆增量市场空间将在千亿元左右,立讯精密市场份额将在其中占据20%~30%左右。