这个由OpenAI、软银和甲骨文联合成立“星际之门(Stargate)”项目计划将在未来四年内投资5000亿美元,建设全新的AI基础设施,创造10万个工作岗位,目标赋能人类所有行业。
其中软银和OpenAI作为主要合作伙伴,分别负责财务和运营。技术层面,Arm、微软、英伟达、甲骨文和OpenAI将作为核心技术合作伙伴,英伟达提供GPU和AI技术上的支持、Arm提供芯片技术上的支持、甲骨文提供技术和计算资源支持。预计Stargate项目将会全面拉动光、铜、数据中心互联、电力资源、储能系统、小反应堆、液冷系统、光模块、交换机、PCB等各大AI基建领域。
服务器是AI数据中心执行计算任务的核心设备,负责处理存储和传输数据,能够支持大规模数据处理、模型训练、推理计算等复杂任务。
在AI大模型发展早期,AI服务器需求以模型训练为主,随着生成式AI应用快速地发展,未来推理型服务器有望慢慢的变成为市场主流。
AI算力需求进入从训练推动到推理推动的拐点,推理AI服务器产业链有望成为最明确的方向。
AI服务器领军企业方面,全球代表厂商包括戴尔、超微电脑、HPE、甲骨文、惠普、联想集团、浪潮信息、新华三、宁畅、超聚变、中科曙光、拓维信息等。
ODM代表厂商包括鸿海精密、富士康、英业达、广达电脑、纬创资通、工业富联、Supermicro等。
英伟达CEO黄仁勋曾明确说,液冷技术是未来趋势,将带动整片算力散热市场全面革新。
当服务器功率密度普遍超过20kW时,将推动数据中心从风冷向液冷技术的转变。
液冷技术通过液体的循环流动带走发热部件的热量,能够更有效地降低设备的温度。
冷板式液冷是服务器芯片等高发热元件的热量通过冷板间接传递给液体进行散热,低发热元件仍通过风冷散热的一种方式。
浸没式液冷是服务器完全浸入冷却液中,全部发热元件热量直接传递给冷却液,通过冷却液循环流动或蒸发冷凝相变进行散热的一种方式。
根据IDC数据,2024年上半年,我国液冷服务器市场厂商份额前四大厂商分别为浪潮信息、超聚变、宁畅和新华三。
浪潮信息将“Allin液冷”纳入公司发展的策略,进行全栈液冷产品布局,建成了亚洲最大的液冷数据中心研发生产基地—天池,年产量超10万台,构筑了全链条液冷能力。
超聚变液冷服务器已实现全国超7万节点的规模商用;宁畅提供液冷服务器器到数据中心的全系统液冷解决方案,G50系列服务器实现风冷、冷板液冷、浸没液冷三大散热方式全覆盖。
中科曙光2011年起开启液冷技术探索,是国内较早涉足液冷技术领域的企业之一,在全国多个城市完成液冷数据中心部署,与曙光数创联合推出了新一代一体化风液混冷先进数据中心解决方案,海外马来西亚数据中心项目预计于2025年上半年交付。
随着AI加速发展,国内液冷产业景气度持续上升,产业链各环节入局者众多,飞荣达、科华数据、光迅科技、网宿科技、工业富联、拓维信息等一众厂商在各细致划分领域都有参与布局;第三方厂商也加速进入这一市场,专业温控厂商英维克、申菱环境、高澜股份、同飞股份等已有多个项目成功落地。
此外,国内昇腾Atlas900集群将加速应用液冷,带动行业渗透率快速提升。昇腾一体机和服务器产业链主要使用伙伴有科大讯飞、软通动力、高新发展、中国长城、神州数码、拓维信息、常山北明、烽火通信等。
液冷服务器下游算力使用者最重要的包含三大电信运营商、互联网公司、第三方IDC服务商以及政府和别的行业客户。
运营商方面,中国移动、中国电信、中国联通三家电信运营商联合发布了《电信运营商液冷技术白皮书》。计划2025年及以后开展规模应用,50%以上数据中心项目应用液冷技术,实现技术、生态、应用全面领先。
第三方IDC服务商包括万国数据、世纪互联、光环新网、数据港、秦淮数据、润泽科技等是核心参与者。例如,润泽科技2023年已经交付了行业内首例整栋纯液冷智算中心整栋液冷数据中心;世纪互联在江苏太仓基地部署了目前国内最大的冷板式液冷数据中心集群。
光模块是AI基础设施中网络端的重要环节,是确保AI芯片性能释放最大化的通信器件。其与训练端GPU出货量强相关,同时推理端流量需求也在加速爆发。
光模块在光纤通信中用于电信号和光信号之间的互相转换,在发送端实现电/光转换,接收端实现光/电转换。
2025年北美云厂商和国内科技大厂商资本开支维持增长,以及英伟达GB200芯片批量出货,有望逐步推动800G和1.6T高速光模块需求。
根据Cisco数据,400G数通光模块从2020年开始步入规模上量阶段,22-24年持续上量;800G数通产品从2022Q4开始规模化商用,2023年开始步入大规模交付,当前已进入800G光模块的放量阶段。
互联速度由过去的4年两倍变为2年两倍,海外市场正由400G向800G以及1.6T、3.2T等更高速发展。
光模块在服务器和数据中心的高速互联中作用关键,每一代技术升级往往伴随技术路径的演化,引导竞争格局变化。
从产业链来看,光模块企业加快并购重组,进行产业链垂直整合,行业集中度进一步提高。
根据光通信行业市场机构LightCounting公布的最新版2023年全球光模块TOP10榜单。
中国厂商的整体表现来看,共有7家厂商入围。2023年,旭创科技(排名第1)、华为(排名第3)、光迅科技(排名第5)、海信宽带(排名第6)、新易盛(排名第7)、华工正源(排名第8)、索尔思光电(排名第9)。(注:索尔思光电有中国公司华西股份参股,并有望逐步扩大控股权,可将其列为中国光模块厂商)。
随着高速率光模块进一步放量,传统可插拔光模块方案的成本及功耗持续不断的增加,在技术路径方面硅光、CPO、LPO等新技术有望迎新机遇。
CPO技术方案是光模块未来演进的重要方向之一,有望主宰未来数据中心光互联。
高性能计算对网络速率的需求是目前的10倍以上,CPO能够将现有可插播光模块架构的功耗降低50%。此外,CPO技术方案能够缩短光引擎和交换芯片间的距离,能够有实际效果的减少信号转换和传输过程中的能量损失,减少尺寸和降低功耗。
据不完全统计,中际旭创、天孚通信、新易盛、光迅科技、罗博特科、德科立、仕佳光子、通宇通讯、中京电子、亨通光电、剑桥科技、博创科技、联特科技、锐捷网络等多家厂商透露有CPO有关技术研发或业务布局。
制作硅基发光器件是硅光子技术的难点,目前外置CW光源是硅光光模块的主流方案,且可进一步应用于CPO等场景。
源杰科技提供包括大功率硅光光源产品在内的多种产品,其中早期50毫瓦大功率硅光激光器产品已经实现销售。70毫瓦硅光大功率激光器具备了一分四的技术能力,即可以将一束激光信号分成四束,极大的提升了数据传输的效率和容量。
仕佳光子不相同的型号的CW光源在多家大厂验证导入中,已在部分硅光高速光模块中得到小批量应用;长光华芯在2024年1月首次亮相了其100mWCWDFB大功率光通信激光芯片新品。
从硅光工艺流程看,硅光与微电子技术逐步趋同,随着硅光子技术进一步普及及发展,配套工艺设备和软件厂商也是核心环节。
硅光耦合及封装设备相关厂商罗博特科子公司ficonTEC是全球光电子及半导体自动化封装和测试领域领先的设备制造商之一,生产的设备大多数都用在硅光芯片、高速光模块和耦合封装等领域。在硅光、CPO及LPO耦合、封装测试方面,ficonTEC是全球领先的技术提供商。此外,杰普特为英特尔等全球领先的科技企业来提供硅光晶圆测试系统。
硅光技术的下游应用广泛,海外厂商占据主导地位。竞争格局方面,英特尔、思科、Inphi为代表的美国企业占据了硅光芯片和模块出货量的大部分,国内中际旭创、熹联光芯、华工科技、新易盛、光讯科技、博创科技、亨通光电等企业正在快速追赶,技术差距逐步缩小。
交换机实现各端口间的数据传输,在数据中心中主要负责连接服务器和存储设备等网络设备。
交换机产业链上游包括芯片、电子元器件供应商与交换机代工商,产业链中游为交换机品牌商(白盒与非白盒),下游为重点应用客户。
商用以太网交换芯片市场主要由博通、Marvell与Realtek主导,国内厂商盛科通信在商用以太网交换芯片国内排名第一,全球第四。
交换机品牌商与代工商侧,400G及以上交换机加速渗透,高速交换机方面,800G市场正在快速兴起。国内交换机行业呈现寡头竞争的竞争格局,华为、新华三和锐捷网络占据大部分的市场占有率,思科和中兴通讯紧随其后。
新华三24年10月发布业界首款1.6T智算交换机,800G交换机开始小批量出货;锐捷网络订单集中于字节、阿里、腾讯等Tier1互联网客户智算中心建设领域,800G交换机实现对于Tier1互联网客户的小批量发货;中兴通讯51.2T盒式交换机已实现在互联网厂商侧规模商用。代工商方面菲菱科思与新华三等客户中高端交换机业务合作稳步推进;共进股份800G交换机已开始陆续交付。
在全球AI算力基建加速建设背景下,产业链各大细分赛道有望加速爆发并带来广阔的国产替代机遇。