ChatGPT 背后的黑科技,主宰高算力的CPO技术

  • 来源:电脑报
  • 关键字:ChatGPT ,黑科技,CPO技术
  • 发布时间:2023-04-22 19:05

  ChatGPT引爆算力需求

  作为人工智能三大核心要素之一,算力也被誉为人工智能“发动机”。

  ChatGPT 用户数快速增长,需求量火爆引发宕机。 ChatGPT 自发布以来用户数量快速增长。在庞大用户群涌入的情况下,ChatGPT 服务器2 天宕机5 次,火爆程度引人注目的同时也催生了对算力基础设施建设更高的要求。以ChatGPT 为例,其在模型训练阶段每次升级需要投入约3422 万元,该笔投入相较于运营阶段来说规模较小。在模型上线运营阶段,机构测算每亿活跃用户将带来13.5EFlops 的算力需求,需要6.9 万台 NVIDIA DGX A100 80G 服务器支撑。

  根据中国信通院数据,2021 年全球计算设备算力总规模达到615EFlops,其中超算算力规模为 14EFlops。换而言之,在每个用户每天收到1500 字回答的情况下,以2021 年全球超算算力的规模,仅能支撑ChatGPT 最多拥有1 亿日均上线人数。假设全球6 家科技巨头能够在未来3 年内各自拥有一款活跃人数2 亿的ChatGPT 类应用,则有望带来162EFlops 超算算力需求,超算算力需求较目前提升空间超过10 倍。

  打破算力瓶颈的CPO技术

  不同服务器之间需要频繁的大量数据交换,数据互联的带宽往往会限制整体任务的性能,这成为数据中心引入超高带宽基于硅光子的数据互联的主要理由。而CPO 共同封装光子是业界公认未来高速率产品形态,是未来解决高速光电子的散热和功耗问题的最优解决方案之一。

  共封装光学CPO(co-packagedoptics),指的是将光引擎和交换芯片共同封装在一起的光电共封装。较之传统方案中(实现光电转换功能的)可插拔光模块插在交换机前面板的形式,CPO 方案显著缩短了交换芯片和(实现光电转换功能的)光引擎之间的距离,使得损耗减少,高速电信号能够高质量地在两者之间传输,同时提升了集成度并能够降低功耗,整体优势显著。在最新的OCP 峰会上,英伟达代表表示AI 所需的网络连接带宽将增加32 倍,当前光模块速率已无法满足这一带宽提升需求。继续使用光模块会带来成本翻倍和 20%-25% 的额外功耗。为此需要新的激光器和调制器设计,并且CPO 方案可能将功耗降低50%。

  提前布局的科技巨头

  技术和经济上的双重优势,让科技巨头们争相涌入 CPO 赛道,目前AWS、微软、Meta、谷歌等云计算巨头,思科、博通、Marvell、IBM、英特尔、英伟达、 AMD、台积电、格芯、Ranovus 等网络设备龙头及芯片龙头,均前瞻性地布局CPO 相关技术及产品,并推进CPO 标准化工作——

  在数据中心领域,CPO 技术可以实现更高的数据密度和更快的数据传输速度,可以应用于高速网络交换、服务器互联和分布式存储等领域。例如,Facebook 在其自研的数据中心网络Fabric Aggregator 中采用了 CPO 技术,将光模块和芯片封装在同一个封装体中,从而提高了网络的速度和质量。

  在云计算领域,CPO 技术可以实现高速云计算和大规模数据处理。例如,微软在其云计算平台Azure 中采用了CPO 技术,将光模块和芯片封装在同一块 PCB 板上,并使用微型化的线缆连接光模块和芯片。

  在5G 通信领域,CPO 技术可以实现更快的无线数据传输和更稳定的网络连接。例如,华为在其5G 通信系统中采用了CPO 技术,将收发器和芯片封装在同一个封装体中,从而实现了高速、高密度、低功耗的通信。

  争夺算力霸权时代话语权

  AIGC 热潮驱动下,全球科技龙头的军备竞赛已经打响,CPO 正站在风口的风口,既处在未来“卡脖子” 数据传输通道,有着大厂们的集体背书,也有多个大赛道的加持,这背后除需要企业投入资源竞争外,更需要管理层的支持。

  2020 年,业界开始对发展CPO 标准形成共识。国外COBO 和OIF 等行业组织成立了工作组,国内中科院计算所牵头成立CCITA 联盟(中国计算机互联技术联盟),为制订前沿互联技术标准筹备相关工作。现阶段,国内外CPO 标准进程基本相近,均已初步完成规格草案的撰写。CCITA 联盟于2021 年5 月启动在中国电子标准化协会的国内CPO 标准立项工作,联合了超过40 家会员厂商,规划交换机及网卡CPO 应用场景的规格标准。

  不过我国光芯片产业起步较晚,技术实力与国外企业相比有一定差距,国内相关企业仅在2.5G 和10G 光芯片领域实现核心技术的掌握,根据ICC 的数据,2.5G 及以下速率光芯片国产化率超过90%;10G 光芯片国产化率约60%,II-VI、Lumentum 等外企牢牢占据高功率光芯片主要市场份额,而近年来随着天孚通信、新易盛、联特科技等布局“CPO 技术”的核心企业崛起,我国有望在硅光、CPO 等前沿技术领域取得突破。

关注读览天下微信, 100万篇深度好文, 等你来看……