英伟达AMD英特尔联手，投出一家AI芯片独角兽

芯东西 · 公众号 · · 2024-12-12 12:56

正文

利用光学I/O推动AI革命。

作者 | ZeR0

编辑 | 漠影

什么样的初创公司，能同时拿到英伟达、AMD、英特尔三大芯片巨头的投资？

答案是 Ayar Labs 。

芯东西12月12日报道，硅谷光互连芯片设计公司Ayar Labs昨日宣布完成 英伟达 、 AMD 、 英特尔 、格芯等参投的1.55亿美元融资。

与 台积电 有战略合作关系的VentureTech Alliance、美国机器制造巨头 3M 也参与了此轮融资。

目前其累计融资达3.7亿美元，估值已超过 10亿美元 ，成为新晋芯片独角兽。

Ayar Labs联合创始人兼CEO马克·韦德（Mark Wade）说：“领先的GPU提供商AMD和英伟达以及半导体代工厂格芯、英特尔代工、台积电，再加上Advent、Light Street和我们其他投资者的支持，凸显了我们的光学I/O技术重新定义AI基础设施未来的潜力。”

获得如此多芯片巨头的青睐，Ayar Labs凭什么？

01 .

AI的下一个百万倍加速，

需要光互连等先进技术

Ayar Labs成立于2015年，总部位于加州圣何塞，专门为大规模AI工作负载提供光互连解决方案。其瞄准的赛道，如今正是下一代AI基础设施建设的关键技术之一。

高盛近日发布的一份报告预测，未来十年，AI基础设施支出预计将超过1万亿美元。这凸显了对消除传统铜互连、可插拔光学器件造成的瓶颈的解决方案的迫切需求。

当前大多数数据中心的运营依赖于传统的电互连，铜线是数据中心短距离信息传输的标准。AI服务器系统在持续传输数据过程中会消耗大量电力，打破现有AI基础设施瓶颈的有效解法之一，便是采用光互连技术来加速通信。

采用传统互连时，随着AI模型复杂性增加，系统效率会降低。据Ayar Labs官网分享，一颗GPU的运行效率为80%，64颗GPU的运行效率可能是50%，256颗GPU的运行效率可能只有30%了。光学I/O则能够针对提高AI基础设施的性能和能效。

英伟达数据中心产品首席平台架构师罗伯·奥伯（Rob Ober）认为，过去十年，英伟达加速计算已经为AI带来百万倍的加速，而下一个百万倍的加速将需要光学I/O等全新技术，来支持未来AI/ML工作负载和系统架构的带宽、功率和规模要求。

OpenAI计算主管克里斯托弗·伯纳（Christopher Berner）也强调道，横向扩展期间的互连带宽对于防止加速器在等待网络传输或梯度时停转至关重要。

02 .

突破数据移动瓶颈，

用光互连加快AI系统通信速度

此前光一直被用于数据传输，只不过主要用于电信网络的长距离通信中。

Ayar Labs则将这项技术塞进了芯片封装里。

该公司开发了业界首款针对大规模AI工作负载优化的封装内光学I/O解决方案。相比采用可插拔光学器件+电气SerDes的传统互连，Ayar Labs的方案可实现 5~10倍 的更高带宽、 4~8倍 的能效，并将延迟降低至 1/10 。

其方案结合了两项行业首创技术—— TeraPHY光学I/O Chiplet 和 SuperNova多波长光源 。

TeraPHY可集成到客户的SoC封装中，利用其SuperNova远程光技术实现更快的芯片间通信，从而帮助客户最大限度地提高AI基础设施的计算效率和性能，还能提高“AI应用的盈利能力指标”。

TeraPHY光学I/O Chiplet 是一款体积小、功耗低、吞吐量高的铜背板和可插拔光学通信替代方案，其模块化多端口设计科承载8个光通道（相当于x8 PCIe Gen5链路）。

它将硅光子学与标准CMOS制造工艺结合，使专用集成电路（ASIC）能跨越从毫米到千米的距离进行通信，相当于形成一个巨型GPU。每个端口有256Gbps，每个Chiplet有2Tbps。