在这一点上,大多数人都听说过生成式人工智能以及该技术可以做的一些令人惊叹的事情。然而,大多数人不知道的是,在一些更先进的 GenAI 应用中,企业开始遇到限制大规模模型性能的挑战。

问题在于,要创建包含数千亿个参数的模型,就必须将海量数据传输到大型互联 GPU 阵列和数据中心系统中,这种情况正变得越来越普遍。为此,企业需要这些设备之间尽可能快的数据连接,以确保延迟和其他数据延迟不会限制这些极其昂贵的系统的性能(无论是购买还是运行!)。

为着手解决这一问题,英伟达等公司已逐渐摒弃传统的铜缆以太网连接,转而采用基于InfiniBand的专有互连技术。这些技术确实解决了一些大型AI模型开发者最初发现的问题,但它们本身也存在power 带宽方面的局限性。

展望未来,一些机构已开始寻求基于光学的互连技术,例如由硅光子技术驱动的技术。在这类连接中,数据通过薄玻璃纤维上的光子以光速传输。事实上,硅光子技术以某种形式出现已有 30 多年,但由于制造复杂、缺乏标准以及在代工规模上使用该技术的挑战,它从未得到广泛应用。

然而,由于硅光子制造技术取得了新的进步,例如半导体制造商 GlobalFoundries 通过其 GF Fotonix 产品组合实现了硅光子的实际应用。GF 产品的独特之处在于将光学和电子元件单片集成到一个芯片上。而在此之前,必须使用不同制造工艺生产的独立组件才能实现这一目标。

将二者整合在一起,公司就能在单一设计中集成调制器、耦合器、多路复用器等光学元件以及射频元件和传统逻辑等基于 CMOS 的电子元件的芯片。除了降低硅光子产品的成本和复杂性外,单片集成还带来了其他方法无法实现的系统级性能优势。

最近,GF与一家名为Ayar Labs的初创公司达成合作,该公司利用GF Fotonix制造工艺开发了一款名为TeraPHY™的定制光I/O小芯片,目前可在单根光纤上实现多达16条同时光连接(支持128条同时逻辑数据通道)。 该方案最终实现了4 Tbps的双向吞吐量,延迟降低了10倍,且power 传统电气I/O互连高出8倍。通过将该解决方案集成到未来基于数据中心的服务器设计中,企业将能够彻底规避在训练超大规模生成式AI模型时开始遇到的潜在性能瓶颈。

在实际应用中,这意味着各组织将能够构建满足数据中心硬件的连接和数据传输需求,甚至能够满足规模最大、要求最严苛的基于生成式人工智能(GenAI)的基础模型的需求。 此外,由于该技术基于硅光子学,因此能够实现更远距离的传输,power 消耗更少的power 。这反过来将使数据中心设计更加灵活,并降低运营成本——这两个因素对于正在使用大型基础模型的许多组织而言,将极具吸引力。

展望未来,GF Fotonix 制造技术--利用 GlobalFoundries 独有的知识产权--还将支持许多其他类型的基于硅光子技术的应用,包括卫星通信和无线基础设施、共同封装光学器件和企业网络。

长期以来,硅光子学所依托的光学互连技术一直被寄予厚望。正如 GF 与 Fotonix 所做的那样,通过实现与传统 CMOS 元件的集成,实现这一承诺的可能性正与日俱增。

Bob O'Donnell 是 TECHnalysis Research LLC 的总裁兼首席分析师。 TECHnalysis Research, LLC是一家为技术行业和专业金融界提供战略咨询和市场研究服务的市场研究公司。您可以在 Twitter 上关注他 @bobodtech.