16. Januar 2024 Von Bob O'Donnell Inzwischen haben die meisten Menschen von generativer KI und einigen der erstaunlichen Möglichkeiten dieser Technologie gehört. Was die meisten jedoch nicht wissen, ist, dass Unternehmen bei einigen der fortschrittlicheren Anwendungen von GenAI allmählich auf Herausforderungen stoßen, die die Leistung von Modellen in großem Maßstab einschränken. Das Problem besteht darin, dass die Erstellung von Modellen mit Hunderten von Milliarden von Parametern - wie es immer häufiger der Fall ist - die Übertragung riesiger Datenmengen in große Arrays miteinander verbundener GPUs und Rechenzentrumssysteme erfordert. Dazu benötigen Unternehmen die schnellstmöglichen Datenverbindungen zwischen diesen Geräten, um sicherzustellen, dass Latenzen und andere Datenverzögerungen die Leistung dieser extrem teuren Systeme (sowohl in der Anschaffung als auch im Betrieb!) nicht einschränken. Um dieses Problem in Angriff zu nehmen, haben sich Unternehmen wie Nvidia von den traditionellen kupferbasierten Ethernet-Verbindungen abgewandt und sind zu proprietären InfiniBand-basierten Verbindungstechnologien übergegangen. Diese lösen sicherlich einige der anfänglichen Probleme, die den Entwicklern großer KI-Modelle aufgefallen sind, aber auch sie haben ihre Leistungs- und Bandbreitenbeschränkungen. Mit Blick auf die Zukunft haben mehrere Organisationen begonnen, sich nach optikbasierten Verbindungstechnologien umzusehen, wie z. B. solchen, die auf Silizium-Photonik basieren. Bei dieser Art von Verbindungen bewegen sich die Daten buchstäblich mit Lichtgeschwindigkeit über Photonen, die über dünne Glasfasern gesendet werden. Tatsächlich gibt es Silizium-Photonik in der einen oder anderen Form schon seit über 30 Jahren, aber aufgrund der Komplexität der Herstellung, des Mangels an Standards und der Herausforderungen bei der Arbeit mit der Technologie im Maßstab foundry hat sie nie eine breite Akzeptanz gefunden. Dank neuer Fortschritte bei der Herstellung von Silizium-Photonik, wie sie der Halbleiterhersteller GlobalFoundries mit seinem GF Fotonix-Produktportfolio erreicht hat, werden nun aber auch reale Silizium-Photonik-Anwendungen möglich. Das Besondere an den Produkten von GF Fotonix ist die monolithische Integration von optischen und elektrischen Komponenten auf einem einzigen Chip. Bislang musste dies mit separaten Komponenten erfolgen, die in unterschiedlichen Fertigungsprozessen hergestellt wurden. Die Integration der beiden Komponenten ermöglicht es Unternehmen, Chips zu entwickeln, die optische Elemente wie Modulatoren, Koppler, Multiplexer und mehr sowie CMOS-basierte elektrische Elemente wie HF-Komponenten und herkömmliche Logik in einem einzigen Design vereinen. Die monolithische Integration reduziert nicht nur die Kosten und die Komplexität bei der Entwicklung von Produkten auf der Basis von Silizium-Photonik, sondern bringt auch Leistungsvorteile auf Systemebene, die mit anderen Ansätzen nicht realisierbar sind. Kürzlich hat GF eine Partnerschaft mit dem Startup Ayar Labs geschlossen, das einen kundenspezifischen optischen E/A-Chip namens TeraPHY™ mit dem GF Fotonix-Fertigungsprozess entwickelt hat, der derzeit bis zu 16 gleichzeitige optische Verbindungen (mit 128 gleichzeitigen logischen Datenkanälen) auf einer einzigen Faser ermöglicht. Das Ergebnis ist ein bidirektionaler Durchsatz von 4 Tbps und eine 10-mal geringere Latenzzeit bei einer bis zu 8-mal höheren Energieeffizienz im Vergleich zu herkömmlichen elektrischen I/O-Verbindungen. Durch die Integration dieser Lösung in künftige rechenzentrumsbasierte Serverdesigns könnten Unternehmen die potenziellen Leistungsengpässe, auf die sie beim Training extrem großer generativer KI-Modelle gestoßen sind, vollständig vermeiden. In der realen Welt bedeutet dies, dass Unternehmen in der Lage sein werden, Rechenzentrumshardware zu bauen, die den Verbindungs- und Datenübertragungsanforderungen entspricht, die selbst die größten und anspruchsvollsten GenAI-basierten Grundmodelle erfordern. Und da die Technologie auf Silizium-Photonik basiert, können sie dies über größere Entfernungen tun und dabei weniger Strom verbrauchen. Dies wiederum ermöglicht mehr Flexibilität bei der Gestaltung von Rechenzentren sowie geringere Betriebskosten - zwei Faktoren, die viele Unternehmen, die mit großen Gründungsmodellen arbeiten, sehr zu schätzen wissen werden. Auf lange Sicht wird die GF Fotonix-Fertigungstechnologie - die auf dem einzigartigen geistigen Eigentum von GlobalFoundries beruht - auch viele andere Arten von Anwendungen auf der Basis von Silizium-Photonik ermöglichen, darunter Satellitenkommunikation und drahtlose Infrastruktur, Co-Packaged-Optik und Unternehmensnetzwerke. Die optische Verbindungstechnologie, die der Silizium-Photonik zugrunde liegt, ist schon seit langem vielversprechend. Durch die Integration mit herkömmlichen CMOS-Komponenten, wie sie GF mit Fotonix ermöglicht hat, wird die Möglichkeit, dieses Versprechen einzulösen, jeden Tag realer. Bob O'Donnell ist der Präsident und Chefanalyst von TECHnalysis Research, LLC einem Marktforschungsunternehmen, das strategische Beratung und Marktforschungsdienste für die Technologiebranche und die professionelle Finanzwelt anbietet. Sie können ihm auf Twitter folgen @bobodtech.