Inzwischen haben die meisten Menschen von generativer KI und einigen der erstaunlichen Möglichkeiten dieser Technologie gehört. Was die meisten jedoch nicht wissen, ist, dass Unternehmen bei einigen der fortschrittlicheren Anwendungen von GenAI allmählich auf Herausforderungen stoßen, die die Leistung von Modellen in großem Maßstab einschränken.
Das Problem besteht darin, dass die Erstellung von Modellen mit Hunderten von Milliarden von Parametern - wie es immer häufiger der Fall ist - die Übertragung riesiger Datenmengen in große Arrays miteinander verbundener GPUs und Rechenzentrumssysteme erfordert. Dazu benötigen Unternehmen die schnellstmöglichen Datenverbindungen zwischen diesen Geräten, um sicherzustellen, dass Latenzen und andere Datenverzögerungen die Leistung dieser extrem teuren Systeme (sowohl in der Anschaffung als auch im Betrieb!) nicht einschränken.
Um dieses Problem anzugehen, haben Unternehmen wie Nvidia begonnen, von herkömmlichen kupferbasierten Ethernet-Verbindungen auf proprietäre, auf InfiniBand basierende Verbindungstechnologien umzusteigen. Diese lösen zwar einige der anfänglichen Probleme, die Entwicklern großer KI-Modelle aufgefallen sind, doch auch sie stoßen an ihre Grenzen power Bandbreite.
Mit Blick auf die Zukunft haben mehrere Organisationen begonnen, sich nach optikbasierten Verbindungstechnologien umzusehen, wie z. B. solchen, die auf Silizium-Photonik basieren. Bei dieser Art von Verbindungen bewegen sich die Daten buchstäblich mit Lichtgeschwindigkeit über Photonen, die über dünne Glasfasern gesendet werden. Tatsächlich gibt es Silizium-Photonik in der einen oder anderen Form schon seit über 30 Jahren, aber aufgrund der Komplexität der Herstellung, des Mangels an Standards und der Herausforderungen bei der Arbeit mit der Technologie im Maßstab foundry hat sie nie eine breite Akzeptanz gefunden.
Dank neuer Fortschritte bei der Herstellung von Silizium-Photonik, wie sie der Halbleiterhersteller GlobalFoundries mit seinem GF Fotonix-Produktportfolio erreicht hat, werden nun aber auch reale Silizium-Photonik-Anwendungen möglich. Das Besondere an den Produkten von GF Fotonix ist die monolithische Integration von optischen und elektrischen Komponenten auf einem einzigen Chip. Bislang musste dies mit separaten Komponenten erfolgen, die in unterschiedlichen Fertigungsprozessen hergestellt wurden.
Die Integration der beiden Komponenten ermöglicht es Unternehmen, Chips zu entwickeln, die optische Elemente wie Modulatoren, Koppler, Multiplexer und mehr sowie CMOS-basierte elektrische Elemente wie HF-Komponenten und herkömmliche Logik in einem einzigen Design vereinen. Die monolithische Integration reduziert nicht nur die Kosten und die Komplexität bei der Entwicklung von Produkten auf der Basis von Silizium-Photonik, sondern bringt auch Leistungsvorteile auf Systemebene, die mit anderen Ansätzen nicht realisierbar sind.
Vor kurzem ist GF eine Partnerschaft mit dem Start-up Ayar Labs eingegangen, das unter Verwendung des GF Fotonix-Fertigungsverfahrens ein maßgeschneidertes optisches I/O-Chiplet namens TeraPHY™ entwickelt hat, das derzeit bis zu 16 gleichzeitige optische Verbindungen (mit 128 gleichzeitigen logischen Datenkanälen) über eine einzige Glasfaser ermöglicht. Das Ergebnis ist ein bidirektionaler Durchsatz von 4 Tbit/s und eine zehnmal geringere Latenz bei bis zu achtmal höherer power im Vergleich zu herkömmlichen elektrischen I/O-Verbindungen. Durch die Integration dieser Lösung in zukünftige Serverdesigns für Rechenzentren könnten Unternehmen die potenziellen Leistungsengpässe vollständig vermeiden, auf die sie beim Training extrem großer generativer KI-Modelle mittlerweile stoßen.
In der Praxis bedeutet dies, dass Unternehmen bald in der Lage sein werden, Rechenzentrums-Hardware zu entwickeln, die den Anforderungen an Konnektivität und Datenübertragung gerecht wird, die selbst die größten und anspruchsvollsten GenAI-basierten Grundmodelle stellen. Da die Technologie zudem auf Siliziumphotonik basiert, ist dies über größere Entfernungen möglich und power wird weniger power verbraucht. Dies wiederum ermöglicht mehr Flexibilität bei der Gestaltung von Rechenzentren sowie geringere Betriebskosten – zwei Faktoren, die viele Unternehmen, die mit großen Grundmodellen arbeiten, sehr zu schätzen wissen werden.
Auf lange Sicht wird die GF Fotonix-Fertigungstechnologie - die auf dem einzigartigen geistigen Eigentum von GlobalFoundries beruht - auch viele andere Arten von Anwendungen auf der Basis von Silizium-Photonik ermöglichen, darunter Satellitenkommunikation und drahtlose Infrastruktur, Co-Packaged-Optik und Unternehmensnetzwerke.
Die optische Verbindungstechnologie, die der Silizium-Photonik zugrunde liegt, ist schon seit langem vielversprechend. Durch die Integration mit herkömmlichen CMOS-Komponenten, wie sie GF mit Fotonix ermöglicht hat, wird die Möglichkeit, dieses Versprechen einzulösen, jeden Tag realer.
Bob O'Donnell ist der Präsident und Chefanalyst von TECHnalysis Research, LLC einem Marktforschungsunternehmen, das strategische Beratung und Marktforschungsdienste für die Technologiebranche und die professionelle Finanzwelt anbietet. Sie können ihm auf Twitter folgen @bobodtech.