Das in den USA ansässige und von Bill Gates unterstützte Unternehmen Neurophos hat die Entwicklung einer neuen optischen Recheneinheit (Optical Processing Unit, OPU) auf Basis von Silizium-Photonik bekannt gegeben. Das Unternehmen berichtet, dass dieser Chip insbesondere bei FP4- und INT4-Rechenlasten eine etwa 10-mal höhere Leistung als der neueste Vera Rubin NVL72 KI-Supercomputer von Nvidia bietet. Zudem soll dies bei einem ähnlichen Stromverbrauch erreicht werden.
Radikaler Architekturwechsel
Der entscheidende Unterschied bei Neurophos liegt in der Matrixgröße, die für die optische Berechnung verwendet wird. Laut CEO Patrick Bowen befindet sich auf dem Chip ein einziger Photonik-Sensor mit einer Größe von 1.000 x 1.000. Diese Struktur bietet eine etwa 15-mal größere Rechenfläche im Vergleich zu den heute in den meisten KI-GPUs verwendeten 256 x 256 Matrizen. Dank der größeren Matrix können wesentlich mehr Multiplikations- und Additionsoperationen gleichzeitig durchgeführt werden.
Das größte Hindernis für diese Architektur war bisher die physikalische Größe optischer Transistoren. Wie Bowen erklärte, liegt die Länge optischer Transistoren, die heute in Silizium-Photonik-Fabriken hergestellt werden, bei etwa 2 Millimetern. Dies macht es fast unmöglich, eine ausreichende Anzahl von Transistoren auf einem Chip unterzubringen. Neurophos ist es jedoch gelungen, dieses Problem zu lösen und optische Transistoren zu entwickeln, die etwa 10.000-mal kleiner sind als bisherige Lösungen. Diese Verkleinerung ebnet den Weg für die optische Datenverarbeitung, eine Dichte zu erreichen, die mit digitalen CMOS-Technologien konkurrieren kann.
Der Beschleuniger der ersten Generation von Neurophos beherbergt einen einzigen Tensor-Kern, der als „optisches Äquivalent“ definiert ist und eine Fläche von etwa 25 Quadratmillimetern einnimmt. Auf dem Papier scheint dies weit hinter dem Nvidia Vera Rubin Chip zurückzuliegen, der 576 Tensor-Kerne enthält. Der Unterschied liegt jedoch darin, wie Neurophos den photonischen Chip nutzt.
Die erste OPU des Unternehmens mit dem Namen Tulkas T100 arbeitet mit einer extrem hohen Taktrate von 56 GHz. Es wird angegeben, dass die Hardware, die auf dem Papier schwach erscheint, durch die Kombination aus hoher Taktrate und großer Matrixstruktur die leistungsstarken KI-GPUs von Nvidia übertreffen kann. Das Unternehmen gibt an, dass sein Chip eine Spitzenleistung von 235 Peta-Operationen pro Sekunde (POPS) erreichen kann bei einer Leistungsaufnahme von 675 Watt. Im Vergleich dazu liefert ein B200-Chip eine Leistung von 9 POPS bei 1.000 Watt.
Kompatibel mit bestehenden Fertigungstechnologien
Ein weiteres kritisches Versprechen von Neurophos betrifft die Produktion. Laut Bowen hat das Unternehmen seine optischen Transistoren mit bestehenden Halbleiter-Fertigungstechnologien entwickelt. Dies bedeutet theoretisch, dass große Halbleiterhersteller wie Intel oder TSMC für die Massenproduktion herangezogen werden könnten. Die Chips befinden sich jedoch derzeit in der Testphase, und der Beginn einer Volumenproduktion wird nicht vor 2028 erwartet. Zudem gibt es noch erhebliche technische Herausforderungen zu bewältigen. Insbesondere der Bedarf an einer großen Anzahl von Vektor-Recheneinheiten und die Anforderungen an statischen Speicher (SRAM) gehören zu den wichtigsten technischen Hürden des Unternehmens.
Andererseits hat sich die Silizium-Photonik in letzter Zeit zu einem der gefragtesten Bereiche in der Halbleiterwelt entwickelt. Während Nvidia bereits Spectrum-X Ethernet Photonik-Switch-Systeme in der Rubin-Plattform einsetzt, ist bekannt, dass auch AMD die Einrichtung eines 280-Millionen-Dollar-Zentrums vorbereitet, das sich auf die Silizium-Photonik-Forschung konzentriert. Dieser jüngste Schritt von Neurophos zeigt, dass die photonikbasierte Datenverarbeitung beginnt, die Theorie zu verlassen und sich praktischen Anwendungen zu nähern.
Was ist photonische Datenverarbeitung und wie funktioniert sie?
Photonische Datenverarbeitung basiert auf der Datenverarbeitung mit Licht (Photonen) anstelle von Elektronen, wie es bei herkömmlichen Halbleitern der Fall ist. Während Informationen in klassischen digitalen Chips durch elektrischen Strom dargestellt werden, der durch Transistoren fließt, wird diese Aufgabe in photonikbasierten Systemen durch Laserquellen, Wellenleiter und optische Modulatoren übernommen. Rechenoperationen werden unter Ausnutzung physikalischer Eigenschaften des Lichts wie Amplitude, Phase oder Wellenlänge durchgeführt.
Dieser Ansatz bietet insbesondere bei Operationen wie Matrixmultiplikationen, die die Grundlage der künstlichen Intelligenz bilden, Vorteile. Da Licht beim Durchgang durch eine optische Struktur viele Daten gleichzeitig parallel verarbeiten kann, können photonische Schaltungen theoretisch eine extrem hohe Parallelität und geringe Latenz bieten. Genau auf diesem Prinzip basiert die 1.000 x 1.000 große optische Matrixstruktur von Neurophos.
Herkömmliche CMOS-basierte Chips stoßen mit zunehmender Verkleinerung der Transistoren immer mehr an physikalische Grenzen wie Hitze, Stromverbrauch und Datenübertragungsraten. Insbesondere große Sprachmodelle und KI-Systeme verbrauchen aufgrund massiver Matrixoperationen enorme Mengen an Energie und führen zu ernsthaften Kühlproblemen in Rechenzentren.
Hier setzt die photonische Datenverarbeitung an. Lichtbetriebene Systeme eliminieren die durch elektrischen Widerstand verursachte Wärmeentwicklung weitgehend und bieten eine viel höhere Bandbreite für die Datenübertragung im Vergleich zu Kupferverbindungen. Dies ermöglicht mehr Rechenleistung innerhalb desselben Leistungsbudgets.
