Die Welt der künstlichen Intelligenz entwickelt sich seit dem Boom im Jahr 2022 rasant weiter. Die Branche bewegt sich weg von Modellen, die nur einfache Anfragen beantworten, hin zu autonom agierenden „Agentic AI“-Systemen. Während dieser Wandel massive Speicherbandbreiten und niedrige Latenzzeiten erfordert, liefert NVIDIA mit seiner Hardware der nächsten Generation die stärkste Antwort auf diese Anforderungen. Neue Leistungstests bestätigen, dass das Unternehmen seine Führungsposition im Hardware-Rennen weiter festigt.
NVIDIA Blackwell Ultra setzt Meilensteine für Agentic AI-Workloads
Nach von NVIDIA geteilten Daten bietet das neue GB300 NVL72-System eine 50-fache Steigerung der Token-Produktion pro Watt im Vergleich zur vorherigen Hopper-GPU-Generation. Hinter dieser massiven Leistungssteigerung steht die fortschrittliche NVLink-Technologie, die 72 GPU-Einheiten als eine Einheit arbeiten lässt und eine Verbindungsgeschwindigkeit von 130 Terabyte pro Sekunde bietet. Dank dieser Architektur sinken zudem die Kosten pro Million Token um das 35-Fache.
Großer Vorteil bei Long-Context-Operationen
Agentic AI-Modelle benötigen beim Betrieb ressourcenintensive Prozesse, wie das Vorhalten der gesamten Codebasis im Speicher. Die GB300-Architektur bietet im Vergleich zum GB200-Modell 1,5-mal niedrigere Kosten bei Long-Context-Workloads und eine doppelt so schnelle „Attention Processing“-Kapazität. Diese Daten zeigen, dass das neue System die effizienteste Lösung für den Betrieb komplexer KI-Agenten ist.
Neuer Standard für Hyperscaler
Rechenzentrumsriesen wie Google, Amazon und Microsoft haben bereits mit der Integration dieser neuen Architektur begonnen. NVIDIA beweist, dass die Skalierungsgesetze weiterhin gültig sind, und setzt mit Blackwell Ultra Industriestandards neu, noch vor der nächsten Generation namens „Vera Rubin“. Die als „Huangs Gesetz“ bekannte Steigerungsrate der Performance setzt sich dank der extremen Abstimmung von Hardware und Software ungebremst fort.
