Nvidia: KI-Plattform ‘DGX Cloud Lepton’ zur Vernetzung globaler GPU-Ressourcen

Nvidia hat die Einführung von Nvidia DGX Cloud Lepton bekannt gegeben, einer neuen KI-Plattform mit einer Art Marktplatz für Rechenleistung. Die Plattform soll Entwickler, die an fortschrittlicher agentischer und physischer KI arbeiten, mit einem globalen Ökosystem von Cloud-Anbietern verbinden und ihnen Zugang zu Zehntausenden von Grafikprozessoren (GPUs) zu ermöglichen.

Die DGX Cloud Lepton-Plattform wurde geschaffen, um die wachsende Nachfrage nach KI-Rechenleistung zu bedienen. Sie ermöglicht es Entwicklern, GPU-Kapazitäten in bestimmten geografischen Regionen flexibel zu nutzen, sowohl für kurzfristige als auch für langfristige Anwendungen. Das unterstützt strategische sowie länderspezifische Anforderungen nach Souveränität für Daten und Anwendungen.

Marktplatz für den Zugriff auf Tausende GPUs

Eine Reihe von Nvidia Cloud Partnern (NCPs) wird über DGX Cloud Lepton GPUs bereitstellen. Dazu gehören CoreWeave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, Softbank Corp. und Yotta Data Services. Sie werden dort Nvidia Blackwell-GPUs sowie andere Nvidia-Architekturen zur Verfügung stellen. Laut Nvidia soll der Marktplatz Zugang zu Zehntausenden von GPUs bieten.

Jensen Huang, Gründer und CEO von Nvidia, beschreibt die Plattform als Bindeglied zwischen Nvidias Netzwerk globaler GPU-Cloud-Anbieter und KI-Entwicklern. Er betonte das gemeinsame Ziel, mit den NCPs eine „planetare KI-Fabrik“ zu errichten.

Die Plattform ist tief in den Nvidia Software-Stack integriert. Dazu gehören wichtige Bausteine wie die Nvidia NIM und NeMo Microservices, Nvidia Blueprints und Nvidia Cloud Functions. Die Integration soll die Entwicklung und Bereitstellung von KI-Anwendungen beschleunigen und vereinfachen.

Erfahren Sie mehr

Ihr Wartungsspezialist im DataCenter

Durch Jahrzehnte lange Erfahrung wissen wir worauf es in Ihrem Data Center ankommt. Profitieren Sie nicht nur von unserer Erfahrung, sondern auch von unseren ausgezeichneten Preisen. Holen Sie sich ein unverbindliches Angebot und vergleichen Sie selbst.

Erfahren Sie mehr

Für Cloud-Anbieter verfügt DGX Cloud Lepton über spezielle Management-Software, die Echtzeit-Diagnosen zum GPU-Status liefert und die Ursachenanalyse bei Problemen automatisiert, was manuelle Eingriffe reduziert und Ausfallzeiten minimiert. Zu den wesentlichen Vorteilen der Plattform für Entwickler zählen eine verbesserte Produktivität und Flexibilität durch eine einheitliche Erfahrung über Entwicklung, Training und Inferenz hinweg. Auch die Möglichkeit, Kapazitäten direkt über den Marktplatz zu kaufen oder eigene Cluster einzubinden, erhöht die Flexibilität. Die Plattform ermöglicht zudem eine reibungslose Bereitstellung von KI-Anwendungen über Multi-Cloud- und Hybridumgebungen mit geringem Betriebsaufwand.

Agilität und Datenhoheit werden durch schnellen regionalen Zugang zu GPU-Ressourcen unterstützt, während eine prognostizierbare Leistung auf Enterprise-Niveau für Konsistenz sorgen soll.

Entwickler haben bereits jetzt die Möglichkeit, sich für den frühen Zugang zu Nvidia DGX Cloud Lepton anzumelden.

Nvidia Exemplar Clouds

Parallel zur Vorstellung von Lepton kündigte Nvidia auch die Nvidia Exemplar Clouds an. Diese Initiative soll NCPs dabei unterstützen, Sicherheit, Benutzerfreundlichkeit, Leistung und Ausfallsicherheit ihrer Angebote zu verbessern, indem sie auf Nvidias Expertise, Referenzhardware und -software sowie Tools für den Betrieb zurückgreifen. Yotta Data Services ist der erste NCP in der Asien-Pazifik-Region, der sich dieser Initiative angeschlossen hat.

Was denkt Hardwarewartung 24?

Dieses Angebot erinnert an bestehende Services wie Amazons EKS Anywhere oder ECS Anywhere, bei denen Kunden dafür zur Kasse gebeten werden, ihre eigene Hardware mit einem Management-Layer (AWS Systems Manager) zu administrieren. Obwohl die Container und Applikationen beim Kunden lokal laufen, verlangt Amazon Geld für deren Management. Auf den ersten Blick wirkt das absurd, doch diese Konzepte existieren tatsächlich bereits im Markt.

Wenn wir das Konzept von Nvidia DGX Cloud Lepton richtig verstehen, plant Nvidia hier etwas Ähnliches – nur nicht für On-Premises-Hardware, sondern für Cloud-GPUs, die ohnehin jederzeit direkt über Cloud-spezifische Integrationen verwaltet werden könnten. Kunden zahlen demnach hauptsächlich dafür, die zentrale Nvidia-Oberfläche zu nutzen, um Hardwarebestände global verteilt und Cloud-übergreifend zu orchestrieren. Daraus entsteht für uns die Kritik, dass dies wenig Mehrwert bringt, da jeder Cloudanbieter bereits kostenlose Optionen zur Verwaltung anbietet. Zusätzlich gibt es zahlreiche Drittanbieter-Plattformen, die API-basierte Orchestrierung verschiedener Cloudumgebungen ermöglichen.

Eine Plattform wie DGX Cloud Lepton würde aus unserer Sicht nur dann echten Mehrwert bieten und wirklich sinnvoll sein, wenn Nvidia die Plattform als offenen Marktplatz gestaltet, der auch kleineren Datacenter-Betreibern zugänglich wäre. So könnten sämtliche Betreiber, die Nvidia-Hardware einsetzen und freie Kapazitäten besitzen, ihre GPU-Ressourcen anderen Entwicklern und Unternehmen flexibel anbieten. Entwickler bekämen so Zugang zu einer größeren Auswahl an verfügbaren GPUs weltweit, und kleinere Datacenter oder Unternehmen könnten durch Vermietung nicht ausgelasteter Hardware zusätzliche Einnahmen generieren.

Genau diese Offenheit würde die Plattform tatsächlich attraktiv und wirtschaftlich interessant machen – sowohl für Anbieter als auch Entwickler. Ohne einen solchen offenen Ansatz sehen wir jedoch momentan keinen klaren Mehrwert. Es entsteht eher der Eindruck, Nvidia wolle verhindern, dass Cloud-Anbieter günstigere Alternativen zu Nvidia-GPUs einsetzen, indem man Kunden an eine Nvidia-exklusive Oberfläche bindet.

Erfahren Sie mehr

Ihr Wartungsspezialist für alle großen Hardware Hersteller

Durch Jahrzehnte lange Erfahrung wissen wir worauf es in Ihrem Data Center ankommt. Profitieren Sie nicht nur von unserer Erfahrung, sondern auch von unseren ausgezeichneten Preisen. Holen Sie sich ein unverbindliches Angebot und vergleichen Sie selbst.

Erfahren Sie mehr