Oracle Cloud Infrastructure (OCI) hat angekündigt, die AMD Instinct™ MI300X GPUs für seine neuesten Compute-Supercluster-Instanzen BM.GPU.MI300X.8 einzusetzen. Diese Entscheidung ermöglicht es OCI, bis zu 16,384 GPUs in einem einzigen, ultraschnellen Netzwerk-Framework zu unterstützen. Diese neuen Instanzen sind ausgelegt für anspruchsvolle AI-Workloads, darunter das Inferencing und Training großer Sprachmodelle, die oft Hunderte von Milliarden Parametern umfassen.
AMD hebt hervor, dass ihre Instinct MI300X und die ROCm™ Open-Source-Software sich zunehmend als vertrauenswürdige Lösungen für kritische AI-Workloads bei OCI etablieren. Andrew Dieckmann, Corporate Vice President und General Manager des Data Center GPU Geschäfts bei AMD, betont, dass diese Kombination den OCI-Kunden hohe Leistung und Effizienz sowie mehr Flexibilität im Systemdesign bieten wird.
Donald Lu, Senior Vice President für Softwareentwicklung bei Oracle Cloud Infrastructure, fügt hinzu, dass die neuen GPU-Instanzen die breite Palette an Bare-Metal-Optionen ergänzen. Diese Instanzen sollen die Kosten und den Aufwand reduzieren, der oftmals durch virtualisierte Compute-Ressourcen entsteht.
Die AMD Instinct MI300X wurde eingehend von OCI getestet und hat ihre Fähigkeit für AI-Inferencing und -Training unterstrichen, selbst bei größeren Batchgrößen und hohen Latenzanforderungen. Diese Leistungsmerkmale haben auch Entwickler komplexer AI-Modelle aufhorchen lassen.
Ein prominenter Nutzer dieser neuen Technologien ist Fireworks AI, die eine schnelle Plattform zur Erstellung und Bereitstellung generativer AI-Systeme bieten. Laut Lin Qiao, CEO von Fireworks AI, ermöglicht die hohe Speicherkapazität der AMD Instinct MI300X eine Skalierung ihrer Dienstleistungen.
AMD selbst blickt auf eine über 50-jährige Geschichte zurück und ist ein treibender Motor in den Bereichen Hochleistungsrechnen, Grafik und Visualisierungstechnologien. Weltweit verlassen sich Unternehmen, Forschungseinrichtungen und Milliarden von Menschen auf die Technologien von AMD.