AMD onthult Instinct MI300-apu met 153 miljard transistors voor AI-taalmodellen – Computer – Nieuws

AMD kondigt verschillende nieuwe processors en gpu’s aan voor AI-datacenters en servers, waaronder de AMD Instinct MI300X-accelerator met 153 miljard transistors. Ook kondigt het merk EPYC Bergamo-cpu’s op basis van de Zen 4c-architectuur aan.

De AMD Instinct MI300-serie bestaat uit twee hpc-versnellers. De MI300-apu die AMD eerder aankondigde, heet dezelfde MI300A. Deze chip heeft negen CDNA 3-gpu-chiplets en bevat 24 Zen 4-cpu-cores. De accelerator heeft dus zowel gpu’s als cpu-chiplets, voor een totaal van dertien chiplets en 146 miljard transistors in één pakket. De MI300A heeft maximaal 128GB gedeeld HBM3-geheugen en is volgens AMD gemaakt voor AI-workloads.

De MI300X is een volledig nieuw model in de MI300-serie en bestaat alleen uit gpu-cores. AMD vervangt daarmee de drie cpu-chiplets van de onderliggende MI300A-apu met twee extra CDNA 3-chiplets; in totaal bestaat de apu daarmee uit twaalf chiplets. De versneller is volgens het merk bedoeld voor het draaien van generatieve AI-taalmodellen. De accelerator bevat maximaal 192GB HBM3-geheugen met een bandbreedte van 5,2TB/s.

Het merk biedt een kant-en-klare samenstelling van MI300-chips in de vorm van het AMD Instinct Platform voor datacenters. Dit systeem bevat acht MI300-chips en in totaal tot 1,5TB aan HBM3-geheugen. AMD is begonnen met het verzenden van MI300A-samples naar selecte klanten. Vanaf het derde kwartaal van dit jaar gebeurt dat ook met MI300X-chips.

EPYC Bergamo met Zen 4c-cores

Verder kondigt AMD tijdens hetzelfde evenement nieuwe EPYC-serverprocessors op basis van Zen 4c-cores, waarbij de ‘c’ voor ‘cloud’ staat. Deze cores zijn compacter dan de reguliere Zen 4-cores, die al in de huidige EPYC Genoa-processors zitten. In plaats van maximaal twaalf ccd’s van ieder acht cores, hanteert AMD nu acht ccd’s met zestien cores. Dit moet de nieuwe processors energiezuiniger maken.

Het gaat om drie varianten als onderdeel van de Bergamo-generatie cpu’s. Het topmodel is de EPYC 9754 met 128 cores en 256 threads. De processor heeft een tdp van 360W. AMD behaalde basis- en boostklokfrequenties van verwachte 2,25 en 3,10GHz. De 9754S heeft grotendeels dezelfde specificaties, maar ondersteunt geen gelijktijdige multithreading en heeft daarom maximaal 128 threads. De chips zouden tot 2,7 keer zo efficiënt zijn als de vorige generatie EPYC-processors, claimt AMD tijdens zijn presentatie.

AMD’s Bergamo-instapvariant, de EPYC 9734, heeft verder 112 cores en 224 threads. De basis- en boostklokfrequenties zijn vergelijkbaar, met de onderliggende 2,20 en 3,00GHz. De tdp van de serverprocessor is 320W.