Aan Nvidia viel dit jaar de eer van Computex met zijn keynote te openen en dat de openingskeynote na een Computex-hiaat van drie jaar geleden, viel te merken. Voor de afgeladen zaal presenteerde een bijna uitgelaten Jensen Huang, de ceo van Nvidia, waar zijn bedrijf de afgelopen tijd mee bezig is geweest, en waar de aanvankelijke tijd mee gaat komen. Het zal, gezien de ontwikkelingen van de laatste tijd, weinigen verbazen dat AI waarin een hoofdrol speelde. Vrijwel alles wat Nvidia liet zien, had namelijk tot doel AI te vervangen of te vervangen.
Daarbij speelde de consumentenmarkt maar een kleine rol. Niet zo gek, want Nvidia had op dat vlak zijn kruit natuurlijk al goede delen verschoten met de introductie van de RTX 4060 Ti nog geen week eerder. Wij merken consumenten alle ontwikkelingen op die bijna als revolutie werden geleid, op verschillende vlakken, van gaming tot softwaregebruik, en misschien zelfs wat onze gezondheid en de manier waarop we werken betreft.
Consumenten
Nadat Jensen waarschijnlijk had hoe snel Nvidia’s gpu’s en met name raytracing zijn geworden, werd de 4060 Ti nog eens onthuld. Dat bleek de opmaat naar Nvidia ACE, een raamwerk om AI-karakters voor games te maken. Collega Daan schreef daar een uitgebreid nieuwsbericht over. In het kort komt het erop neer dat generatieve AI gebruikt wordt om karakters in games te maken waarmee je op een natuurlijke manier moet kunnen interacteren.
Na dit gaming-uitstapje, richt Jensen zich op versneld computergebruik en generatieve AI. Volgens hem komt versneld computergebruik en generatieve AI op precies het juiste moment, als traditionele schaling en de wet van Moore steeds verder gaan. Met de juiste workloads is een gpu-cluster veel veranderd dan hetzelfde op traditionele cpu’s berekenen. Een groot taalmodel, bouwsteen van bijvoorbeeld ChatGPT, doorrekenen, is veel sneller met 10 miljoen dollar aan gpu’s dan hetzelfde bedrag voor cpu’s. Ook volgens andere metrics, zoals energiegebruik, zijn gpu’s veel ontwikkeld dan cpu’s. Tien slots kun je met slechts een fractie van de investering, 400.000 dollar, hetzelfde rekenwerk aan de llm-verloop als met die 10 miljoen dollar aan cpu’s.
credit :Source link
