Advertentie
AMD claimt dat zijn Radeon Pro W7900 en Pro W7800 – beide met 48 GB VRAM – tot wel 7x sneller zijn dan de vorige generatie GeForce RTX 4090 in DeepSeek R1 AI-tests. David McAfee, Vice
President en GM Ryzen & Radeon bij AMD, deelde deze benchmarks op X.
DeepSeek R1-benchmarks: enorme VRAM maakt het verschil
De tests werden uitgevoerd met LM Studio 0.3.12 en Llama.cpp 1.18, waarbij vier AI-modellen werden gedraaid:
- Distill Qwen 32B 8-bit (conversational prompt, ~20 tokens)
- Distill Llama 70B 4-bit (conversational prompt, ~20 tokens)
- Distill Qwen 32B 8-bit (summarization prompt, ~3017 tokens)
- Distill Llama 70B 4-bit (summarization prompt, ~3017 tokens)
In sommige scenario’s produceerden AMD’s workstation-GPU’s tot 7,3x meer tokens per seconde dan een RTX 4090 (2.7 t/s vs 19.8 t/s). Volgens McAfee komt dit grotendeels doordat AMD’s 48 GB VRAM beter geschikt is voor “Large Language Models” (LLM’s), waar parameter-groottes direct evenredig zijn aan het videogeheugen.
Vergelijking met Nvidia
De Radeon Pro W7900 (48GB, circa €3500) kost nog steeds minder dan de dichtstbijzijnde 48GB-oplossing van Nvidia (de RTX A6000 Ada, die boven €7.000 kost).
De GeForce RTX 5090 (32 GB GDDR7) en RTX 4090 (24 GB GDDR6X) hebben minder VRAM, maar AMD deelt geen vergelijkende data van de RTX 5090. Nvidia heeft eerder gereageerd op soortgelijke claims voor de RX 7900 XTX met eigen DeepSeek R1-benchmarks, waarin de RTX 4090/5090 significant betere prestaties leverden.
Voor wie?
Deze GPU’s zijn ontworpen voor professionele workloads zoals 3D-rendering, HPC en AI. Hoewel het prijskaartje hoog is, biedt AMD een betaalbaar(der) alternatief voor 48GB-kaarten vergeleken met Nvidia’s professionele aanbod. Bedenk wel dat AMD’s getoonde benchmarks alleen de oude 24GB-kaart (RTX 4090) betreffen, en niet Nvidia’s nieuwe vlaggenschip, de RTX 5090.
AMD zet een grote stap naar AI-workloads met 48GB VRAM, en in sommige scenario’s heeft dat duidelijk voordelen. Tegelijk blijft het afwachten hoe deze kaarten zich verhouden tot Nvidia’s nieuwste topmodellen in echte productie-omgevingen. Het conflict “meer VRAM” vs “snellere compute” is nog niet beslecht, en de komende benchmarks van beide kampen zullen uitwijzen wie er in AI-land voorlopig bovenaan staat.
