Advertentie
Deze indrukwekkende resultaten worden nog eens versterkt doordat de processor dit doet met een verbruik van slechts 200 Watt. Hiermee lijkt de M3 Ultra een van de meest efficiënte methodes om een dergelijk groot model te kunnen draaien.
Het DeepSeek R1 model met 671 miljard parameters gebruikt 448 GB van de 512 GB aan unified ram op de M3 Ultra. Om dit model op videokaarten te kunnen draaien is deze 448 GB ook vereist, waarmee er dus minimaal 10 stuks nodig zijn om hiertoe in staat te zijn. Wel zou een systeem met 10 GPU’s hoogstwaarschijnlijk een stuk sneller zijn, maar daartegenover staat ook een, veel, hoger stroomverbruik.
YouTube Privacymelding
Op deze positie willen we je een YouTube-video tonen. We vinden het belangrijk om je gegevens te beschermen. Youtube wil voor het afspelen van video cookies op je computer plaatsen, waarmee je eventueel gevolgd kan worden. Wanneer je de video toch wil bekijken, kun je op de Play-knop klikken. De video wordt daarna geladen en afgespeeld.
Het TechnologyInsider-team
Youtube Video direct afspelen.
Vergeleken met Apple’s andere producten doet de M3 Ultra het ook zeer goed. Zo is de chip in benchmarks met het DeepSeek R1 model met verschillende hoeveelheden parameters vrijwel iedere keer 40% sneller dan zowel de M2 Ultra als de nieuwere M4 Max. Daarnaast kan de M3 Ultra veel meer parameters aan, omdat deze maximaal 512 GB aan geheugen ondersteunt, terwijl zowel de M2 Ultra als de M4 Max het moeten doen met maximaal 128 GB.
Overigens lijkt de M4 Max vrijwel niet onder te doen aan de M2 Ultra, en deze soms zelfs te verslaan. Dit laat een behoorlijke verbetering zien in twee generaties, aangezien de M4 Max in deze workload dus vergelijkbaar is met de bijna twee keer grotere, en daarmee duurdere, M2 Ultra chip. Een deel is te verklaren aan de hand van het verbeterde productieprocedé (N5P naar N3E), maar ook optimalisaties in de architectuur zullen een grote rol spelen.