Nieuws

Processors

Intel en Microsoft willen Copilot lokaal op je PC draaien, zonder rekenkracht vanuit de cloud

Portret van de auteur


Intel en Microsoft willen Copilot lokaal op je PC draaien, zonder rekenkracht vanuit de cloud
0

Advertentie

Eind vorig jaar en begin dit jaar noemde Microsoft 2024 het jaar van de AI-pc. Het bedrijf was niet heel duidelijk in wat dat moest inhouden, maar met de introductie van ‘Neural Processing Units’ of NPU’s in nagenoeg elke aangekondigde processor van de afgelopen maanden is het duidelijk dat deze een integrale rol zullen spelen. Een andere meer zichtbare toevoeging is de Copilot toets in Microsofts toetsenbord standaard. Deze moet de rechter Ctrl, of Menu toets vervangen.

Nu zijn Intel en Microsoft echter wat duidelijker in hun doelen voor deze nieuwe AI-pc’s. Intel kondigde namelijk een nieuw ontwikkelaars programma voor AI-pc's aan waarbij ontwikkelaars worden aangemoedigd om lokale hardware te gebruiken in AI-functionaliteit binnen hun apps. Het is ook de bedoeling dat meer onderdelen van Copilot lokaal uitgevoerd moeten kunnen worden. Dit moet een betere ervaring bieden aan gebruikers voor kleinere handelingen, die op dit moment relatief veel vertraging ervaren door het vereiste uitvoeren via een server. Voor ingewikkeldere vragen aan Copilot is dit een minder ernstig probleem. Enige vertraging wordt verwacht en de latency tussen computer en server kost relatief minder tijd.

Op dit moment worden de NPU’s die pas in enkele computers terug te vinden zijn nog maar weinig gebruikt. Alleen de Surface Studio webcam kan hiermee efficiënter video-effecten toevoegen en achtergronden vervangen. Dit is overigens wel anders binnen iOS en Android. Op apparaten met deze besturingssystemen wordt veelvuldig gebruikgemaakt van AI-acceleratie. Bijvoorbeeld voor gezichtsherkenning, objectherkenning, het verwerken van beeld en geluid. 

Op hardware gebied vraagt Microsoft dan ook veel van een NPU. Deze zouden een rekenkracht moeten bereiken van 40 TOPS om te voldoen aan de eisen van het bedrijf. Op dit moment halen Intel’s Meteor Lake laptop-chips slechts 10 TOPS en de 8040 chips van AMD doen het iets beter met maximaal 16 TOPS. Er is wel een chip aangekondigd die 45 TOPS moet kunnen leveren. Deze chip komt echter uit een onverwachte hoek: Qualcomm. De Snapdragon X processors van het bedrijf, die Windows op Arm moeten populariseren en de strijd aan moeten gaan met Apple’s M-serie,zullen binnenkort terug te vinden zijn in de eerste laptops. Overigens zeggen TOPS niet alles, en is het goed mogelijk dat sommige AI-toepassingen wel snel genoeg verlopen op het x86-64 aanbod en andere misschien weer niet snel genoeg op Arm-chips.