Advertentie
Dit optimaliseren is belangrijk om alles uit de NPU te halen wat erin zit. In een recente review op deze website kwam de nieuwe generatie Intel-processors bijvoorbeeld niet beter uit de test voor AI-taken dan de vorige generatie. Dit heeft waarschijnlijk voornamelijk te maken met gebrekkig gebruik van de daarvoor bedoelde NPU.
Nu heeft het bedrijf in een press release laten weten dat er inmiddels 500 AI-modellen zijn geoptimaliseerd zijn voor gebruik met de Intel Meteor Lake-generatie. Hiermee zijn allerlei AI-functies beschikbaar en snel en efficiënt te draaien op de processors. De mijlpaal is bereikt door het investeren in ‘client AI’, ‘AI PC transformatie’, 'raamwerkoptimalisaties', en ‘AI tools’ waaronder de OpenVINO toolkit.
De AI-modellen die getraind zijn om goed overweg te kunnen met Intel’s NPU in de Meteor Lake-chips kunnen overigens ook goed gedraaid worden op processors zonder NPU of op GPU’s, al zouden de prestaties hoogstwaarschijnlijk wat minder zijn voor processors of zwakkere videokaarten. Het gaat over modellen voor verscheidene toepassingen zoals: lokale AI-inferentie, Large Language Models, diffusie, superresolutie, object detectie, beeldherkenning en classificatie, computervisie en meer. Enkele bekende voorbeelden van deze AI-modellen zijn: Phi-2, Mistral, Llama, Bert, Whisper, en Stable Diffusion 1.5.
De mijlpaal is belangrijk voor Intel omdat het duidelijk maakt dat de investeringen van het bedrijf in de AI-markt zijn vruchten afwerpt. Dit is fijn aangezien het bedrijf zo mee weet te komen met de nieuwe revolutie in hardware. Het bedrijf lijkt dan ook het consumentenplatform voor AI te willen zijn, waar Nvidia dat is voor datacentra. Later dit jaar moeten de nieuwe AI accelererende NPU’s ook hun intrede doen in desktop-processors. Meteor Lake sloeg namelijk de desktop over, maar Arrow Lake-S moet waarschijnlijk in het derde kwartaal van dit jaar uitkomen onder de serienaam Core Ultra 200.