Advertentie
Het Zuid-Koreaanse SK Hynix lanceert later dit jaar een PCI-Express 5.0-ssd, specifiek ontwikkeld voor gebruik op het gebied van on-device AI. De (reeds eerder aangekondigde) PCB01 SSD maakt gebruik van de pci-express 5.0-interface en haalt sequentiële lees- en schrijfsnelheden van respectievelijk 14GB en 12GB per seconde. 4K Random lees- en schrijfsnelheden liggen op twee miljoen IOPS. Ahn Hyun, hoofd van het NS-comité bij SK Hynix, zegt dat het bedrijf een grote vraag ziet naar nieuwe producten van wereldwijde makers van AI-pc's
Volgens de fabrikant zijn de snelheden genoeg om LLM training (Large Language Module) en interference-taken binnen een seconde uit te kunnen voeren. Volgens opgave biedt de ssd een verbetering 30 procent in energie-efficiëntie vergeleken met eerdere generaties, wat de stabiliteit van grootschalige AI-computertaken verbetert.
De ssd maakt gebruik van slc-caching, waardoor de prestaties verbeterd worden. Deze technologie plaatst de single-level cel in sommige delen van de NAND-cel, voor een snellere computerervaring voor zowel AI-services als conventionele taken. De PCB01 bevat ook een root of trust (ROT)-oplossing die cybersecurity-aanvallen voorkomt en persoonlijke gegevens beschermt.
Volgens SK Hynix zal de ssd later dit jaar uitgebracht worden in drie capaciteiten: 512 GB, 1 TB en 2 TB. Hij maakt gebruik van het Alistar-platform, dat gebruikmaakt van een 8-kanaals interface en 238-lagen tlc nand-technologie. In eerste instantie komt de ssd beschikbaar voor oem's, waardoor er standaard geen heatsinks of dergelijke meegeleverd worden.
On-device AI, wat is dat?
On-device AI betekent het rechtstreeks kunnen verwerken van AI-algoritmen op een 'lokaal' apparaat, met gebruik van de aanwezige hardware. Hardware zoals een snelle gpu, een neurale ai-versneller en/of een ssd zoals de SK Hynix PCB01 zouden kunnen helpen om de taken te versnellen. Bij on-device ai is er geen tussenkomst van het internet nodig en externe servers om data heen en weer te sturen, waardoor jouw privacy beter bewaard blijft en de responstijden flink omhoog gaan.
Bij on-device ai worden alle AI-taken in principe offline verricht. Bekende apps zoals ChatGPT, Dall-E en Midjourney worden in eerste instantie getraind in de cloud, maar vervolgens geoptimaliseerd voor gebruik op een lokaal, offline apparaat. De gegenereerde data wordt veilig op jouw eigen apparaat opgeslagen. Het voordeel is ook dat de apps gepersonaliseerde ervaringen voorschotelen, op basis van data die je zelf achtergelaten of gegenereerd hebt. Ook stemassistenten profiteren daarvan door rekening te houden met activiteiten die je leuk vindt. Nog een voordeel van on-device AI is de mogelijkheid tot het rechtstreeks renderen en daarbij verbeteren van audio en video op jouw eigen apparaat.