Enkele dagen geleden kondigde Google in een blogpost de lancering aan van Coral NPU , een open-source platform dat een gespecialiseerde hardwareversneller voor AI combineert met een complete set softwaretools.
Coral NPU ontpopt zich als een baanbrekende architectuur, ontwikkeld in nauwe samenwerking tussen Google Research en Google DeepMind. Deze gezamenlijke inspanning heeft geresulteerd in een ontwerp dat kunstmatige intelligentie centraal stelt, een mijlpaal in de ontwikkeling van de volgende generatie edge AI-systemen.
Coral NPU: een AI-first architectuur
Het fundamentele principe achter het ontwerp van de Coral NPU is het vermogen om AI-toepassingen ononderbroken te laten draaien met een minimaal energieverbruik. De Coral NPU is daarom ontworpen om AI-toepassingen continu uit te voeren zonder de batterijduur van apparaten te beïnvloeden. De basisversie behaalt een prestatie van 512 miljard bewerkingen per seconde (GOPS) met een energieverbruik van slechts enkele milliwatt, een opmerkelijk laag cijfer vergeleken met andere accelerators op de markt.
Deze architectuur is zorgvuldig geoptimaliseerd om AI-oplossingen voor de hele dag mogelijk te maken in wearables en andere autonomiegevoelige apparaten.
Bovendien maakt de architectuur het voor fabrikanten mogelijk om het ontwerp aan te passen aan de behoeften van hun eigen system-on-a-chip (SoC's). Synaptics zal het eerste bedrijf zijn dat deze technologie integreert in zijn nieuwe Astra SL2610-processorserie, ontworpen voor IoT-apparaten, met het op Coral gebaseerde Torq NPU-subsysteem.
De flexibiliteit en efficiëntie van de Coral NPU maken het een ideaal hulpmiddel voor beeld-, audio- en herkenningstaken . Tot de meest opvallende toepassingen behoren visuele reconstructie, gezichts- en objectherkenning, realtime vertaling en transcriptie, en gebaren- of spraakbesturing. Het kan ook gebruikersactiviteit detecteren (zoals lopen, rennen of slapen) en zich aanpassen aan de fysieke omgeving.
Met deze mogelijkheden belooft Coral NPU een nieuwe generatie slimme consumentenapparaten mogelijk te maken, zoals horloges, headsets en augmented reality-brillen, die geavanceerde AI rechtstreeks op het apparaat kunnen uitvoeren, zonder afhankelijk te zijn van de cloud.
Technische kracht aangestuurd door RISC-V
De kern van de Coral NPU is gebaseerd op de 32-bits RV32IMF_Zve32x RISC-V-architectuur, aangevuld met een AXI4-bus en een viertraps pipeline die efficiënte instructie-uitvoering mogelijk maakt. Het ontwerp combineert ordermatige dispatch met out-of-order completion, met een scalaire en vectoriële aanpak om prestaties en efficiëntie in balans te brengen.
Het systeem biedt SIMD-bewerkingen voor parallelle verwerking van 128-bits vectorgegevens, samen met 8 KB instructiegeheugen en 32 KB datageheugen. Deze configuratie wordt aangevuld door drie hoofdcomponenten:
- Een RISC-V scalaire kern, programmeerbaar in C, verantwoordelijk voor het beheer van de gegevensstroom en een uiterst laag stroomverbruik.
- Een SIMD-vectorcoprocessor, compatibel met RVV v1.0-extensies, ontworpen om grote hoeveelheden informatie parallel te verwerken.
- Een matrixcoprocessor, geoptimaliseerd om essentiële vermenigvuldigings-optelbewerkingen (MAC) in neurale netwerken te versnellen.
Open en compatibel ontwikkelings-ecosysteem
Google heeft de lancering van Coral NPU vergezeld van een complete ontwikkelomgeving die AI-modelcompilers (IREE en TFLM), een C-compiler en een simulator voor ontwikkelaars omvat.
De NPU is compatibel met de meest populaire AI-frameworks , zoals TensorFlow, JAX en PyTorch, en maakt het mogelijk om modellen te compileren naar een universele tussenrepresentatie, die uiteindelijk door de LLVM-backend wordt vertaald naar RISC-V-instructies.
Met dit initiatief stimuleert Google niet alleen de acceptatie van open hardware voor AI, maar legt het ook de basis voor een ecosysteem waarin samenwerking centraal staat en fabrikanten, ontwikkelaars en de open source-community op een gemeenschappelijk platform kunnen innoveren.
Als je er meer over wilt weten , is het goed om te weten dat dit project onder de Apache 2.0-licentie valt. Je kunt de documentatie en tools raadplegen die Google aanbiedt voor ontwikkelaars en ontwerpers.