For et par dage siden annoncerede Google i et blogindlæg lanceringen af Coral NPU , en open source-platform , der kombinerer en specialiseret hardwareaccelerator til AI med et komplet sæt softwareværktøjer.
Coral NPU fremstår som en banebrydende arkitektur, udtænkt i tæt samarbejde mellem Google Research og Google DeepMind. Denne fælles indsats har resulteret i et design, der sætter kunstig intelligens i centrum, hvilket markerer en milepæl i udviklingen af den næste generation af edge AI-systemer.
Coral NPU: En AI-først arkitektur
Det grundlæggende princip bag designet af Coral NPU er evnen til at holde AI kørende uafbrudt med minimalt strømforbrug. Derfor er Coral NPU designet til at køre AI-applikationer kontinuerligt uden at gå på kompromis med enhedernes batterilevetid. Basisversionen opnår en ydeevne på 512 milliarder operationer i sekundet (GOPS) med blot et par milliwatt strømforbrug, et bemærkelsesværdigt lavt tal sammenlignet med andre acceleratorer på markedet.
Denne arkitektur er blevet omhyggeligt optimeret for at muliggøre heldags AI-løsninger i wearables og andre autonomifølsomme enheder.
Derudover giver arkitekturen producenterne mulighed for at tilpasse og modificere designet i henhold til behovene i deres egne systemer-på-en-chip (SoC'er). Synaptics bliver den første virksomhed, der integrerer denne teknologi i sin nye Astra SL2610-serie af processorer, der er designet til IoT-enheder og inkorporerer det Coral-baserede Torq NPU-undersystem.
Coral NPU'ens fleksibilitet og effektivitet gør den til et ideelt værktøj til billed-, lyd- og genkendelsesprocesser . Blandt dens mest bemærkelsesværdige anvendelser er visuel rekonstruktion, ansigts- og objektgenkendelse, realtidsoversættelse og -transkription samt bevægelses- eller stemmestyring. Den kan også registrere brugeraktivitet (såsom at gå, løbe eller sove) og tilpasse sig det omgivende fysiske miljø.
Med disse funktioner lover Coral NPU at muliggøre en ny generation af smarte forbrugerenheder, såsom ure, headsets og augmented reality-briller, der er i stand til at køre avanceret AI direkte på enheden uden at være afhængig af skyen.
Teknisk kraft drevet af RISC-V
Hjertet i Coral NPU'en er baseret på 32-bit RV32IMF_Zve32x RISC-V-arkitekturen, ledsaget af en AXI4-bus og en firetrins pipeline, der muliggør effektiv instruktionsudførelse. Dens design kombinerer in-ordre-afsendelse og out-of-ordre-fuldførelse med en skalar- og vektortilgang for at balancere ydeevne og effektivitet.
Systemet tilbyder SIMD-operationer til parallel behandling af 128-bit vektordata, sammen med 8 KB instruktionshukommelse og 32 KB datahukommelse. Denne konfiguration suppleres af tre hovedkomponenter:
- En RISC-V skalarkerne, programmerbar i C, ansvarlig for dataflowstyring og ultralavt strømforbrug.
- En SIMD-vektor-coprocessor, kompatibel med RVV v1.0-udvidelser, designet til at håndtere store mængder information parallelt.
- En matrix-coprocessor, optimeret til at accelerere essentielle multiplikation-add (MAC) operationer i neurale netværk.
Åbent og kompatibelt udviklingsøkosystem
Google har ledsaget lanceringen af Coral NPU med et komplet udviklingsmiljø , der inkluderer AI-modelcompilere (IREE og TFLM), en C-compiler og en simulator til udviklere.
NPU'en er kompatibel med de mest populære AI-frameworks , såsom TensorFlow, JAX og PyTorch, og tillader modeller at blive kompileret til en universel mellemrepræsentation, som i sidste ende oversættes til RISC-V-instruktioner af LLVM-backend'en.
Med dette initiativ fremmer Google ikke blot adoptionen af åben hardware til AI, men lægger også grundlaget for et samarbejdsbaseret økosystem, hvor producenter, udviklere og open source-fællesskabet kan innovere på en fælles platform.
Hvis du er interesseret i at lære mere om det , skal du vide, at dette projekt er licenseret under Apache 2.0, og du kan konsultere den dokumentation og de værktøjer , som Google tilbyder til udviklere og designere.