Néhány nappal ezelőtt a Google egy blogbejegyzésben jelentette be a Coral NPU elindítását , egy nyílt forráskódú platformot , amely egy speciális hardveres gyorsítót ötvöz a mesterséges intelligenciához egy komplett szoftvereszköz-készlettel.
A Coral NPU úttörő architektúraként jelenik meg, amelyet a Google Research és a Google DeepMind szoros együttműködésében fejlesztettek ki. Ez a közös erőfeszítés egy olyan dizájnt eredményezett, amely a mesterséges intelligenciát helyezi a középpontba, mérföldkövet jelentve a következő generációs peremhálózati mesterséges intelligencia rendszerek fejlesztésében.
Coral NPU: Mesterséges intelligencia alapú architektúra
A Coral NPU tervezésének alapelve az, hogy minimális energiafogyasztás mellett is megszakítás nélkül működtesse a mesterséges intelligenciát. Ezért a Coral NPU-t úgy tervezték, hogy a mesterséges intelligencia alkalmazásait folyamatosan futtassa anélkül, hogy veszélyeztetné az eszközök akkumulátorának élettartamát. Alapverziója másodpercenként 512 milliárd művelet (GOPS) teljesítményt ér el mindössze néhány milliwatt energiafogyasztással, ami figyelemre méltóan alacsony érték a piacon kapható más gyorsítókhoz képest.
Ezt az architektúrát aprólékosan optimalizálták, hogy lehetővé tegye a teljes napot átfogó mesterséges intelligencia megoldásokat a viselhető eszközökben és más, autonómiára érzékeny eszközökben.
Továbbá, architektúrája lehetővé teszi a gyártók számára, hogy a saját rendszereik (SoC-k) igényei szerint adaptálják és módosítsák a tervet. A Synaptics lesz az első vállalat, amely integrálja ezt a technológiát az új Astra SL2610 processzorsorozatába, amelyet IoT-eszközökhöz terveztek, és amely magában foglalja a Coral-alapú Torq NPU alrendszert.
A Coral NPU rugalmassága és hatékonysága ideális eszközzé teszi kép-, hang- és felismerési feldolgozási feladatokhoz . Legjelentősebb alkalmazásai közé tartozik a vizuális rekonstrukció, az arc- és tárgyfelismerés, a valós idejű fordítás és átírás, valamint a gesztus- vagy hangvezérlés. Képes érzékelni a felhasználói aktivitást (például járás, futás vagy alvás), és alkalmazkodni a környező fizikai környezethez.
Ezekkel a képességekkel a Coral NPU ígéretet tesz arra, hogy lehetővé teszi a fogyasztói okoseszközök, például órák, headsetek és kiterjesztett valóság szemüvegek új generációját, amelyek képesek fejlett mesterséges intelligenciát futtatni közvetlenül az eszközön, a felhőre való támaszkodás nélkül.
RISC-V által vezérelt műszaki teljesítmény
A Coral NPU lelke a 32 bites RV32IMF_Zve32x RISC-V architektúrán alapul, amelyet egy AXI4 busz és egy négylépcsős pipeline egészít ki, amely lehetővé teszi a hatékony utasítás-végrehajtást. Kialakítása a sorrenden belüli kiküldést és a sorrenden kívüli végrehajtást ötvözi a skaláris és vektoros megközelítéssel a teljesítmény és a hatékonyság egyensúlyának megteremtése érdekében.
A rendszer SIMD műveleteket kínál 128 bites vektoradatok párhuzamos feldolgozásához , 8 KB utasításmemóriával és 32 KB adatmemóriával. Ezt a konfigurációt három fő komponens egészíti ki:
- Egy C nyelven programozható RISC-V skalár mag, amely az adatfolyam-kezelésért és az ultra-alacsony energiafogyasztásért felelős.
- Egy SIMD vektor koprocesszor, amely kompatibilis az RVV v1.0 kiterjesztésekkel, és nagy mennyiségű információ párhuzamos kezelésére szolgál.
- Egy mátrix koprocesszor, amelyet a neurális hálózatokban az alapvető szorzás-összeadás (MAC) műveletek felgyorsítására optimalizáltak.
Nyílt és kompatibilis fejlesztési ökoszisztéma
A Google a Coral NPU bevezetésével egy komplett fejlesztői környezetet is kiadott , amely magában foglalja a mesterséges intelligencia modellező fordítókat (IREE és TFLM), egy C fordítót és egy szimulátort a fejlesztők számára.
Az NPU kompatibilis a legnépszerűbb mesterséges intelligencia keretrendszerekkel , mint például a TensorFlow, a JAX és a PyTorch, és lehetővé teszi a modellek univerzális köztes reprezentációvá fordítását, amelyet végül az LLVM háttérrendszer fordít le RISC-V utasításokká.
Ezzel a kezdeményezéssel a Google nemcsak a nyílt hardverek mesterséges intelligencia általi alkalmazását ösztönzi, hanem egy együttműködő ökoszisztéma alapjait is lefekteti, ahol a gyártók, a fejlesztők és a nyílt forráskódú közösség közös platformon innoválhat.
Ha többet szeretne megtudni róla , tudnia kell, hogy ez a projekt Apache 2.0 licenc alatt áll, és megtekintheti a Google által fejlesztők és tervezők számára kínált dokumentációt és eszközöket .