Prije nekoliko dana, Google je u objavi na blogu najavio pokretanje Coral NPU-a , platforme otvorenog koda koja kombinira specijalizirani hardverski akcelerator za umjetnu inteligenciju s kompletnim skupom softverskih alata.
Coral NPU se pojavljuje kao pionirska arhitektura, osmišljena u bliskoj suradnji između Google Researcha i Google DeepMinda. Ovaj zajednički napor rezultirao je dizajnom koji u središte stavlja umjetnu inteligenciju, označavajući prekretnicu u razvoju sljedeće generacije rubnih AI sustava.
Coral NPU: Arhitektura prvenstveno zasnovana na umjetnoj inteligenciji
Temeljno načelo dizajna Coral NPU-a je sposobnost neprekidnog rada umjetne inteligencije uz minimalnu potrošnju energije. Stoga je Coral NPU dizajniran za kontinuirano pokretanje AI aplikacija bez ugrožavanja vijeka trajanja baterije uređaja. Njegova osnovna verzija postiže performanse od 512 milijardi operacija u sekundi (GOPS) uz samo nekoliko milivata potrošnje energije, što je izuzetno niska brojka u usporedbi s drugim akceleratorima na tržištu.
Ova je arhitektura pomno optimizirana kako bi omogućila cjelodnevna AI rješenja u nosivim uređajima i drugim uređajima osjetljivim na autonomiju.
Nadalje, njegova arhitektura omogućuje proizvođačima prilagodbu i modificiranje dizajna prema potrebama vlastitih sustava na čipu (SoC-ova). Synaptics će biti prva tvrtka koja će integrirati ovu tehnologiju u svoju novu seriju procesora Astra SL2610, dizajniranu za IoT uređaje, uključujući podsustav Torq NPU temeljen na Coralu.
Fleksibilnost i učinkovitost Coral NPU-a čine ga idealnim alatom za zadatke obrade slika, zvuka i prepoznavanja . Među njegovim najznačajnijim primjenama su vizualna rekonstrukcija, prepoznavanje lica i objekata, prevođenje i transkripcija u stvarnom vremenu te upravljanje gestama ili glasom. Također može detektirati aktivnost korisnika (poput hodanja, trčanja ili spavanja) i prilagoditi se okolnom fizičkom okruženju.
S ovim mogućnostima, Coral NPU obećava omogućiti novu generaciju pametnih uređaja za potrošače, poput satova, slušalica i naočala za proširenu stvarnost, sposobnih za pokretanje napredne umjetne inteligencije izravno na uređaju bez oslanjanja na oblak.
Tehnička snaga koju pokreće RISC-V
Srce Coral NPU-a temelji se na 32-bitnoj RV32IMF_Zve32x RISC-V arhitekturi, uz AXI4 sabirnicu i četverostupanjski cjevovod koji omogućuje učinkovito izvršavanje instrukcija. Njegov dizajn kombinira slanje po redoslijedu i dovršavanje izvan redoslijeda, sa skalarnim i vektorskim pristupom za uravnoteženje performansi i učinkovitosti.
Sustav nudi SIMD operacije za paralelnu obradu 128-bitnih vektorskih podataka, zajedno s 8 KB instrukcijske memorije i 32 KB podatkovne memorije. Ovu konfiguraciju nadopunjuju tri glavne komponente:
- RISC-V skalarna jezgra, programabilna u C-u, odgovorna za upravljanje protokom podataka i ultra nisku potrošnju energije.
- SIMD vektorski koprocesor, kompatibilan s RVV v1.0 ekstenzijama, dizajniran za paralelnu obradu velikih količina informacija.
- Matrični koprocesor, optimiziran za ubrzavanje bitnih operacija množenja i zbrajanja (MAC) u neuronskim mrežama.
Otvoreni i kompatibilni razvojni ekosustav
Google je uz lansiranje Coral NPU-a ponudio i kompletno razvojno okruženje koje uključuje kompajlere AI modela (IREE i TFLM), C kompajler i simulator za programere.
NPU je kompatibilan s najpopularnijim AI okvirima , kao što su TensorFlow, JAX i PyTorch, te omogućuje kompajliranje modela u univerzalnu međureprezentaciju, koju LLVM backend u konačnici prevodi u RISC-V instrukcije.
Ovom inicijativom Google ne samo potiče usvajanje otvorenog hardvera za umjetnu inteligenciju, već i postavlja temelje za suradnički ekosustav u kojem proizvođači, programeri i zajednica otvorenog koda mogu inovirati na zajedničkoj platformi.
Ako ste zainteresirani saznati više o tome , trebali biste znati da je ovaj projekt licenciran pod Apache 2.0 te da možete konzultirati dokumentaciju i alate koje Google nudi programerima i dizajnerima.