Pirms dažām dienām Google emuāra ierakstā paziņoja par Coral NPU palaišanu — atvērtā pirmkoda platformu , kas apvieno specializētu mākslīgā intelekta aparatūras paātrinātāju ar pilnu programmatūras rīku komplektu.
Coral NPU ir novatoriska arhitektūra, kas radīta ciešā sadarbībā starp Google Research un Google DeepMind. Šī kopīgā darba rezultātā ir radīts dizains, kurā mākslīgais intelekts ir centrā, iezīmējot pagrieziena punktu nākamās paaudzes perifērijas mākslīgā intelekta sistēmu attīstībā.
Coral NPU: mākslīgā intelekta arhitektūra
Coral NPU dizaina pamatprincips ir spēja nodrošināt nepārtrauktu mākslīgā intelekta darbību ar minimālu enerģijas patēriņu. Tāpēc Coral NPU ir izstrādāts tā, lai nepārtraukti darbinātu mākslīgā intelekta lietojumprogrammas, neapdraudot ierīču akumulatora darbības laiku. Tā bāzes versija sasniedz 512 miljardu operāciju sekundē (GOPS) veiktspēju ar tikai dažiem milivatiem enerģijas patēriņa, kas ir ievērojami zems rādītājs salīdzinājumā ar citiem tirgū pieejamajiem paātrinātājiem.
Šī arhitektūra ir rūpīgi optimizēta, lai valkājamās ierīcēs un citās autonomiju ietekmējošās ierīcēs nodrošinātu mākslīgā intelekta risinājumus, kas darbojas visas dienas garumā.
Turklāt tā arhitektūra ļauj ražotājiem pielāgot un modificēt dizainu atbilstoši savu mikroshēmu sistēmu (SoC) vajadzībām. Synaptics būs pirmais uzņēmums, kas integrēs šo tehnoloģiju savā jaunajā Astra SL2610 procesoru sērijā, kas paredzēta lietu interneta ierīcēm, iekļaujot uz Coral balstīto Torq NPU apakšsistēmu.
Coral NPU elastība un efektivitāte padara to par ideālu rīku attēlu, audio un atpazīšanas apstrādes uzdevumiem . Starp tā ievērojamākajiem pielietojumiem ir vizuālā rekonstrukcija, sejas un objektu atpazīšana, reāllaika tulkošana un transkripcija, kā arī žestu vai balss vadība. Tas var arī noteikt lietotāja aktivitātes (piemēram, iešanu, skriešanu vai gulēšanu) un pielāgoties apkārtējai fiziskajai videi.
Ar šīm iespējām Coral NPU sola nodrošināt jaunas paaudzes viedierīces patērētājiem, piemēram, pulksteņus, austiņas un papildinātās realitātes brilles, kas spēj darbināt modernu mākslīgo intelektu tieši ierīcē, nepaļaujoties uz mākoņpakalpojumiem.
Tehniskā jauda, ko nodrošina RISC-V
Coral NPU pamatā ir 32 bitu RV32IMF_Zve32x RISC-V arhitektūra, ko papildina AXI4 kopne un četrpakāpju cauruļvads, kas nodrošina efektīvu instrukciju izpildi. Tā dizains apvieno secīgu nosūtīšanu un ārpus secības izpildi ar skalāru un vektoru pieeju, lai līdzsvarotu veiktspēju un efektivitāti.
Sistēma piedāvā SIMD operācijas 128 bitu vektordatu paralēlai apstrādei , kā arī 8 KB instrukciju atmiņu un 32 KB datu atmiņu. Šo konfigurāciju papildina trīs galvenās sastāvdaļas:
- RISC-V skalārs kodols, programmējams C valodā, kas atbild par datu plūsmas pārvaldību un īpaši zemu enerģijas patēriņu.
- SIMD vektoru kopprocesors, kas ir saderīgs ar RVV v1.0 paplašinājumiem un paredzēts lielu informācijas apjomu paralēlai apstrādei.
- Matricas līdzprocesors, kas optimizēts, lai paātrinātu būtiskas reizināšanas-saskaitīšanas (MAC) operācijas neironu tīklos.
Atvērta un saderīga attīstības ekosistēma
Līdz ar Coral NPU palaišanu Google ir izveidojis pilnīgu izstrādes vidi , kas ietver mākslīgā intelekta modeļu kompilatorus (IREE un TFLM), C kompilatoru un simulatoru izstrādātājiem.
NPU ir saderīgs ar populārākajiem mākslīgā intelekta ietvariem , piemēram, TensorFlow, JAX un PyTorch, un ļauj modeļus kompilēt universālā starpposma attēlojumā, ko LLVM aizmugure galu galā pārvērš RISC-V instrukcijās.
Ar šo iniciatīvu Google ne tikai veicina atvērtā koda aparatūras ieviešanu mākslīgajam intelektam, bet arī liek pamatus sadarbības ekosistēmai, kurā ražotāji, izstrādātāji un atvērtā koda kopiena var ieviest jauninājumus kopīgā platformā.
Ja vēlaties uzzināt vairāk par to , jums jāzina, ka šis projekts ir licencēts saskaņā ar Apache 2.0, un jūs varat iepazīties ar dokumentāciju un rīkiem , ko Google piedāvā izstrādātājiem un dizaineriem.