Prieš kelias dienas „Google“ tinklaraščio įraše paskelbė apie „Coral NPU“ – atvirojo kodo platformos , kurioje derinamas specializuotas dirbtinio intelekto aparatinės įrangos greitintuvas su visu programinės įrangos įrankių rinkiniu, – paleidimą.
„Coral NPU“ yra novatoriška architektūra, sukurta glaudžiai bendradarbiaujant „Google Research“ ir „Google DeepMind“. Šios bendros pastangos lėmė dizainą, kuriame dirbtinis intelektas yra centre, ir tai yra svarbus žingsnis kuriant naujos kartos dirbtinio intelekto sistemas.
„Coral NPU“: dirbtiniu intelektu paremta architektūra
Pagrindinis „Coral NPU“ projektavimo principas yra gebėjimas išlaikyti dirbtinio intelekto (DI) veikimą nepertraukiamai, sunaudojant minimaliai energijos. Todėl „Coral NPU“ yra sukurtas taip, kad DI programos veiktų nepertraukiamai, nepakenkiant įrenginių akumuliatoriaus veikimo laikui. Bazinė jo versija pasiekia 512 milijardų operacijų per sekundę (GOPS) našumą , sunaudodama vos kelis milivatus energijos – tai stebėtinai mažas rodiklis, palyginti su kitais rinkoje esančiais greitintuvais.
Ši architektūra buvo kruopščiai optimizuota, kad būtų galima naudoti dirbtinio intelekto sprendimus nešiojamuosiuose įrenginiuose ir kituose autonomijai jautriuose įrenginiuose visą parą.
Be to, jos architektūra leidžia gamintojams pritaikyti ir modifikuoti dizainą pagal savo lustų sistemų (SoC) poreikius. „Synaptics“ bus pirmoji bendrovė, integravusi šią technologiją į savo naują „Astra SL2610“ procesorių seriją, skirtą daiktų interneto įrenginiams, kurioje integruota „Coral“ pagrindu sukurta „Torq NPU“ posistemė.
„Coral NPU“ lankstumas ir efektyvumas daro jį idealiu įrankiu vaizdų, garso ir atpažinimo apdorojimo užduotims atlikti . Tarp žymiausių jo taikymo sričių yra vaizdo rekonstrukcija, veido ir objektų atpažinimas, vertimas ir transkripcija realiuoju laiku bei gestų ar balso valdymas. Jis taip pat gali aptikti naudotojo veiklą (pvz., ėjimą, bėgimą ar miegą) ir prisitaikyti prie supančios fizinės aplinkos.
Turėdamas šias galimybes, „Coral NPU“ žada įgalinti naujos kartos vartotojų išmaniuosius įrenginius, tokius kaip laikrodžiai, ausinės ir papildytos realybės akiniai, galinčius paleisti pažangų dirbtinį intelektą tiesiai įrenginyje, nesiremiant debesimi.
Techninė galia, valdoma RISC-V
„Coral NPU“ širdis pagrįsta 32 bitų RV32IMF_Zve32x RISC-V architektūra, kurią papildo AXI4 magistralė ir keturių pakopų konvejeris, užtikrinantis efektyvų instrukcijų vykdymą. Jo konstrukcija sujungia išsiuntimą eilės tvarka ir užbaigimą ne eilės tvarka, naudojant skaliarinį ir vektorinį metodus, siekiant subalansuoti našumą ir efektyvumą.
Sistema siūlo SIMD operacijas lygiagrečiam 128 bitų vektorinių duomenų apdorojimui, kartu su 8 KB instrukcijų atminties ir 32 KB duomenų atminties. Šią konfigūraciją papildo trys pagrindiniai komponentai:
- RISC-V skaliarinis branduolys, programuojamas C kalba, atsakingas už duomenų srauto valdymą ir itin mažą energijos suvartojimą.
- SIMD vektoriaus koprocesorius, suderinamas su RVV v1.0 plėtiniais, skirtas dideliems informacijos kiekiams lygiagrečiai apdoroti.
- Matricos koprocesorius, optimizuotas pagreitinti esmines daugybos ir sudėties (MAC) operacijas neuroniniuose tinkluose.
Atvira ir suderinama plėtros ekosistema
„Google“ kartu su „Coral NPU“ pristatymu pristatė ir visavertę kūrimo aplinką , kurioje yra dirbtinio intelekto modelių kompiliatoriai (IREE ir TFLM), C kompiliatorius ir simuliatorius kūrėjams.
NPU yra suderinamas su populiariausiomis dirbtinio intelekto sistemomis , tokiomis kaip „TensorFlow“, JAX ir „PyTorch“, ir leidžia modelius kompiliuoti į universalų tarpinį vaizdą, kurį LLVM posistemė galiausiai paverčia RISC-V instrukcijomis.
Šia iniciatyva „Google“ ne tik skatina atvirosios aparatinės įrangos diegimą dirbtiniam intelektui, bet ir kloja pamatus bendradarbiaujančiai ekosistemai, kurioje gamintojai, kūrėjai ir atvirojo kodo bendruomenė gali kurti naujoves bendroje platformoje.
Jei norite sužinoti daugiau , turėtumėte žinoti, kad šis projektas licencijuotas pagal „Apache 2.0“, todėl galite peržiūrėti dokumentaciją ir įrankius , kuriuos „Google“ siūlo kūrėjams ir dizaineriams.