Disa ditë më parë, Google njoftoi nëpërmjet një postimi në blog se... Lançimi i NPU-së Coral, Një platformë me burim të hapur i cili kombinon një përshpejtues të specializuar të harduerit për AI me një set të plotë mjetesh softuerike.
Coral NPU shfaqet si një arkitekturë pionere, e konceptuar në bashkëpunim të ngushtë midis Google Research dhe Google DeepMind. Ky përpjekje e përbashkët ka rezultuar në një dizajn që vendos Inteligjencën Artificiale në qendër, duke shënuar një moment historik në zhvillimin e gjeneratës së ardhshme të sistemeve të inteligjencës artificiale në skaj.
NPU Coral: Një Arkitekturë e Parë me IA-në
Parimi themelor që rregullon projektimin e NPU-së Coral është aftësia për ta mbajtur IA-në të funksionojë pa ndërprerje me konsum minimal të energjisë, prandaj NPU-ja Coral është... i projektuar për të ekzekutuar aplikacione të inteligjencës artificiale vazhdimisht pa kompromentuar autonominë energjetike të pajisjeve. Versioni i saj bazë arrin një performancë prej 512 miliardë operacionesh në sekondë (GOPS) me vetëm disa milivat konsum energjie, një shifër jashtëzakonisht e ulët krahasuar me përshpejtuesit e tjerë në treg.
Kjo arkitekturë është optimizuar me kujdes për të mundësuar zgjidhje të inteligjencës artificiale gjatë gjithë ditës në pajisjet që vishen dhe pajisje të tjera të ndjeshme ndaj autonomisë.
Përveç kësaj, Arkitektura e saj u lejon prodhuesve të përshtatin dhe modifikojnë dizajnin sipas nevojave të sistemeve të veta në çip (SoC). Kompania Synaptics do të jetë e para që do ta integrojë këtë teknologji. në serinë e saj të re të procesorëve Astra SL2610, të projektuar për pajisjet IoT, duke përfshirë nënsistemin Torq NPU të bazuar në Coral.
Fleksibiliteti dhe efikasiteti i Coral NPU e bëjnë atë një mjet të shkëlqyer. ideale për përpunimin e imazheve, audion dhe detyrat e njohjeso. Aplikimet e dukshme përfshijnë rindërtimin vizual, njohjen e fytyrës dhe të objekteve, përkthimin dhe transkriptimin në kohë reale, si dhe kontrollin e gjesteve dhe zërit. Gjithashtu mund të zbulojë aktivitetin e përdoruesit (si ecja, vrapimi ose gjumi) dhe të përshtatet me mjedisin fizik.
Me këto aftësi, Coral NPU premton të mundësojë një brez të ri të pajisjeve inteligjente për konsumatorët, të tilla si orët, kufjet dhe syzet e realitetit të shtuar, të afta të përdorin inteligjencën artificiale të përparuar direkt në pajisje pa u mbështetur në cloud.
Fuqia teknike e drejtuar nga RISC-V
Zemra e NPU-ja Coral bazohet në arkitekturën 32-bit RV32IMF_Zve32x RISC-V, I shoqëruar nga një bus AXI4 dhe një tubacion me katër faza që mundëson ekzekutimin efikas të udhëzimeve. Dizajni i tij kombinon dërgimin sipas radhës dhe përfundimin jashtë radhës me një qasje skalare dhe vektoriale për të balancuar performancën dhe efikasitetin.
Sistemi ofron operacione SIMD për përpunimin paralel të të dhënave në vektorë 128-bitësh, së bashku me 8 KB memorie instruksionesh dhe 32 KB memorie të dhënash. Ky konfigurim plotësohet nga tre komponentë kryesorë:
- Një bërthamë skalare RISC-V, e programueshme në C, përgjegjëse për menaxhimin e rrjedhës së të dhënave dhe konsumin ultra të ulët të energjisë.
- Një bashkëprocesor vektorial SIMD, i pajtueshëm me zgjerimet RVV v1.0, i projektuar për të trajtuar vëllime të mëdha informacioni paralelisht.
- Një bashkëprocesor matricor, i optimizuar për të përshpejtuar operacionet thelbësore të shumëzimit-shtimit (MAC) në rrjetet nervore.
Ekosistem zhvillimi i hapur dhe i pajtueshëm
Google e ka shoqëruar lançimin nga Coral NPU me një mjedis të plotë zhvillimi i cili përfshin kompilues të modeleve të IA-së (IREE dhe TFLM), një kompilues C dhe një simulator zhvilluesi.
La NPU është e pajtueshme me kornizat më të njohura të AI-së, siç janë TensorFlow, JAX dhe PyTorch, dhe lejon që modelet të kompilohen në një përfaqësim universal të ndërmjetëm, i cili përfundimisht përkthehet në udhëzime RISC-V duke përdorur backend-in LLVM.
Me këtë iniciativë, Google jo vetëm që po nxit miratimin e pajisjeve të hapura për inteligjencën artificiale, por gjithashtu po hedh themelet për një ekosistem bashkëpunues ku prodhuesit, zhvilluesit dhe komuniteti i burimit të hapur mund të inovojnë në një platformë të përbashkët.
Dremitje të interesuar të dinë më shumë për të, duhet ta dini që ky projekt, sipas licencës Apache 2.0, dhe mund të konsultohenidokumentacion dhe mjete që Google ofron për zhvilluesit dhe dizajnerët.