Před pár dny Google v blogovém příspěvku oznámil spuštění Coral NPU , open-source platformy , která kombinuje specializovaný hardwarový akcelerátor pro umělou inteligenci s kompletní sadou softwarových nástrojů.
Coral NPU se stává průkopnickou architekturou, která vznikla v úzké spolupráci mezi Google Research a Google DeepMind. Toto společné úsilí vyústilo v návrh, který klade umělou inteligenci do centra pozornosti a představuje milník ve vývoji nové generace systémů edge AI.
Coral NPU: Architektura založená na umělé inteligenci
Základním principem konstrukce Coral NPU je schopnost udržet AI v nepřerušovaném chodu s minimální spotřebou energie. Coral NPU je proto navržen tak, aby nepřetržitě spouštěl aplikace AI bez kompromisů v životnosti baterie zařízení. Jeho základní verze dosahuje výkonu 512 miliard operací za sekundu (GOPS) s pouhými několika miliwattů spotřeby energie, což je pozoruhodně nízká hodnota ve srovnání s jinými akcelerátory na trhu.
Tato architektura byla pečlivě optimalizována tak, aby umožňovala celodenní fungování řešení umělé inteligence v nositelných zařízeních a dalších zařízeních citlivých na autonomii.
Jeho architektura navíc umožňuje výrobcům přizpůsobit a upravit design podle potřeb jejich vlastních systémů na čipu (SoC). Synaptics bude první společností, která tuto technologii integruje do své nové řady procesorů Astra SL2610, určených pro zařízení IoT, a to včetně subsystému Torq NPU založeného na platformě Coral.
Flexibilita a efektivita Coral NPU z něj činí ideální nástroj pro zpracování obrazu, zvuku a rozpoznávání . Mezi jeho nejvýznamnější aplikace patří vizuální rekonstrukce, rozpoznávání obličeje a objektů, překlad a transkripce v reálném čase a ovládání gesty nebo hlasem. Dokáže také detekovat aktivitu uživatele (jako je chůze, běh nebo spánek) a přizpůsobit se okolnímu fyzickému prostředí.
Díky těmto funkcím slibuje Coral NPU vznik nové generace chytrých zařízení pro spotřebitele, jako jsou hodinky, headsety a brýle s rozšířenou realitou, které budou schopny provozovat pokročilou umělou inteligenci přímo na zařízení bez nutnosti spoléhat se na cloud.
Technický výkon poháněný RISC-V
Srdcem procesoru Coral NPU je 32bitová architektura RV32IMF_Zve32x RISC-V, doplněná sběrnicí AXI4 a čtyřstupňovým pipeline, který umožňuje efektivní provádění instrukcí. Jeho konstrukce kombinuje odesílání instrukcí v pořadí (in-order dispatch) a dokončování instrukcí mimo pořadí (out-of-order) se skalárním a vektorovým přístupem pro vyvážení výkonu a efektivity.
Systém nabízí SIMD operace pro paralelní zpracování 128bitových vektorových dat spolu s 8 KB instrukční paměti a 32 KB datové paměti. Tuto konfiguraci doplňují tři hlavní komponenty:
- Skalární jádro RISC-V, programovatelné v jazyce C, zodpovědné za správu toku dat a ultra nízkou spotřebu energie.
- Vektorový koprocesor SIMD, kompatibilní s rozšířeními RVV v1.0, určený pro paralelní zpracování velkých objemů informací.
- Maticový koprocesor optimalizovaný pro urychlení základních operací násobení a sčítání (MAC) v neuronových sítích.
Otevřený a kompatibilní vývojový ekosystém
Společnost Google doprovázela spuštění Coral NPU kompletním vývojovým prostředím , které zahrnuje kompilátory modelů umělé inteligence (IREE a TFLM), kompilátor jazyka C a simulátor pro vývojáře.
NPU je kompatibilní s nejoblíbenějšími frameworky umělé inteligence , jako jsou TensorFlow, JAX a PyTorch, a umožňuje kompilaci modelů do univerzální mezilehlé reprezentace, kterou backend LLVM nakonec převede do instrukcí RISC-V.
Touto iniciativou Google nejen podporuje zavádění otevřeného hardwaru pro umělou inteligenci, ale také pokládá základy pro ekosystém spolupráce, kde mohou výrobci, vývojáři a komunita open source inovovat na společné platformě.
Pokud se o projektu chcete dozvědět více , měli byste vědět, že je licencován pod licencí Apache 2.0 a můžete si prohlédnout dokumentaci a nástroje , které Google nabízí vývojářům a designérům.