Пре неколико дана, Гугл је у блог посту објавио покретање Coral NPU-а , платформе отвореног кода која комбинује специјализовани хардверски акцелератор за вештачку интелигенцију са комплетним сетом софтверских алата.
Coral NPU се појављује као пионирска архитектура, осмишљена у тесној сарадњи између Google Research-а и Google DeepMind-а. Овај заједнички напор је резултирао дизајном који ставља вештачку интелигенцију у центар, означавајући прекретницу у развоју следеће генерације edge AI система.
Coral NPU: Архитектура првенствено заснована на вештачкој интелигенцији
Основни принцип дизајна Coral NPU-а је могућност непрекидног рада вештачке интелигенције уз минималну потрошњу енергије. Стога је Coral NPU дизајниран да континуирано покреће вештачке интелигенције без угрожавања трајања батерије уређаја. Његова основна верзија постиже перформансе од 512 милијарди операција у секунди (GOPS) са само неколико миливата потрошње енергије, што је изузетно ниска бројка у поређењу са другим акцелераторима на тржишту.
Ова архитектура је пажљиво оптимизована како би омогућила целодневна вештачка интелигенција у носивим уређајима и другим уређајима осетљивим на аутономију.
Штавише, његова архитектура омогућава произвођачима да прилагоде и модификују дизајн према потребама сопствених система на чипу (SoC). Synaptics ће бити прва компанија која ће интегрисати ову технологију у своју нову серију процесора Astra SL2610, дизајнираних за IoT уређаје, укључујући Torq NPU подсистем базиран на Coral-у.
Флексибилност и ефикасност Coral NPU-а чине га идеалним алатом за задатке обраде слика, звука и препознавања . Међу његовим најзначајнијим применама су визуелна реконструкција, препознавање лица и објеката, превођење и транскрипција у реалном времену и контрола гестовима или гласом. Такође може да детектује активности корисника (као што су ходање, трчање или спавање) и да се прилагоди околном физичком окружењу.
Са овим могућностима, Coral NPU обећава да ће омогућити нову генерацију паметних уређаја за потрошаче, као што су сатови, слушалице и наочаре за проширену стварност, способне да покрећу напредну вештачку интелигенцију директно на уређају без ослањања на облак.
Техничка снага коју покреће RISC-V
Срце Coral NPU-а засновано је на 32-битној RV32IMF_Zve32x RISC-V архитектури, праћеној AXI4 магистралом и четворостепеним цевоводом који омогућава ефикасно извршавање инструкција. Његов дизајн комбинује испоруку по редоследу и довршавање ван редоследа, са скаларним и векторским приступом како би се уравнотежиле перформансе и ефикасност.
Систем нуди SIMD операције за паралелну обраду 128-битних векторских података, заједно са 8 KB меморије за инструкције и 32 KB меморије за податке. Ову конфигурацију допуњују три главне компоненте:
- RISC-V скаларно језгро, програмабилно у C-у, одговорно за управљање протоком података и ултра ниску потрошњу енергије.
- SIMD векторски копроцесор, компатибилан са RVV v1.0 екстензијама, дизајниран за паралелну обраду великих количина информација.
- Матрични копроцесор, оптимизован за убрзавање основних операција множења и сабирања (MAC) у неуронским мрежама.
Отворени и компатибилни развојни екосистем
Гугл је уз лансирање Coral NPU-а испоручио комплетно развојно окружење које укључује компајлере модела вештачке интелигенције (IREE и TFLM), C компајлер и симулатор за програмере.
НПУ је компатибилан са најпопуларнијим AI оквирима , као што су TensorFlow, JAX и PyTorch, и омогућава компајлирање модела у универзалну међурепрезентацију, која се на крају преводи у RISC-V инструкције помоћу LLVM бекенда.
Овом иницијативом, Гугл не само да подстиче усвајање отвореног хардвера за вештачку интелигенцију, већ и поставља темеље за екосистем сарадње где произвођачи, програмери и заједница отвореног кода могу да иновирају на заједничкој платформи.
Ако сте заинтересовани да сазнате више о томе , требало би да знате да је овај пројекат лиценциран под Apache 2.0 и да можете консултовати документацију и алате које Google нуди програмерима и дизајнерима.