Преди няколко дни Google обяви чрез публикация в блога си, Стартиране на Coral NPU, One платформа с отворен код който съчетава специализиран хардуерен ускорител за AI с пълен набор от софтуерни инструменти.
Coral NPU се очертава като пионерска архитектура, замислена в тясно сътрудничество между Google Research и Google DeepMind. Това съвместно усилие доведе до дизайн, който поставя изкуствения интелект в центъра, отбелязвайки важен етап в развитието на следващото поколение периферни системи с изкуствен интелект.
Coral NPU: Архитектура, базирана на изкуствен интелект
Основният принцип, който управлява дизайна на Coral NPU, е способността на изкуствения интелект да работи непрекъснато с минимална консумация на енергия, поради което Coral NPU е... проектирани да изпълняват непрекъснато приложения с изкуствен интелект без да се прави компромис с енергийната автономност на устройствата. Основната му версия постига производителност от 512 милиарда операции в секунда (GOPS) с консумация на енергия само от няколко миливата, забележително ниска цифра в сравнение с други ускорители на пазара.
Тази архитектура е щателно оптимизирана, за да позволи целодневни AI решения в носими устройства и други устройства, чувствителни към автономност.
Освен това, Неговата архитектура позволява на производителите да адаптират и модифицират дизайна според нуждите на собствените си системи върху чип (SoC). Компанията Synaptics ще бъде първата компания, която ще интегрира тази технология. в новата си серия процесори Astra SL2610, предназначена за IoT устройства, включваща базирана на Coral подсистема Torq NPU.
Гъвкавостта и ефективността на Coral NPU го правят инструмент идеален за обработка на изображения, аудио и задачи за разпознаванеo. Забележителни приложения включват визуална реконструкция, разпознаване на лица и обекти, превод и транскрипция в реално време, както и управление с жестове и глас. Може също така да открива потребителска активност (като ходене, бягане или сън) и да се адаптира към физическата среда.
С тези възможности, Coral NPU обещава да даде възможност за ново поколение потребителски интелигентни устройства, като часовници, слушалки и очила с добавена реалност, способни да изпълняват усъвършенстван изкуствен интелект директно на устройството, без да разчитат на облака.
Техническа мощност, задвижвана от RISC-V
Сърцето на Coral NPU е базиран на 32-битовата RV32IMF_Zve32x RISC-V архитектура, придружен от AXI4 шина и четиристепенен конвейер, който позволява ефективно изпълнение на инструкции. Дизайнът му комбинира изпращане по ред и завършване извън ред със скаларен и векторен подход за балансиране на производителността и ефективността.
Системата предлага SIMD операции за паралелна обработка на данни в 128-битови вектори, заедно с 8 KB памет за инструкции и 32 KB памет за данни. Тази конфигурация се допълва от три основни компонента:
- RISC-V скаларно ядро, програмируемо на C, отговорно за управлението на потока от данни и ултраниската консумация на енергия.
- SIMD векторен копроцесор, съвместим с RVV v1.0 разширения, проектиран да обработва големи обеми информация едновременно.
- Матричен копроцесор, оптимизиран за ускоряване на основни операции по умножение-събиране (MAC) в невронни мрежи.
Отворена и съвместима екосистема за разработка
Google придружи старта от Корал НПУ с цялостна среда за разработка който включва компилатори на AI модели (IREE и TFLM), C компилатор и симулатор за разработчици.
La NPU е съвместим с най-популярните AI рамки, като TensorFlow, JAX и PyTorch, и позволява моделите да бъдат компилирани в универсално междинно представяне, което в крайна сметка се преобразува в RISC-V инструкции, използвайки LLVM backend-а.
С тази инициатива Google не само стимулира приемането на отворен хардуер за изкуствен интелект, но и полага основите за съвместна екосистема, където производителите, разработчиците и общността с отворен код могат да внедряват иновации на обща платформа.
Ако сте заинтересовани да научите повече за това, трябва да знаете, че този проект е под лиценз Apache 2.0 и можете да се консултиратедокументация и инструменти които Google предлага за разработчици и дизайнери.