Vor wenigen Tagen kündigte Google in einem Blogbeitrag die Einführung von Coral NPU an , einer Open-Source-Plattform , die einen spezialisierten Hardwarebeschleuniger für KI mit einem kompletten Satz von Softwaretools kombiniert.
Coral NPU ist eine bahnbrechende Architektur, die in enger Zusammenarbeit zwischen Google Research und Google DeepMind entwickelt wurde. Das Ergebnis dieser Zusammenarbeit ist ein Design, das künstliche Intelligenz in den Mittelpunkt stellt und einen Meilenstein in der Entwicklung der nächsten Generation von Edge-KI-Systemen darstellt.
Coral NPU: Eine KI-First-Architektur
Das grundlegende Designprinzip der Coral NPU besteht darin, KI-Anwendungen mit minimalem Stromverbrauch unterbrechungsfrei auszuführen. Daher ist die Coral NPU so konzipiert, dass sie KI-Anwendungen kontinuierlich ausführt, ohne die Akkulaufzeit der Geräte zu beeinträchtigen. Ihre Basisversion erreicht eine Leistung von 512 Milliarden Operationen pro Sekunde (GOPS) bei einem Stromverbrauch von nur wenigen Milliwatt – ein bemerkenswert niedriger Wert im Vergleich zu anderen Beschleunigern auf dem Markt.
Diese Architektur wurde sorgfältig optimiert, um ganztägige KI-Lösungen in Wearables und anderen autonomieempfindlichen Geräten zu ermöglichen.
Darüber hinaus ermöglicht die Architektur den Herstellern, das Design an die Bedürfnisse ihrer jeweiligen System-on-a-Chip (SoCs) anzupassen und zu modifizieren . Synaptics wird als erstes Unternehmen diese Technologie in seine neue Prozessorserie Astra SL2610 integrieren , die für IoT-Geräte entwickelt wurde und das auf Coral basierende Torq-NPU-Subsystem nutzt.
Die Flexibilität und Effizienz der Coral NPU machen sie zu einem idealen Werkzeug für Bild-, Audio- und Erkennungsverarbeitungsaufgaben . Zu ihren wichtigsten Anwendungsbereichen zählen visuelle Rekonstruktion, Gesichts- und Objekterkennung, Echtzeitübersetzung und -transkription sowie Gesten- und Sprachsteuerung. Sie kann außerdem Benutzeraktivitäten (wie Gehen, Laufen oder Schlafen) erkennen und sich an die physische Umgebung anpassen.
Mit diesen Funktionen verspricht Coral NPU, eine neue Generation intelligenter Verbrauchergeräte wie Uhren, Headsets und Augmented-Reality-Brillen zu ermöglichen, die in der Lage sind, fortschrittliche KI direkt auf dem Gerät auszuführen, ohne auf die Cloud angewiesen zu sein.
Technische Leistung durch RISC-V
Das Herzstück der Coral NPU bildet die 32-Bit-RISC-V-Architektur RV32IMF_Zve32x, ergänzt durch einen AXI4-Bus und eine vierstufige Pipeline für effiziente Befehlsausführung. Das Design kombiniert In-Order-Dispatch und Out-of-Order-Completion mit einem skalaren und vektoriellen Ansatz, um Leistung und Effizienz optimal auszubalancieren.
Das System bietet SIMD-Operationen zur parallelen Verarbeitung von 128-Bit-Vektordaten sowie 8 KB Befehlsspeicher und 32 KB Datenspeicher. Diese Konfiguration wird durch drei Hauptkomponenten ergänzt:
- Ein in C programmierbarer RISC-V-Skalarkern, der für das Datenflussmanagement und den extrem niedrigen Stromverbrauch verantwortlich ist.
- Ein SIMD-Vektor-Coprozessor, kompatibel mit RVV v1.0-Erweiterungen, der für die parallele Verarbeitung großer Informationsmengen ausgelegt ist.
- Ein Matrix-Coprozessor, optimiert für die Beschleunigung wichtiger Multiplikations- und Additionsoperationen (MAC) in neuronalen Netzwerken.
Offenes und kompatibles Entwicklungsökosystem
Google hat die Einführung von Coral NPU mit einer kompletten Entwicklungsumgebung begleitet , die KI-Modell-Compiler (IREE und TFLM), einen C-Compiler und einen Simulator für Entwickler umfasst.
Die NPU ist mit den gängigsten KI-Frameworks wie TensorFlow, JAX und PyTorch kompatibel und ermöglicht es, Modelle in eine universelle Zwischenrepräsentation zu kompilieren, die schließlich vom LLVM-Backend in RISC-V-Befehle übersetzt wird.
Mit dieser Initiative treibt Google nicht nur die Einführung offener Hardware für KI voran, sondern legt auch den Grundstein für ein kollaboratives Ökosystem, in dem Hersteller, Entwickler und die Open-Source-Community auf einer gemeinsamen Plattform Innovationen hervorbringen können.
Wenn Sie mehr darüber erfahren möchten , sollten Sie wissen, dass dieses Projekt unter der Apache 2.0-Lizenz steht und dass Sie die Dokumentation und die Tools konsultieren können , die Google für Entwickler und Designer anbietet.