Qualche giorno fa, Google ha annunciato in un post sul blog il lancio di Coral NPU , una piattaforma open-source che combina un acceleratore hardware specializzato per l'intelligenza artificiale con una suite completa di strumenti software.
Coral NPU emerge come un'architettura pionieristica, concepita in stretta collaborazione tra Google Research e Google DeepMind. Questo sforzo congiunto ha portato a un progetto che pone l'Intelligenza Artificiale al centro, segnando una pietra miliare nello sviluppo della prossima generazione di sistemi di intelligenza artificiale edge.
Coral NPU: un'architettura AI-First
Il principio fondamentale alla base della progettazione della NPU Coral è la capacità di mantenere l'intelligenza artificiale in funzione senza interruzioni con un consumo energetico minimo. Pertanto, la NPU Coral è progettata per eseguire applicazioni di IA ininterrottamente senza compromettere la durata della batteria dei dispositivi. La sua versione base raggiunge una prestazione di 512 miliardi di operazioni al secondo (GOPS) con un consumo energetico di pochi milliwatt, una cifra straordinariamente bassa rispetto ad altri acceleratori presenti sul mercato.
Questa architettura è stata meticolosamente ottimizzata per consentire soluzioni di intelligenza artificiale utilizzabili tutto il giorno nei dispositivi indossabili e in altri dispositivi sensibili all'autonomia.
Inoltre, la sua architettura consente ai produttori di adattare e modificare il design in base alle esigenze dei propri sistemi su chip (SoC). Synaptics sarà la prima azienda a integrare questa tecnologia nella sua nuova serie di processori Astra SL2610, progettata per dispositivi IoT, che incorpora il sottosistema NPU Torq basato su Coral.
La flessibilità e l'efficienza della NPU Coral la rendono uno strumento ideale per attività di elaborazione di immagini, audio e riconoscimento . Tra le sue applicazioni più importanti figurano la ricostruzione visiva, il riconoscimento facciale e degli oggetti, la traduzione e la trascrizione in tempo reale e il controllo gestuale o vocale. È inoltre in grado di rilevare l'attività dell'utente (come camminare, correre o dormire) e di adattarsi all'ambiente fisico circostante.
Grazie a queste funzionalità , Coral NPU promette di abilitare una nuova generazione di dispositivi intelligenti per i consumatori, come orologi, cuffie e occhiali per realtà aumentata, in grado di eseguire l'intelligenza artificiale avanzata direttamente sul dispositivo senza dover ricorrere al cloud.
Potenza tecnica guidata da RISC-V
Il cuore della NPU Coral si basa sull'architettura RISC-V a 32 bit RV32IMF_Zve32x, accompagnata da un bus AXI4 e da una pipeline a quattro stadi che consente un'esecuzione efficiente delle istruzioni. Il suo design combina l'esecuzione in ordine e il completamento fuori ordine, con un approccio scalare e vettoriale per bilanciare prestazioni ed efficienza.
Il sistema offre operazioni SIMD per l'elaborazione parallela di dati vettoriali a 128 bit, insieme a 8 KB di memoria istruzioni e 32 KB di memoria dati. Questa configurazione è completata da tre componenti principali:
- Un core scalare RISC-V, programmabile in C, responsabile della gestione del flusso di dati e del bassissimo consumo energetico.
- Un coprocessore vettoriale SIMD, compatibile con le estensioni RVV v1.0, progettato per gestire grandi volumi di informazioni in parallelo.
- Un coprocessore di matrice, ottimizzato per accelerare le operazioni essenziali di moltiplicazione-addizione (MAC) nelle reti neurali.
Ecosistema di sviluppo aperto e compatibile
Google ha accompagnato il lancio di Coral NPU con un ambiente di sviluppo completo che include compilatori di modelli di intelligenza artificiale (IREE e TFLM), un compilatore C e un simulatore per gli sviluppatori.
L' NPU è compatibile con i framework di intelligenza artificiale più diffusi , come TensorFlow, JAX e PyTorch, e consente di compilare i modelli in una rappresentazione intermedia universale, che viene infine tradotta in istruzioni RISC-V utilizzando il backend LLVM.
Con questa iniziativa, Google non solo promuove l'adozione di hardware aperto per l'intelligenza artificiale, ma getta anche le basi per un ecosistema collaborativo in cui produttori, sviluppatori e la comunità open source possono innovare su una piattaforma comune.
Se siete interessati ad approfondire l'argomento , sappiate che questo progetto è rilasciato sotto licenza Apache 2.0 e potete consultare la documentazione e gli strumenti che Google offre a sviluppatori e designer.