幾天前,谷歌透過部落格文章宣布 Coral NPU 發布,一個 開源平台 它結合了專門的硬體加速器 對於人工智慧 附有全套軟體工具。
Coral NPU 是一種開創性的架構,由 Google Research 和 Google DeepMind 緊密合作打造。此次合作最終形成了以人工智慧為中心的設計,標誌著下一代邊緣 AI 系統發展的里程碑。
Coral NPU:AI 優先架構
Coral NPU 設計的基本原則是能夠以最小的功耗保持 AI 不間斷運行,這就是 Coral NPU 的 旨在持續運行人工智慧應用程式 而不會損害設備的能源自主性。其基本版本 實現每秒 512 億次運算的效能 (GOPS)的功耗僅為幾毫瓦,與市場上的其他加速器相比,這個數字非常低。
該架構經過精心優化,可在穿戴式裝置和其他自主敏感裝置中實現全天候 AI 解決方案。
另外, 其架構允許製造商調整和修改設計 根據其自身系統單晶片 (SoC) 的需求。該公司 Synaptics 將率先整合該技術 在其專為物聯網設備設計的全新 Astra SL2610 處理器系列中,採用了基於 Coral 的 Torq NPU 子系統。
Coral NPU 的靈活性和效率使其成為一種工具 非常適合影像處理、音訊和識別任務o. 值得關注的應用包括視覺重建、臉部和物件辨識、即時翻譯和轉錄以及手勢和語音控制。它還可以檢測使用者活動(例如行走、跑步或睡眠)並適應物理環境。
憑藉這些功能,Coral NPU 預計將讓新一代消費智慧型裝置(如手錶、耳機和擴增實境眼鏡)能夠直接在裝置上運行高級 AI,而無需依賴雲端。
RISC-V 驅動的技術力量
的心 Coral NPU基於32位元RV32IMF_Zve32x RISC-V架構, 配備AXI4匯流排和四級流水線,可實現高效率的指令執行。其設計結合了按序調度和亂序完成,以及標量和向量方法,以平衡性能和效率。
系統 提供 SIMD 操作用於平行資料處理 128 位元向量,以及 8 KB 指令記憶體和 32 KB 資料記憶體。此配置由三個主要組件補充:
- RISC-V 標量核心,可用 C 語言編程,負責資料流管理和超低功耗。
- SIMD 向量協處理器,相容於 RVV v1.0 擴展,旨在並行處理大量資訊。
- 矩陣協處理器,經過最佳化,可加速神經網路中的基本乘加 (MAC) 運算。
開放相容的開發生態
谷歌已伴隨發布 來自珊瑚NPU 擁有完整的開發環境 其中包括 AI 模型編譯器(IREE 和 TFLM)、C 編譯器和開發人員模擬器。
La NPU相容最流行的AI框架,例如 TensorFlow、JAX 和 PyTorch,並允許將模型編譯成通用中間表示,最終使用 LLVM 後端將其轉換為 RISC-V 指令。
透過這項舉措,Google不僅推動了人工智慧開放硬體的採用,也為製造商、開發人員和開源社群可以在共同平台上進行創新的協作生態系統奠定了基礎。
如果你是 有興趣了解更多,您應該知道這個專案遵循 Apache 2.0 許可證,您可以諮詢文件和工具 Google 為開發人員和設計師提供的服務。