며칠 전 구글은 블로그 게시물을 통해 인공 지능(AI) 전용 하드웨어 가속기 와 다양한 소프트웨어 도구를 결합한 오픈 소스 플랫폼 인 Coral NPU를 출시했다고 발표했습니다.
Coral NPU는 구글 리서치와 구글 딥마인드의 긴밀한 협력을 통해 탄생한 선구적인 아키텍처입니다. 이러한 공동 노력의 결과로 인공지능을 중심에 둔 설계가 탄생했으며, 이는 차세대 엣지 AI 시스템 개발의 이정표가 될 것입니다.
Coral NPU: AI 우선 아키텍처
Coral NPU 설계의 핵심 원칙은 최소한의 전력 소비로 AI를 중단 없이 실행하는 것입니다. 따라서 Coral NPU는 기기의 배터리 수명에 영향을 주지 않고 AI 애플리케이션을 지속적으로 실행하도록 설계되었습니다 . 기본 버전은 초당 512억 회 연산 (GOPS)의 성능을 단 몇 밀리와트의 전력 소비로 달성하는데, 이는 시중의 다른 가속기와 비교했을 때 매우 낮은 수치입니다.
이 아키텍처는 웨어러블 기기와 기타 자율성에 민감한 기기에서 하루 종일 AI 솔루션을 구현할 수 있도록 세심하게 최적화되었습니다.
또한, 이 아키텍처는 제조업체가 자체 시스템 온 칩(SoC)의 요구 사항에 따라 설계를 조정하고 수정할 수 있도록 합니다 . 시냅틱스는 사물 인터넷( IoT) 기기용으로 설계된 새로운 아스트라 SL2610 시리즈 프로세서에 코랄 기반 Torq NPU 서브시스템을 통합하는 최초의 기업이 될 것입니다 .
Coral NPU는 유연성과 효율성이 뛰어나 이미지, 오디오 및 인식 처리 작업에 이상적인 도구 입니다 . 가장 주목할 만한 응용 분야로는 시각 재구성, 얼굴 및 사물 인식, 실시간 번역 및 전사, 제스처 또는 음성 제어 등이 있습니다. 또한 사용자의 활동(걷기, 달리기, 수면 등)을 감지하고 주변 물리적 환경에 적응할 수 있습니다.
Coral NPU는 이러한 기능을 통해 클라우드에 의존하지 않고도 장치에서 직접 고급 AI를 실행할 수 있는 시계, 헤드셋, 증강 현실 안경과 같은 차세대 소비자용 스마트 기기를 구현할 수 있을 것으로 기대됩니다.
RISC-V가 주도하는 기술적 힘
Coral NPU 의 핵심은 32비트 RV32IMF_Zve32x RISC-V 아키텍처이며, AXI4 버스와 효율적인 명령어 실행을 가능하게 하는 4단계 파이프라인을 갖추고 있습니다. 이 설계는 순차 실행과 비순차 완료 방식을 결합하고, 스칼라 및 벡터 연산 방식을 사용하여 성능과 효율성의 균형을 맞춥니다.
이 시스템은 128비트 벡터 데이터 의 병렬 처리를 위한 SIMD 연산 과 8KB의 명령어 메모리 및 32KB의 데이터 메모리를 제공합니다. 이러한 구성은 세 가지 주요 구성 요소로 보완됩니다.
- C로 프로그래밍 가능한 RISC-V 스칼라 코어는 데이터 흐름 관리와 초저전력 소모를 담당합니다.
- RVV v1.0 확장과 호환되는 SIMD 벡터 보조 프로세서로, 대량의 정보를 병렬로 처리하도록 설계되었습니다.
- 신경망에서 필수적인 곱셈-덧셈(MAC) 연산을 가속화하도록 최적화된 매트릭스 보조 프로세서입니다.
개방적이고 호환 가능한 개발 생태계
구글은 코랄 NPU 출시와 함께 AI 모델 컴파일러(IREE 및 TFLM), C 컴파일러, 개발자용 시뮬레이터를 포함한 완벽한 개발 환경을 제공 했습니다.
NPU 는 TensorFlow, JAX, PyTorch와 같은 가장 인기 있는 AI 프레임워크와 호환되며 , 모델을 범용 중간 표현으로 컴파일할 수 있도록 합니다. 이 표현은 최종적으로 LLVM 백엔드에 의해 RISC-V 명령어로 변환됩니다.
이 이니셔티브를 통해 Google은 AI를 위한 오픈 하드웨어 도입을 촉진할 뿐만 아니라 제조업체, 개발자, 오픈 소스 커뮤니티가 공통 플랫폼에서 혁신할 수 있는 협력 생태계의 기반을 마련하고 있습니다.
이 프로젝트 에 대해 더 자세히 알고 싶으 시다면 , 이 프로젝트는 Apache 2.0 라이선스 하에 배포되며, Google에서 개발자와 디자이너를 위해 제공하는 문서와 도구를 참조하실 수 있습니다 .