Há alguns dias o Google anunciou através de uma postagem de blog que Lançamento da NPU Coral, uma plataforma de código aberto que combina um acelerador de hardware especializado para IA com um conjunto completo de ferramentas de software.
A Coral NPU surge como uma arquitetura pioneira, concebida em estreita colaboração entre o Google Research e o Google DeepMind. Esse esforço conjunto resultou em um design que coloca a Inteligência Artificial no centro, marcando um marco no desenvolvimento da próxima geração de sistemas de IA de ponta.
Coral NPU: Uma arquitetura que prioriza a IA
O princípio fundamental que rege o design da NPU Coral é a capacidade de manter a IA operando ininterruptamente com consumo mínimo de energia, razão pela qual a NPU Coral é projetado para executar aplicativos de IA continuamente sem comprometer a autonomia energética dos aparelhos. Sua versão básica atinge um desempenho de 512 bilhões de operações por segundo (GOPS) com apenas alguns miliwatts de consumo de energia, um valor notavelmente baixo em comparação com outros aceleradores no mercado.
Essa arquitetura foi meticulosamente otimizada para permitir soluções de IA para o dia todo em dispositivos vestíveis e outros dispositivos sensíveis à autonomia.
Além disso, Sua arquitetura permite que os fabricantes adaptem e modifiquem o design de acordo com as necessidades dos seus próprios sistemas em chip (SoC). A empresa A Synaptics será a primeira a integrar esta tecnologia em sua nova série de processadores Astra SL2610, projetada para dispositivos IoT, incorporando o subsistema NPU Torq baseado em Coral.
A flexibilidade e eficiência do Coral NPU fazem dele uma ferramenta ideal para tarefas de processamento de imagem, áudio e reconhecimentoo. Aplicações notáveis incluem reconstrução visual, reconhecimento facial e de objetos, tradução e transcrição em tempo real e controle por gestos e voz. Ele também pode detectar a atividade do usuário (como caminhar, correr ou dormir) e se adaptar ao ambiente físico.
Com esses recursos, a Coral NPU promete habilitar uma nova geração de dispositivos inteligentes para o consumidor, como relógios, fones de ouvido e óculos de realidade aumentada, capazes de executar IA avançada diretamente no dispositivo sem depender da nuvem.
Potência técnica impulsionada pelo RISC-V
O coração de O Coral NPU é baseado na arquitetura RISC-V RV32IMF_Zve32x de 32 bits, acompanhado por um barramento AXI4 e um pipeline de quatro estágios que permite a execução eficiente de instruções. Seu design combina despacho em ordem e conclusão fora de ordem com uma abordagem escalar e vetorial para equilibrar desempenho e eficiência.
O sistema oferece operações SIMD para processamento paralelo de dados em vetores de 128 bits, juntamente com 8 KB de memória de instruções e 32 KB de memória de dados. Esta configuração é complementada por três componentes principais:
- Um núcleo escalar RISC-V, programável em C, responsável pelo gerenciamento do fluxo de dados e consumo de energia ultrabaixo.
- Um coprocessador vetorial SIMD, compatível com extensões RVV v1.0, projetado para lidar com grandes volumes de informações em paralelo.
- Um coprocessador de matriz, otimizado para acelerar operações essenciais de multiplicação e adição (MAC) em redes neurais.
Ecossistema de desenvolvimento aberto e compatível
O Google acompanhou o lançamento da Coral NPU com um ambiente de desenvolvimento completo que inclui compiladores de modelos de IA (IREE e TFLM), um compilador C e um simulador para desenvolvedores.
La NPU é compatível com as estruturas de IA mais populares, como TensorFlow, JAX e PyTorch, e permite que os modelos sejam compilados em uma representação intermediária universal, que é finalmente traduzida em instruções RISC-V usando o backend LLVM.
Com essa iniciativa, o Google não está apenas impulsionando a adoção de hardware aberto para IA, mas também estabelecendo as bases para um ecossistema colaborativo onde fabricantes, desenvolvedores e a comunidade de código aberto podem inovar em uma plataforma comum.
Se você interessado em saber mais sobre isso, você deve saber que este projeto, sob licença Apache 2.0, e você pode consultardocumentação e ferramentas que o Google oferece para desenvolvedores e designers.