Beberapa hari yang lalu, Google mengumumkan dalam catatan blog tentang pelancaran Coral NPU , platform sumber terbuka yang menggabungkan pemecut perkakasan khusus untuk AI dengan satu set lengkap alat perisian.
Coral NPU muncul sebagai seni bina perintis, yang dihasilkan dalam kerjasama rapat antara Google Research dan Google DeepMind. Usaha bersama ini telah menghasilkan reka bentuk yang meletakkan Kecerdasan Buatan di tengah-tengah, menandakan peristiwa penting dalam pembangunan sistem AI kelebihan generasi seterusnya.
Coral NPU: Seni Bina AI-First
Prinsip asas di sebalik reka bentuk Coral NPU adalah keupayaan untuk memastikan AI berjalan tanpa gangguan dengan penggunaan kuasa yang minimum. Oleh itu, Coral NPU direka bentuk untuk menjalankan aplikasi AI secara berterusan tanpa menjejaskan hayat bateri peranti. Versi asasnya mencapai prestasi 512 bilion operasi sesaat (GOPS) dengan hanya beberapa miliwatt penggunaan kuasa, angka yang sangat rendah berbanding pemecut lain di pasaran.
Seni bina ini telah dioptimumkan dengan teliti untuk membolehkan penyelesaian AI sepanjang hari dalam peranti boleh pakai dan peranti sensitif autonomi yang lain.
Tambahan pula, seni binanya membolehkan pengeluar menyesuaikan dan mengubah suai reka bentuk mengikut keperluan sistem-pada-cip (SoC) mereka sendiri. Synaptics akan menjadi syarikat pertama yang mengintegrasikan teknologi ini ke dalam siri pemproses Astra SL2610 baharunya, yang direka bentuk untuk peranti IoT, menggabungkan subsistem Torq NPU berasaskan Coral.
Fleksibiliti dan kecekapan Coral NPU menjadikannya alat yang ideal untuk tugas pemprosesan imej, audio dan pengecaman . Antara aplikasinya yang paling ketara ialah pembinaan semula visual, pengecaman wajah dan objek, terjemahan dan transkripsi masa nyata dan kawalan gerak isyarat atau suara. Ia juga boleh mengesan aktiviti pengguna (seperti berjalan, berlari atau tidur) dan menyesuaikan diri dengan persekitaran fizikal di sekelilingnya.
Dengan keupayaan ini, Coral NPU berjanji untuk membolehkan peranti pintar pengguna generasi baharu, seperti jam tangan, set kepala dan cermin mata realiti tambahan, yang mampu menjalankan AI lanjutan secara langsung pada peranti tanpa bergantung pada awan.
Kuasa teknikal didorong oleh RISC-V
Inti pati Coral NPU adalah berdasarkan seni bina RV32IMF_Zve32x RISC-V 32-bit, disertai dengan bas AXI4 dan saluran paip empat peringkat yang membolehkan pelaksanaan arahan yang cekap. Reka bentuknya menggabungkan penghantaran mengikut tertib dan penyiapan di luar tertib, dengan pendekatan skalar dan vektor untuk mengimbangi prestasi dan kecekapan.
Sistem ini menawarkan operasi SIMD untuk pemprosesan selari data vektor 128-bit, bersama-sama dengan memori arahan 8 KB dan memori data 32 KB. Konfigurasi ini dilengkapi dengan tiga komponen utama:
- Teras skalar RISC-V, boleh diprogramkan dalam C, bertanggungjawab untuk pengurusan aliran data dan penggunaan kuasa ultra-rendah.
- Pemproses bersama vektor SIMD, serasi dengan sambungan RVV v1.0, direka untuk mengendalikan jumlah maklumat yang besar secara selari.
- Pemproses bersama matriks, dioptimumkan untuk mempercepatkan operasi tambah ganda (MAC) penting dalam rangkaian saraf.
Ekosistem pembangunan terbuka dan serasi
Google telah mengiringi pelancaran Coral NPU dengan persekitaran pembangunan lengkap yang merangkumi pengkompil model AI (IREE dan TFLM), pengkompil C dan simulator untuk pembangun.
NPU ini serasi dengan rangka kerja AI yang paling popular , seperti TensorFlow, JAX dan PyTorch, dan membolehkan model dikompilasi menjadi perwakilan perantaraan universal, yang akhirnya diterjemahkan ke dalam arahan RISC-V oleh bahagian belakang LLVM.
Dengan inisiatif ini, Google bukan sahaja memacu penggunaan perkakasan terbuka untuk AI, tetapi juga meletakkan asas untuk ekosistem kolaboratif di mana pengilang, pembangun dan komuniti sumber terbuka boleh berinovasi pada platform yang sama.
Jika anda berminat untuk mengetahui lebih lanjut mengenainya , anda harus tahu bahawa projek ini dilesenkan di bawah Apache 2.0 dan anda boleh merujuk dokumentasi dan alatan yang ditawarkan oleh Google untuk pembangun dan pereka bentuk.