xAI, saya mengeluarkan kod sumber Grok LLM yang digunakan dalam X chatbot  

grok

Grok, chatbot AI Twitter/X, kini menjadi sumber terbuka

xAI (syarikat yang diasaskan bersama oleh Elon Musk, disokong dengan kira-kira satu bilion dolar untuk pembangunan teknologi yang berkaitan dengan kecerdasan buatan), baru-baru ini mengeluarkan berita tentang keputusannya untuk mengeluarkan kod sumber Grok LLM mereka yang digunakan dalam chatbot yang disepadukan ke dalam rangkaian sosial X (Twitter).

grok telah dilatih terlebih dahulu menggunakan koleksi data yang banyak teks menggunakan tindanan pembelajaran proprietari xAI. Ia mempunyai kira-kira 314 bilion parameter, menjadikannya model bahasa terbuka terbesar yang tersedia pada masa ini.

Grok kini adalah sumber terbuka

Baru-baru ini Eleon Musk mengumumkan bahawa Grok akan menjadi sumber terbuka, yang telah berlaku. Ini bermakna pembangun di seluruh dunia boleh memerhatikan kerja dalaman Grok dan menggunakannya untuk menggerakkan model AI mereka sendiri.

Sistem chatbot kecerdasan buatan Grok, dibangunkan oleh syarikat xAI Elon Musk, telah dikeluarkan kepada pengguna Amerika platform media sosial X pada bulan Disember. Grok direka bentuk untuk bersaing dengan sistem kecerdasan buatan utama di pasaran, seperti daripada Google dan, terutamanya, OpenAI. Apa yang membezakan Grok daripada pesaingnya ialah keupayaannya untuk menggabungkan jenaka dan nada sarkastik, yang diilhamkan oleh komputer pintar buatan dalam buku Hitchhiker's Guide to the Galaxy yang terkenal.

Versi terbuka model Grok-1 dikeluarkan dalam perwakilan asas dan tidak termasuk pengoptimuman khusus untuk bidang penggunaan tertentu, seperti mengatur sistem dialog. model ini Ia mempunyai kira-kira 314 bilion parameter dan telah dilatih dari awal oleh xAI menggunakan timbunan latihan tersuai berdasarkan JAX dan Rust. xAI telah menjelaskan bahawa mereka mengeluarkan berat model dan seni bina di bawah lesen Apache 2.0, membenarkan penggunaan komersial. Walau bagaimanapun, adalah penting untuk ambil perhatian bahawa versi ini tidak termasuk data yang digunakan untuk melatih model bahasa AI yang besar dan juga tidak menawarkan akses kepada data masa nyata.

Pendekatan sumber terbuka Grok boleh menyerlahkan kelemahannya, tetapi Musk ialah penyokong sumber terbuka dan telah menjadi pelabur dalam OpenAI. Walaupun begitu, beliau kini secara kontroversi menyaman OpenAI, dengan alasan bahawa syarikat itu telah tersasar daripada prinsip keterbukaan pengasasnya ke arah mengejar keuntungan. Peguam Musk juga mencadangkan bahawa OpenAI merahsiakan sebahagian daripada sistem AI GPT-4 daripada pasaran.

Musk telah menyatakan pendapatnya tentang kepentingan ketelusan dan pencarian kebenaran dalam kecerdasan buatan. Anda telah menyebut bahawa walaupun masih ada kerja yang perlu dilakukan, platform X anda adalah yang paling telus dan mencari kebenaran. Selain itu, beliau telah mengkritik usaha untuk menjadikan AI kepelbagaian pada semua kos, memetik isu etika terkini pada platform lain.

Akses terbuka kepada Grok ialah percubaan Musk untuk menunjukkan kekurangan berat sebelah dalam sistem dan mendemokrasikan akses kepada kecerdasan buatan. Pembangun kini boleh memanfaatkan kod Grok untuk mencipta aplikasi dan perkhidmatan AI dengan cara yang lebih mudah diakses dan telus.

Akhirnya, Perlu dinyatakan bahawa kod itu, Seni Bina Rangkaian Neural dan Kes Penggunaan Fail sedia untuk digunakan telah disediakan dengan model, yang mempunyai saiz 296 GB.

Untuk melakukan ujian dengan model ini, Adalah disyorkan untuk menggunakan GPU dengan jumlah memori yang besar, walaupun jenis memori yang diperlukan tidak dinyatakan. Walaupun versi statik model tersedia secara umum, ciri tambahan sedang dibangunkan untuk chatbot Grok yang secara dinamik menyepadukan dengan kandungan baharu yang baru muncul. Penyepaduan dinamik ini dicapai melalui kerjasama dengan platform X/Twitter, yang membolehkan akses kepada pengetahuan baharu dalam masa nyata.

Jika anda berminat untuk mengetahui lebih lanjut mengenainya, anda boleh menyemak butiran dalam pautan berikut.