Jan dan Pinokio: Solusi Sumber Terbuka untuk Menggunakan AI Chatbots

Jika Anda adalah salah satu pembaca tetap kami dan sering berkunjung, Anda pasti menyadari bahwa dari waktu ke waktu dan selama beberapa tahun, kami terus memberi informasi kepada Komunitas pengikut kami tentang perkembangan terkini dalam Teknologi Kecerdasan Buatan. Pertama-tama, karena ini adalah bidang yang paling penting, relevan, dan memiliki kemajuan publik yang besar serta kegunaan yang masif. Dan kedua, karena di wilayah ini ditangani secara besar-besaran, pengembangan sumber terbuka dan beberapa perangkat lunak gratis.

Misalnya, baru-baru ini kami membagikan berita tentang keputusan untuk merilis kode sumber 'Grok' sebagai open source, LLM yang digunakan dalam chatbot diintegrasikan ke dalam jejaring sosial X (Twitter). Saat di awal tahun, kami mengajari mereka alat CLI yang disebut Terminal GPT dan Shell Genie untuk mengelola teknologi AI Chatbot dari Terminal atau dari Desktop dengan PyGPT, dan tahun lalu sekitar GPT4Semua y Buka Asisten, semua pengembangan sumber terbuka. Dan melanjutkan aktivitas di bidang ini, hari ini kami akan memperkenalkan Anda kepada 2 solusi sumber terbuka berguna lainnya yang memungkinkan pengguna sistem operasi bebas dan terbuka menikmati berbagai AI Chatbots di Desktop GNU/Linux, bernama Jan dan Pinokio.

Namun, sebelum memulai postingan ini tentang 2 solusi open source yang berguna untuk AI Chatbots di Desktop GNU/Linux yang disebut «Jan dan Pinokio», kami sarankan Anda menjelajahi posting terkait sebelumnya, pada akhirnya:

Buka AI Chatbots untuk GNU/Linux: Jan dan Pinokio

Jan IA: Ubah komputer Anda menjadi mesin dengan teknologi AI

Menurut situs web resmi pengembangan open source ini, kata Alat AI bernama Jan, dijelaskan sebagai berikut:

Jan adalah alternatif sumber terbuka yang dihosting sendiri untuk platform OpenAI. Yang memungkinkan dan memudahkan siapa pun untuk membuat, menjalankan, dan menyesuaikan (segera hadir) di komputer desktop atau server mereka sendiri, salah satu dari banyak ChatBot / LLM yang tersedia. Dan untuk melakukan hal ini, ia menawarkan server API lokal yang mencerminkan OpenAI, sehingga ChatBot Jan dapat beroperasi langsung dari perangkat lokal (localhost:1337). Dengan demikian, memungkinkan akses langsung ke kemampuan AI dengan kontrol penuh atas data Anda.

Selain itu, ia memiliki a bagian resmi dalam platform GitHub di mana mereka menambahkan itu:

Jan adalah alternatif dari ChatGPT, tetapi open source, yang juga berjalan 100% tanpa koneksi Internet dari komputer mana pun. Dan juga, ia mampu berjalan pada semua jenis perangkat keras, mulai dari komputer rumah seperti workstation hingga cluster multi-GPU. Karena, ia mampu bekerja pada arsitektur universal: GPU Nvidia, Apple Series M, Apple Intel, GNU/Linux (Debian) dan Windows (x64). Akhirnya, tetap saja saat ini sedang dalam pengembangan Oleh karena itu, wajar jika terdapat kesalahan dan perubahan penting diharapkan segera dan sering.

Dalam kasus saya, saya mengunduh dan menguji Jan, dengan dan tanpa koneksi Internet, menggunakan versi terbaru saat ini (0.4.10 mulai 2024 April XNUMX) dan menggunakan a LLM kecil diunduh (Hermes Pro 7B Q4) Inilah hasilnya:

Untuk informasi lebih lanjut tentang Berita dan Fitur dari Pengembangan AI yang hebat ini, Anda dapat langsung menjelajahi bagiannya Ubah Log y dokumentasi daring.

Pinokio: Jelajahi, instal, dan gunakan aplikasi AI dari komputer Anda

Menurut situs web resmi pengembangan open source ini, kata Alat AI disebut Pinokio, dijelaskan secara singkat sebagai berikut:

Pinokio adalah browser yang memungkinkan Anda menginstal, menjalankan, dan mengontrol aplikasi apa pun secara terprogram, secara otomatis.

Namun, di dalamnya Dokumentasi resmi Mereka menambahkan rincian yang lebih penting sebagai berikut:

Pinokio adalah browser yang memungkinkan Anda menginstal, menjalankan, dan mengotomatiskan aplikasi dan model AI apa pun secara otomatis dan mudah. Tidak perlu lagi membuka terminal, tidak lagi «kloning git», tidak lagi «instalasi conda», tidak lagi «pemasangan pip», tidak ada lagi masalah dengan lingkungan runtime. Semua aktivitas ini (perintah perintah) diotomatisasi dengan satu klik di dalam Pinokio. Oleh karena itu, penggunaannya mudah seperti browser web lainnya.

Dalam kasus saya, saya telah mengunduh dari bagian resminya di GitHub versi terbaru saat ini (1.3.4 mulai 2024 April XNUMX) dan menguji Pinokio, dengan dan tanpa koneksi Internet. Selanjutnya menggunakan a LLM kecil diunduh (ChatBot-Ollama).

Dan ini adalah screenshot prosesnya:

ringkasan

Singkatnya, "Jan dan Pinokio" adalah 2 solusi open source baru dan berguna untuk mengelola berbagai Chatbot AI / LLM di Desktop GNU/Linux. Dan karena mereka sangat mudah untuk diinstal dan digunakan secara lokal tanpa harus terhubung ke Internet, mereka merupakan alternatif yang sangat baik di Linuxverse (Perangkat Lunak Bebas, Sumber Terbuka dan GNU/Linux). Yang terpenting, untuk sepenuhnya mengintegrasikan penggunaan AI Chatbots dalam setiap sistem operasi bebas dan terbuka yang dikembangkan atau diinstal.

Terakhir, ingat Kunjungi kami «beranda» dalam bahasa Spanyol. Atau, dalam bahasa lain (hanya dengan menambahkan 2 huruf di akhir URL kami saat ini, misalnya: ar, de, en, fr, ja, pt dan ru, di antara banyak lainnya) untuk mempelajari lebih banyak konten terkini. Selain itu, kami mengundang Anda untuk bergabung dengan kami Saluran Telegram resmi untuk membaca dan berbagi lebih banyak berita, panduan, dan tutorial dari situs web kami. Dan juga, selanjutnya Saluran Telegram alternatif untuk mempelajari lebih lanjut tentang Linuxverse secara umum.