Jan at Pinokio: Open Source Solutions para sa Paggamit ng AI Chatbots

Kung isa ka sa aming mga regular na mambabasa at madalas na bumibisita, tiyak na alam mo na paminsan-minsan at sa loob ng ilang taon, ipinapaalam namin sa aming Community of followers ang tungkol sa ang pinakabagong mga pag-unlad sa Artificial Intelligence Technology. Na, una sa lahat, ay dahil ito ay isang lugar na pinakamahalaga, may kaugnayan at may mahusay na pampublikong pagsulong at napakalaking gamit. At pangalawa, dahil sa lugar na ito ito ay hinahawakan sa isang malaking proporsyon, open source development at ilang libreng software.

Halimbawa, ibinahagi namin kamakailan ang balita tungkol sa desisyon na ilabas ang source code na 'Grok' bilang open source, ang LLM na ginamit sa chatbot na isinama sa social network na X (Twitter). Habang sa simula ng mga taon, itinuro namin sa kanila ang tinatawag na mga tool na CLI GPT Terminal at Shell Genie upang pamahalaan ang teknolohiya ng AI Chatbot mula sa Terminal o mula sa Desktop gamit ang PyGPT, at noong nakaraang taon tungkol sa GPT4All y Buksan ang Katulong, lahat ng open source development. At sa pagpapatuloy ng aktibidad na ito sa lugar na ito, ngayon ay ipakikilala namin sa iyo ang 2 iba pang kapaki-pakinabang na open source na solusyon na nagbibigay-daan sa mga user ng libre at bukas na mga operating system na masiyahan sa iba't ibang AI Chatbots sa GNU/Linux Desktop, na ang mga pangalan ay Jan at Pinokio.

Ngunit, bago simulan ang post na ito tungkol sa 2 kapaki-pakinabang na open source na solusyon para sa AI Chatbots sa GNU/Linux Desktop na tinatawag "Jan at Pinokio", inirerekomenda naming tuklasin mo ang nakaraang nauugnay na post, sa dulo nito:

Buksan ang AI Chatbots para sa GNU/Linux: Jan at Pinokio

Jan IA: Gawing makina ang iyong computer na may teknolohiyang AI

Ayon sa opisyal na website ng open source development na ito, sinabi AI tool na tinatawag na Jan, ay inilalarawan sa sumusunod na paraan:

Si Jan ay isang self-hosted, open source na alternatibo sa OpenAI platform. Na nagbibigay-daan at ginagawang mas madali para sa sinuman na gumawa, magpatakbo at mag-adjust (paparating na) sa kanilang sariling desktop computer o server, isa sa maraming magagamit na ChatBot / LLM. At para magawa ito, nag-aalok ito ng lokal na server ng API na sumasalamin sa OpenAI, upang ang ChatBot Jan ay direktang gumana mula sa lokal na device (localhost:1337). At sa gayon, pinapayagan ang agarang pag-access sa mga kakayahan ng AI na may ganap na kontrol sa iyong data.

Bilang karagdagan, mayroon itong isang opisyal na seksyon sa loob ng platform ng GitHub kung saan idinagdag nila iyon:

Ang Jan ay isang alternatibo sa ChatGPT, ngunit open source, na tumatakbo din nang 100% nang walang koneksyon sa Internet mula sa anumang computer. At gayundin, ito ay may kakayahang tumakbo sa anumang uri ng hardware, iyon ay, mula sa mga computer sa bahay tulad ng mga workstation hanggang sa mga multi-GPU cluster. Dahil, ito ay may kakayahang magtrabaho sa mga unibersal na arkitektura: Nvidia GPUs, Apple Series M, Apple Intel, GNU/Linux (Debian) at Windows (x64). Sa wakas, pa rin kasalukuyang nasa development Samakatuwid, normal na naglalaman ito ng mga error at ang mahahalagang pagbabago ay inaasahan kaagad at madalas.

Sa aking kaso, na-download at sinubukan ko si Jan, na mayroon at walang koneksyon sa Internet, gamit ang nito pinakabagong kasalukuyang bersyon (0.4.10 mula Abril 2024, XNUMX) at gumagamit ng a Maliit na LLM na na-download (Hermes Pro 7B Q4) Ito ang naging mga resulta:

Para sa higit pang impormasyon tungkol sa Balita at Mga Tampok ng mahusay na AI Development na ito, maaari mong direktang tuklasin ang seksyon nito Palitan ang Log y online na dokumentasyon.

Pinokio: I-explore, i-install at gamitin ang AI apps mula sa iyong computer

Ayon sa opisyal na website ng open source development na ito, sinabi AI tool na tinatawag na Pinokio, ay maikling inilalarawan tulad ng sumusunod:

Ang Pinokio ay isang browser na nagbibigay-daan sa iyong awtomatikong mag-install, magpatakbo, at makontrol ang anumang application.

Gayunpaman, sa nito Opisyal na dokumentasyon Nagdaragdag sila ng mas mahahalagang detalye tulad ng sumusunod:

Ang Pinokio ay isang browser na nagbibigay-daan sa iyong i-install, patakbuhin at i-automate ang anumang application at modelo ng AI nang awtomatiko at walang kahirap-hirap. Hindi na magbubukas ng terminal, wala na «git clone», wala na «conda install», wala na «pag-install ng pip», wala nang mga problema sa mga runtime na kapaligiran. Ang lahat ng mga aktibidad na ito (mga command order) ay awtomatiko sa isang pag-click sa loob ng Pinokio. Samakatuwid, ito ay kasingdali ng paggamit ng anumang iba pang web browser.

Sa aking kaso, na-download ko mula sa opisyal na seksyon nito sa GitHub nito pinakabagong kasalukuyang bersyon (1.3.4 mula Abril 2024, XNUMX) at sinubukan ang Pinokio, na mayroon at walang koneksyon sa Internet. Higit pa rito, ang paggamit ng a Maliit na LLM na na-download (ChatBot-Ollama).

At ito ang mga screenshot ng proseso:

Buod

Sa madaling sabi, Ang "Jan at Pinokio" ay 2 bago at kapaki-pakinabang na open source na solusyon para pamahalaan ang iba't ibang AI / LLM Chatbots sa GNU/Linux Desktop. At dahil ang mga ito ay talagang madaling i-install at gamitin nang lokal nang hindi kinakailangang konektado sa Internet, sila ay bumubuo ng isang mahusay na alternatibo sa loob ng Linuxverse (Libreng Software, Open Source at GNU/Linux). Higit sa lahat, upang ganap na maisama ang paggamit ng AI Chatbots sa bawat libre at bukas na operating system na binuo o na-install.

Panghuli, tandaan bisitahin ang aming «homepage» en español. O, sa anumang iba pang wika (sa pamamagitan lamang ng pagdaragdag ng 2 titik sa dulo ng aming kasalukuyang URL, halimbawa: ar, de, en, fr, ja, pt at ru, bukod sa marami pang iba) upang matuto ng higit pang kasalukuyang nilalaman. Bukod pa rito, inaanyayahan ka naming sumali sa aming Opisyal na Telegram channel upang magbasa at magbahagi ng higit pang mga balita, gabay at tutorial mula sa aming website. At din, ang susunod Alternatibong Telegram channel upang matuto nang higit pa tungkol sa Linuxverse sa pangkalahatan.