Jan a Pinokio: Open Source riešenia pre používanie AI Chatbotov

Ak patríte medzi našich pravidelných čitateľov a častých návštevníkov, určite viete, že z času na čas a už niekoľko rokov informujeme našu Komunitu sledovateľov o najnovší vývoj v technológii umelej inteligencie. Čo je v prvom rade preto, že ide o oblasť najvyššej dôležitosti, relevantnosti a veľkého verejného pokroku a masívneho využitia. A po druhé, pretože v tejto oblasti sa to rieši vo veľkej miere, open source vývoj a nejaký slobodný softvér.

Nedávno sme napríklad zdieľali správy o rozhodnutie uvoľniť zdrojový kód 'Grok' ako open source, LLM použitý v chatbote integrovanom do sociálnej siete X (Twitter). Kým na začiatku rokov sme ich učili nástroje CLI tzv GPT terminál a Shell Genie na správu technológie AI Chatbot z terminálu alebo z pracovnej plochy PyGPT, a minulý rok o GPT4All y Otvorte Asistenta, všetok open source vývoj. A pokračujeme v tejto aktivite v tejto oblasti, dnes vám predstavíme 2 ďalšie užitočné open source riešenia, ktoré umožňujú používateľom bezplatných a otvorených operačných systémov využívať rôzne AI Chatbots na ploche GNU/Linux, ktorých mená sú Jan a Pinokio.

Pred začatím tohto príspevku o týchto 2 užitočných riešeniach s otvoreným zdrojom pre chatbotov AI na ploche GNU/Linux s názvom "Jan a Pinokio", odporúčame vám preskúmať predchádzajúci súvisiaci príspevok, na jeho konci:

Otvorené chatboty AI pre GNU/Linux: Jan a Pinokio

Jan IA: Premeňte svoj počítač na stroj s technológiou AI

Podľa oficiálna webová stránka tohto open source vývoja, povedal Nástroj AI s názvom Jan, je opísaná takto:

Jan je samostatne hosťovaná, open source alternatíva k platforme OpenAI. Čo umožňuje a uľahčuje komukoľvek vytvárať, spúšťať a upravovať (čoskoro) na vlastnom stolnom počítači alebo serveri, jeden z mnohých dostupných ChatBot / LLM. A na tento účel ponúka lokálny server API, ktorý odzrkadľuje server OpenAI, takže ChatBot Jan môže pracovať priamo z lokálneho zariadenia (localhost:1337). A tým umožňuje okamžitý prístup k schopnostiam AI s plnou kontrolou nad vašimi údajmi.

Okrem toho má a oficiálna sekcia v rámci platformy GitHub kde dodávajú, že:

Jan je alternatívou k ChatGPT, ale open source, ktorý tiež beží 100% bez internetového pripojenia z akéhokoľvek počítača. A tiež je schopný bežať na akomkoľvek type hardvéru, to znamená od domácich počítačov, ako sú pracovné stanice, až po klastre s viacerými GPU. Pretože je schopný pracovať na univerzálnych architektúrach: GPU Nvidia, Apple Series M, Apple Intel, GNU/Linux (Debian) a Windows (x64). Nakoniec stále je momentálne vo vývoji Preto je normálne, že obsahuje chyby a dôležité zmeny sa očakávajú rýchlo a často.

V mojom prípade som si stiahol a otestoval Jan s pripojením na internet aj bez neho najnovšia aktuálna verzia (0.4.10 od 2024. apríla XNUMX) a pomocou a Stiahnuté malé LLM (Hermes Pro 7B Q4) Toto boli výsledky:

Ďalšie informácie o novinkách a funkciách tohto skvelého vývoja AI môžete priamo preskúmať jeho sekciu Zmeniť denník y Documentación en linea.

Pinokio: Preskúmajte, nainštalujte a používajte aplikácie AI zo svojho počítača

Podľa oficiálna webová stránka tohto open source vývoja, povedal Nástroj AI s názvom Pinokio, je stručne opísaná takto:

Pinokio je prehliadač, ktorý vám umožňuje programovo inštalovať, spúšťať a ovládať akúkoľvek aplikáciu automaticky.

Avšak vo svojom Úradná dokumentácia Pridávajú ďalšie dôležité podrobnosti takto:

Pinokio je prehliadač, ktorý vám umožňuje inštalovať, spúšťať a automatizovať akúkoľvek aplikáciu a model AI automaticky a bez námahy. Už žiadne otváranie terminálu, nič viac «git klon», nikdy viac «conda nainštalovať», nikdy viac «pip nainštalovať», už žiadne problémy s runtime prostrediami. Všetky tieto činnosti (príkazové príkazy) sú v Pinokio automatizované jediným kliknutím. Preto sa používa rovnako ľahko ako ktorýkoľvek iný webový prehliadač.

V mojom prípade som si stiahol z jeho oficiálnej sekcie na GitHub najnovšia aktuálna verzia (1.3.4 od 2024. apríla XNUMX) a testovali Pinokio, s internetovým pripojením aj bez neho. Okrem toho pomocou a Stiahnuté malé LLM (ChatBot-Ollama).

A toto sú snímky obrazovky procesu:

Zhrnutie

Stručne povedané, „Jan a Pinokio“ sú 2 nové a užitočné open source riešenia na správu rôznych chatbotov AI / LLM na pracovnej ploche GNU/Linux. A keďže sa skutočne ľahko inštalujú a používajú lokálne bez nutnosti pripojenia k internetu, predstavujú vynikajúcu alternatívu v rámci Linuxverse (Slobodný softvér, Open Source a GNU/Linux). Predovšetkým plne integrovať používanie AI Chatbotov v rámci každého vyvinutého alebo nainštalovaného bezplatného a otvoreného operačného systému.

Nakoniec, pamätajte navštívte našu «home page» v španielčine. Alebo v akomkoľvek inom jazyku (iba pridaním 2 písmen na koniec našej aktuálnej adresy URL, napríklad: ar, de, en, fr, ja, pt a ru, medzi mnohými inými), aby ste sa dozvedeli viac aktuálneho obsahu. Okrem toho vás pozývame, aby ste sa k nám pridali Oficiálny telegramový kanál na čítanie a zdieľanie ďalších noviniek, sprievodcov a tutoriálov z našej webovej stránky. A tiež, ďalšie Alternatívny telegramový kanál sa dozviete viac o Linuxverse vo všeobecnosti.