Jan e Pinokio: soluções de código aberto para uso de chatbots de IA
Se é um dos nossos leitores regulares e visitantes frequentes, certamente sabe que de vez em quando e durante vários anos, mantivemos a nossa Comunidade de seguidores informada sobre os mais recentes desenvolvimentos em tecnologia de inteligência artificial. O que, antes de mais nada, é porque se trata de uma área de extrema importância, relevância e de grandes avanços públicos e massivas utilizações. E segundo, porque nesta área é tratado em grande proporção, desenvolvimentos de código aberto e alguns softwares livres.
Por exemplo, recentemente compartilhamos a notícia sobre o decisão de liberar o código-fonte 'Grok' como código aberto, o LLM utilizado no chatbot integrado à rede social X (Twitter). Enquanto no início dos anos ensinamos a eles as ferramentas CLI chamadas Terminal GPT e Shell Genie para gerenciar a tecnologia AI Chatbot do Terminal ou da Área de Trabalho com PyGPT, e no ano passado cerca de GPT4Todos y Assistente aberto, todos os desenvolvimentos de código aberto. E continuando com esta atividade nesta área, hoje apresentaremos mais 2 soluções úteis de código aberto que permitem aos usuários de sistemas operacionais gratuitos e abertos desfrutar de vários AI Chatbots no desktop GNU/Linux, cujos nomes são Jan e Pinokio.
GPT4All: Software de código aberto AI Chatbot Ecosystem
Mas, antes de começar este post sobre essas 2 soluções úteis de código aberto para AI Chatbots no GNU/Linux Desktop chamadas «Jan e Pinóquio», recomendamos que você explore o postagem relacionada anterior, ao final:
Chatbots de IA abertos para GNU/Linux: Jan e Pinokio
Jan IA: Transforme seu computador em uma máquina com tecnologia de IA
Conforme Site oficial deste desenvolvimento de código aberto, disse Ferramenta de IA chamada Jan, é descrito da seguinte maneira:
Jan é uma alternativa auto-hospedada e de código aberto à plataforma OpenAI. O que permite e facilita a qualquer pessoa criar, executar e ajustar (em breve) em seu próprio computador desktop ou servidor, um dos muitos ChatBot/LLM disponíveis. E para isso, oferece um servidor API local que espelha o do OpenAI, para que o ChatBot Jan possa operar diretamente do dispositivo local (localhost:1337). E assim, permitindo acesso imediato aos recursos de IA com controle total sobre seus dados.
Além disso, tem um seção oficial dentro da plataforma GitHub onde eles acrescentam isso:
Jan é uma alternativa ao ChatGPT, mas de código aberto, que também funciona 100% sem conexão com a Internet de qualquer computador. E também é capaz de rodar em qualquer tipo de hardware, ou seja, desde computadores domésticos como estações de trabalho até clusters multi-GPU. Desde então, é capaz de funcionar em arquiteturas universais: GPUs Nvidia, Apple Series M, Apple Intel, GNU/Linux (Debian) e Windows (x64). Finalmente, ainda está atualmente em desenvolvimento Portanto, é normal que contenha erros e mudanças importantes sejam esperadas com rapidez e frequência.
No meu caso, baixei e testei o Jan, com e sem conexão à Internet, usando seu última versão atual (0.4.10 de 2024º de abril de XNUMX) e usando um Pequeno LLM baixado (Hermes Pro 7B Q4) Estes foram os resultados:
Para mais informações sobre notícias e recursos deste grande desenvolvimento de IA, você pode explorar diretamente sua seção Registro de Cambios y Documentação em linha.
Pinokio: explore, instale e use aplicativos de IA em seu computador
Conforme Site oficial deste desenvolvimento de código aberto, disse Ferramenta de IA chamada Pinokio, é brevemente descrito a seguir:
Pinokio é um navegador que permite instalar, executar e controlar programaticamente qualquer aplicativo, automaticamente.
Porém, em seu Documentação oficial Eles adicionam detalhes mais importantes como segue:
Pinokio é um navegador que permite instalar, executar e automatizar qualquer aplicativo e modelo de IA de forma automática e sem esforço. Chega de abrir o terminal, chega «clone git», não mais «conda instalar», não mais «instalação de pip», não há mais problemas com ambientes de tempo de execução. Todas essas atividades (ordens de comando) são automatizadas com um único clique no Pinokio. Portanto, é tão fácil de usar quanto qualquer outro navegador.
No meu caso, baixei de sua seção oficial no GitHub seu última versão atual (1.3.4 de 2024 de abril de XNUMX) e Pinokio testado, com e sem conexão à Internet. Além disso, usando um Pequeno LLM baixado (ChatBot-Ollama).
E estas foram as capturas de tela do processo:
Resumo
Em resumo, "Jan e Pinokio" são 2 soluções de código aberto novas e úteis para gerenciar vários chatbots AI / LLM no desktop GNU/Linux. E por serem muito fáceis de instalar e usar localmente sem a necessidade de conexão à Internet, constituem uma excelente alternativa dentro do Linuxverse (Software Livre, Código Aberto e GNU/Linux). Acima de tudo, integrar totalmente o uso de AI Chatbots em cada sistema operacional gratuito e aberto desenvolvido ou instalado.
Por último, lembre-se visite nosso «página inicial» em Espanhol. Ou, em qualquer outro idioma (apenas adicionando 2 letras ao final da nossa URL atual, por exemplo: ar, de, en, fr, ja, pt e ru, entre muitos outros) para aprender conteúdos mais atuais. Além disso, convidamos você a se juntar ao nosso Canal oficial do Telegram para ler e compartilhar mais notícias, guias e tutoriais de nosso site. E também, o próximo Canal alternativo do Telegram para saber mais sobre o Linuxverse em geral.