Jan과 Pinokio: AI 챗봇 사용을 위한 오픈 소스 솔루션

귀하가 당사의 단골 독자이자 자주 방문하는 사람 중 한 명이라면 당사가 때때로 몇 년 동안 당사의 팔로어 커뮤니티에 인공 지능 기술의 최신 개발. 우선, 이는 가장 중요하고 관련성이 높으며 대중의 발전과 대규모 사용이 가능한 영역이기 때문입니다. 그리고 둘째, 이 분야에서는 많은 비중을 차지하기 때문에, 오픈 소스 개발 및 일부 무료 소프트웨어.

예를 들어, 우리는 최근에 다음과 같은 소식을 공유했습니다. 'Grok' 소스코드를 오픈소스로 공개하기로 결정, 챗봇에 사용되는 LLM은 소셜 네트워크 X(트위터)에 통합되었습니다. 연초에 우리는 그들에게 다음과 같은 CLI 도구를 가르쳤습니다. GPT 터미널 및 Shell Genie 터미널이나 데스크탑에서 AI Chatbot 기술을 관리하려면 PyGPT, 그리고 작년에 약 GPT4올 y 어시스턴트 열기, 모든 오픈 소스 개발. 그리고 이 분야의 활동을 계속하면서 오늘은 자유롭고 개방적인 운영 체제 사용자가 다양한 기능을 즐길 수 있게 해주는 다른 유용한 오픈 소스 솔루션 2개를 소개하겠습니다. 이름이 Jan과 Pinokio인 GNU/Linux 데스크톱의 AI Chatbot입니다.

그러나 GNU/Linux 데스크톱의 AI Chatbot을 위한 2가지 유용한 오픈 소스 솔루션에 대한 이 게시물을 시작하기 전에 «얀과 피노키오», 다음을 탐색하는 것이 좋습니다. 이전 관련 게시물, 끝에서:

GNU/Linux용 개방형 AI 챗봇: Jan 및 Pinokio

Jan IA: AI 기술을 통해 컴퓨터를 기계로 바꿔보세요

에 따르면 공식 웹 사이트 이 오픈 소스 개발에 대해 다음과 같이 말했습니다. Jan이라는 AI 도구, 다음과 같이 설명됩니다.

Jan은 OpenAI 플랫폼에 대한 자체 호스팅 오픈 소스 대안입니다. 이는 사용 가능한 많은 ChatBot/LLM 중 하나인 자신의 데스크톱 컴퓨터나 서버에서 누구나 쉽게 생성, 실행 및 조정(곧 제공 예정)을 허용하고 가능하게 합니다. 그리고 이를 위해 OpenAI의 API 서버를 미러링하는 로컬 API 서버를 제공하여 ChatBot Jan이 로컬 장치(localhost:1337)에서 직접 작동할 수 있도록 합니다. 따라서 데이터를 완벽하게 제어하면서 AI 기능에 즉시 액세스할 수 있습니다.

또한 GitHub 플랫폼 내의 공식 섹션 그들은 다음과 같이 덧붙였습니다.

Jan은 ChatGPT의 대안이지만 오픈 소스이며 컴퓨터의 인터넷 연결 없이도 100% 실행됩니다. 또한 워크스테이션과 같은 가정용 컴퓨터부터 다중 GPU 클러스터까지 모든 유형의 하드웨어에서 실행할 수 있습니다. 이후 Nvidia GPU, Apple Series M, Apple Intel, GNU/Linux(Debian) 및 Windows(x64)와 같은 범용 아키텍처에서 작업할 수 있습니다. 마지막으로 아직은 현재 개발 중입니다 따라서 오류가 포함되어 있는 것이 정상이며 중요한 변경 사항이 신속하고 자주 발생할 것으로 예상됩니다.

내 경우에는 인터넷 연결 유무에 관계없이 Jan을 다운로드하고 테스트했습니다. 최신 최신 버전 (0.4.10년 2024월 XNUMX일부터 XNUMX) 및 소규모 LLM 다운로드 (Hermes Pro 7B Q4) 결과는 다음과 같습니다.

뉴스 및 기능에 대한 자세한 내용은 이 훌륭한 AI 개발 중 해당 섹션을 직접 탐색할 수 있습니다. 변경 로그 y 문서 작성.

Pinokio: 컴퓨터에서 AI 앱 탐색, 설치 및 사용

에 따르면 공식 웹 사이트 이 오픈 소스 개발에 대해 다음과 같이 말했습니다. 피노키오(Pinokio)라는 AI 도구, 간단히 설명하면 다음과 같습니다.

Pinokio는 프로그래밍 방식으로 모든 애플리케이션을 자동으로 설치, 실행 및 제어할 수 있는 브라우저입니다.

그러나 공식 문서 다음과 같이 더 중요한 세부 정보를 추가합니다.

Pinokio는 모든 애플리케이션과 AI 모델을 자동으로 쉽게 설치, 실행 및 자동화할 수 있는 브라우저입니다. 더 이상 터미널을 열 필요가 없습니다. «자식 복제», 더 이상은 없어 «conda install», 더 이상은 없어 «핍 설치», 런타임 환경에 더 이상 문제가 없습니다. 이러한 모든 활동(명령 명령)은 피노키오 내에서 한 번의 클릭으로 자동화됩니다. 따라서 다른 웹 브라우저만큼 사용하기 쉽습니다.

내 경우에는 GitHub의 공식 섹션에서 다운로드했습니다. 최신 최신 버전 (1.3.4년 2024월 XNUMX일부터 XNUMX) 인터넷 연결 유무에 관계없이 Pinokio를 테스트했습니다. 게다가, 소규모 LLM 다운로드(ChatBot-Ollama).

다음은 프로세스의 스크린샷입니다.

개요

요약하면, "Jan and Pinokio"는 GNU/Linux 데스크톱에서 다양한 AI/LLM 챗봇을 관리하는 2개의 새롭고 유용한 오픈 소스 솔루션입니다.. 그리고 인터넷에 연결하지 않고도 로컬로 설치하고 사용하기가 정말 쉽기 때문에 Linuxverse 내에서 훌륭한 대안이 됩니다(자유 소프트웨어, 오픈 소스 및 GNU/Linux). 무엇보다도 개발되거나 설치된 각 무료 개방형 운영 체제 내에서 AI 챗봇의 사용을 완전히 통합하는 것입니다.

마지막으로, 기억하십시오 우리를 방문 «홈페이지» 스페인어. 또는 다른 언어로(현재 URL 끝에 문자 2개만 추가하면 됩니다. 예: ar, de, en, fr, ja, pt 및 ru 등) 더 많은 최신 콘텐츠를 찾아보세요. 또한, 우리는 귀하를 우리의 회원으로 초대합니다. 공식 텔레그램 채널 당사 웹사이트에서 더 많은 뉴스, 가이드 및 튜토리얼을 읽고 공유하려면 그리고 또한 다음에는 대체 전보 채널 Linuxverse에 대한 전반적인 내용을 자세히 알아보세요.