Jan และ Pinokio: โซลูชันโอเพ่นซอร์สสำหรับการใช้ AI Chatbots

หากคุณเป็นหนึ่งในผู้อ่านขาประจำของเราและผู้เข้าชมบ่อยครั้ง คุณจะตระหนักดีว่าในบางครั้งและเป็นเวลาหลายปี เราได้แจ้งให้ชุมชนผู้ติดตามของเราทราบเกี่ยวกับ การพัฒนาล่าสุดในเทคโนโลยีปัญญาประดิษฐ์- ซึ่งประการแรกคือเนื่องจากเป็นพื้นที่ที่มีความสำคัญสูงสุด มีความเกี่ยวข้อง และมีความก้าวหน้าอย่างมากต่อสาธารณะและการใช้ประโยชน์อย่างมหาศาล และประการที่สองเพราะในพื้นที่นี้ได้รับการจัดการในสัดส่วนที่มาก การพัฒนาโอเพ่นซอร์สและซอฟต์แวร์ฟรีบางตัว.

ตัวอย่างเช่น เราเพิ่งแชร์ข่าวสารเกี่ยวกับ การตัดสินใจปล่อยซอร์สโค้ด 'Grok' เป็นโอเพ่นซอร์สLLM ที่ใช้ในแชทบอทรวมอยู่ในโซเชียลเน็ตเวิร์ก X (Twitter) ในขณะที่ช่วงต้นปี เราได้สอนพวกเขาเกี่ยวกับเครื่องมือ CLI ที่เรียกว่า GPT Terminal และเชลล์ จีนี่ เพื่อจัดการเทคโนโลยี AI Chatbot จาก Terminal หรือจาก Desktop ด้วย PyGPTและเมื่อปีที่แล้วประมาณ GPT4 ทั้งหมด y เปิด Assistant, การพัฒนาโอเพ่นซอร์สทั้งหมด และต่อยอดกิจกรรมในด้านนี้ วันนี้เราจะมาแนะนำ 2 โซลูชั่นโอเพ่นซอร์สที่มีประโยชน์อื่น ๆ ที่ให้ผู้ใช้ระบบปฏิบัติการแบบฟรีและแบบเปิดเพลิดเพลินไปกับสิ่งต่าง ๆ AI Chatbots บนเดสก์ท็อป GNU/Linux ซึ่งมีชื่อว่า Jan และ Pinokio

แต่ก่อนที่จะเริ่มโพสต์นี้เกี่ยวกับโซลูชันโอเพ่นซอร์สที่มีประโยชน์ 2 ประการสำหรับ AI Chatbots บนเดสก์ท็อป GNU/Linux ที่เรียกว่า “แจนและปิโนคิโอ”เราขอแนะนำให้คุณสำรวจ โพสต์ที่เกี่ยวข้องก่อนหน้านี้ในตอนท้ายของมัน:

เปิด AI Chatbots สำหรับ GNU/Linux: Jan และ Pinokio

ม.ค. IA: เปลี่ยนคอมพิวเตอร์ของคุณให้เป็นเครื่องจักรด้วยเทคโนโลยี AI

ตาม เว็บไซต์ทางการ ของการพัฒนาโอเพ่นซอร์สนี้กล่าว เครื่องมือ AI ชื่อ Jan, มีคำอธิบายดังนี้:

Jan เป็นทางเลือกโอเพ่นซอร์สที่โฮสต์เองแทนแพลตฟอร์ม OpenAI ซึ่งช่วยให้ทุกคนสามารถสร้าง เรียกใช้ และปรับแต่ง (เร็วๆ นี้) บนคอมพิวเตอร์เดสก์ท็อปหรือเซิร์ฟเวอร์ของตนเองได้ง่ายขึ้น ซึ่งเป็นหนึ่งใน ChatBot / LLM ที่มีอยู่มากมาย และในการทำเช่นนี้ จึงเสนอเซิร์ฟเวอร์ API ภายในที่จำลอง OpenAI เพื่อให้ ChatBot Jan สามารถทำงานได้โดยตรงจากอุปกรณ์ภายในเครื่อง (localhost:1337) และทำให้สามารถเข้าถึงความสามารถของ AI ได้ทันทีพร้อมการควบคุมข้อมูลของคุณอย่างสมบูรณ์

นอกจากนี้ยังมี ส่วนอย่างเป็นทางการภายในแพลตฟอร์ม GitHub โดยที่พวกเขาเสริมว่า:

Jan เป็นอีกทางเลือกหนึ่งของ ChatGPT แต่เป็นโอเพ่นซอร์สซึ่งทำงานได้ 100% โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ตจากคอมพิวเตอร์เครื่องใดก็ได้ และยังสามารถทำงานได้บนฮาร์ดแวร์ทุกประเภท ตั้งแต่คอมพิวเตอร์ที่บ้าน เช่น เวิร์กสเตชัน ไปจนถึงคลัสเตอร์หลาย GPU เนื่องจากสามารถทำงานกับสถาปัตยกรรมสากลได้: Nvidia GPUs, Apple Series M, Apple Intel, GNU/Linux (Debian) และ Windows (x64) สุดท้ายก็ยัง ขณะนี้อยู่ระหว่างการพัฒนา ดังนั้นจึงเป็นเรื่องปกติที่จะมีข้อผิดพลาดและคาดว่าจะมีการเปลี่ยนแปลงที่สำคัญในทันทีและบ่อยครั้ง

ในกรณีของฉัน ฉันดาวน์โหลดและทดสอบ Jan โดยใช้และไม่มีการเชื่อมต่ออินเทอร์เน็ต เวอร์ชันปัจจุบันล่าสุด (0.4.10 จากวันที่ 2024 เมษายน XNUMX) และการใช้ ดาวน์โหลด LLM ขนาดเล็ก (Hermes Pro 7B Q4) สิ่งเหล่านี้คือผลลัพธ์:

สำหรับข้อมูลเพิ่มเติมเกี่ยวกับข่าวสารและฟีเจอร์ ของการพัฒนา AI ที่ยอดเยี่ยมนี้ คุณสามารถสำรวจส่วนต่างๆ ของมันได้โดยตรง เปลี่ยนบันทึก y Documentación en línea . เอกสารประกอบ.

Pinokio: สำรวจ ติดตั้ง และใช้แอป AI จากคอมพิวเตอร์ของคุณ

ตาม เว็บไซต์ทางการ ของการพัฒนาโอเพ่นซอร์สนี้กล่าว เครื่องมือ AI ชื่อ Pinokioอธิบายโดยสังเขปดังนี้

Pinokio เป็นเบราว์เซอร์ที่ให้คุณติดตั้ง รัน และควบคุมแอปพลิเคชันใดๆ โดยอัตโนมัติโดยทางโปรแกรม

อย่างไรก็ตามใน เอกสารอย่างเป็นทางการ พวกเขาเพิ่มรายละเอียดที่สำคัญเพิ่มเติมดังนี้:

Pinokio เป็นเบราว์เซอร์ที่ช่วยให้คุณติดตั้ง เรียกใช้ และทำให้แอปพลิเคชันและโมเดล AI ใดๆ เป็นแบบอัตโนมัติได้อย่างง่ายดายและง่ายดาย ไม่ต้องเปิดเทอร์มินัลอีกต่อไป ไม่มีอีกต่อไป «git clone»ไม่มีอีกแล้ว «ติดตั้งคอนดา»ไม่มีอีกแล้ว «pip ติดตั้ง»ไม่มีปัญหากับสภาพแวดล้อมรันไทม์อีกต่อไป กิจกรรมทั้งหมดเหล่านี้ (คำสั่งคำสั่ง) เป็นแบบอัตโนมัติด้วยการคลิกเพียงครั้งเดียวภายใน Pinokio ดังนั้นจึงใช้งานง่ายเหมือนกับเว็บเบราว์เซอร์อื่นๆ

ในกรณีของฉัน ฉันได้ดาวน์โหลดจากส่วนอย่างเป็นทางการของ GitHub แล้ว เวอร์ชันปัจจุบันล่าสุด (1.3.4 จาก 2024 เมษายน XNUMX) และทดสอบ Pinokio ทั้งแบบมีและไม่มีการเชื่อมต่ออินเทอร์เน็ต นอกจากนี้ การใช้ก ดาวน์โหลด LLM ขนาดเล็ก (ChatBot-Ollama).

และนี่คือภาพหน้าจอของกระบวนการ:

ข้อมูลอย่างย่อ

ในระยะสั้น "Jan และ Pinokio" คือ 2 โซลูชันโอเพ่นซอร์สใหม่และมีประโยชน์ในการจัดการแชทบอท AI / LLM ต่างๆ บนเดสก์ท็อป GNU/Linux- และเนื่องจากติดตั้งและใช้งานภายในเครื่องได้ง่ายมากโดยไม่ต้องเชื่อมต่อกับอินเทอร์เน็ต จึงเป็นทางเลือกที่ยอดเยี่ยมภายใน Linuxverse (ซอฟต์แวร์ฟรี โอเพ่นซอร์ส และ GNU/Linux)- เหนือสิ่งอื่นใด เพื่อบูรณาการการใช้ AI Chatbots อย่างสมบูรณ์ภายในระบบปฏิบัติการแบบเปิดและฟรีแต่ละระบบที่พัฒนาหรือติดตั้ง

สุดท้ายนี้ จำไว้ เยี่ยมชมของเรา «หน้าแรก» ในภาษาสเปน. หรือในภาษาอื่นๆ (เพียงเพิ่มตัวอักษร 2 ตัวต่อท้าย URL ปัจจุบันของเรา เช่น ar, de, en, fr, ja, pt และ ru และอื่นๆ อีกมากมาย) เพื่อเรียนรู้เนื้อหาที่เป็นปัจจุบันเพิ่มเติม นอกจากนี้เรายังขอเชิญคุณเข้าร่วมกับเรา ช่องโทรเลขอย่างเป็นทางการ เพื่ออ่านและแบ่งปันข่าวสาร คำแนะนำ และบทช่วยสอนเพิ่มเติมจากเว็บไซต์ของเรา และต่อไปอีกด้วย ทางเลือกช่องทางโทรเลข เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับ Linuxverse โดยทั่วไป