Jan và Pinokio: Giải pháp nguồn mở để sử dụng Chatbots AI

Nếu bạn là một trong những độc giả thường xuyên và khách truy cập thường xuyên của chúng tôi, bạn chắc chắn biết rằng thỉnh thoảng và trong vài năm, chúng tôi đã thông báo cho Cộng đồng những người theo dõi của mình về những phát triển mới nhất về Công nghệ trí tuệ nhân tạo. Trước hết, đó là vì đây là một lĩnh vực cực kỳ quan trọng, phù hợp và có những tiến bộ công cộng to lớn cũng như mức sử dụng rộng rãi. Và thứ hai, vì trong lĩnh vực này nó được xử lý với tỷ lệ lớn, sự phát triển nguồn mở và một số phần mềm miễn phí.

Ví dụ: gần đây chúng tôi đã chia sẻ tin tức về quyết định phát hành mã nguồn 'Grok' dưới dạng nguồn mở, LLM được sử dụng trong chatbot tích hợp vào mạng xã hội X (Twitter). Vào đầu năm, chúng tôi đã dạy họ các công cụ CLI có tên là Thiết bị đầu cuối GPT và Shell Genie quản lý công nghệ AI Chatbot từ Terminal hoặc từ Desktop với PyGPT, và năm ngoái khoảng GPT4Tất cả y Mở Trợ lý, tất cả sự phát triển nguồn mở. Và tiếp tục hoạt động này trong lĩnh vực này, hôm nay chúng tôi sẽ giới thiệu cho bạn 2 giải pháp nguồn mở hữu ích khác cho phép người dùng hệ điều hành mở và miễn phí tận hưởng nhiều tính năng khác nhau. Chatbot AI trên Máy tính để bàn GNU/Linux, có tên là Jan và Pinokio.

Tuy nhiên, trước khi bắt đầu bài đăng này về 2 giải pháp nguồn mở hữu ích dành cho AI Chatbots trên Máy tính để bàn GNU/Linux có tên là «Jan và Pinokio», chúng tôi khuyên bạn nên khám phá bài liên quan trước, ở cuối của nó:

Mở Chatbots AI cho GNU/Linux: Jan và Pinokio

Jan IA: Biến máy tính của bạn thành cỗ máy có công nghệ AI

Theo trang web chính thức về sự phát triển nguồn mở này, cho biết Công cụ AI mang tên Jan, được mô tả như sau:

Jan là một giải pháp thay thế nguồn mở, tự lưu trữ cho nền tảng OpenAI. Điều này cho phép và giúp mọi người dễ dàng tạo, chạy và điều chỉnh (sắp có) trên máy tính để bàn hoặc máy chủ của riêng họ, một trong nhiều ChatBot / LLM có sẵn. Và để làm điều này, nó cung cấp một máy chủ API cục bộ phản chiếu OpenAI, để ChatBot Jan có thể hoạt động trực tiếp từ thiết bị cục bộ (localhost:1337). Và do đó, cho phép truy cập ngay vào các khả năng AI với toàn quyền kiểm soát dữ liệu của bạn.

Ngoài ra, nó có một phần chính thức trong nền tảng GitHub nơi họ thêm vào đó:

Jan là một giải pháp thay thế cho ChatGPT nhưng là nguồn mở, cũng chạy 100% mà không cần kết nối Internet từ bất kỳ máy tính nào. Ngoài ra, nó có khả năng chạy trên bất kỳ loại phần cứng nào, tức là từ máy tính gia đình như máy trạm đến cụm nhiều GPU. Vì nó có khả năng hoạt động trên các kiến ​​trúc phổ quát: GPU Nvidia, Apple Series M, Apple Intel, GNU/Linux (Debian) và Windows (x64). Cuối cùng vẫn hiện đang được phát triển Vì vậy, việc nó có sai sót và những thay đổi quan trọng được mong đợi một cách kịp thời và thường xuyên là điều bình thường.

Trong trường hợp của tôi, tôi đã tải xuống và kiểm tra Jan, có và không có kết nối Internet, bằng cách sử dụng nó phiên bản mới nhất hiện nay (0.4.10 từ ngày 2024 tháng XNUMX năm XNUMX) và sử dụng Đã tải xuống LLM nhỏ (Hermes Pro 7B Q4) Đây là những kết quả:

Để biết thêm thông tin về Tin tức và Tính năng về sự phát triển AI tuyệt vời này, bạn có thể trực tiếp khám phá phần của nó Thay đổi nhật ký y tài liệu trực tuyến.

Pinokio: Khám phá, cài đặt và sử dụng ứng dụng AI từ máy tính

Theo trang web chính thức về sự phát triển nguồn mở này, cho biết Công cụ AI mang tên Pinokio, được mô tả ngắn gọn như sau:

Pinokio là một trình duyệt cho phép bạn cài đặt, chạy và điều khiển bất kỳ ứng dụng nào theo chương trình một cách tự động.

Tuy nhiên, trong nó Tài liệu chính thức Họ thêm nhiều chi tiết quan trọng hơn như sau:

Pinokio là trình duyệt cho phép bạn cài đặt, chạy và tự động hóa mọi ứng dụng và mô hình AI một cách tự động và dễ dàng. Không cần mở terminal nữa, không còn nữa «git clone», không còn nữa «cài đặt conda», không còn nữa «cài đặt pip», không còn vấn đề gì với môi trường thời gian chạy. Tất cả các hoạt động này (lệnh lệnh) đều được tự động hóa chỉ bằng một cú nhấp chuột trong Pinokio. Vì vậy, nó dễ sử dụng như bất kỳ trình duyệt web nào khác.

Trong trường hợp của tôi, tôi đã tải xuống từ phần chính thức của nó trên GitHub. phiên bản mới nhất hiện nay (1.3.4 từ ngày 2024 tháng XNUMX năm XNUMX) và thử nghiệm Pinokio, có và không có kết nối Internet. Hơn nữa, việc sử dụng một Đã tải xuống LLM nhỏ (ChatBot-Ollama).

Và đây là những ảnh chụp màn hình của quá trình:

tóm lại

Tóm lại "Jan và Pinokio" là 2 giải pháp nguồn mở mới và hữu ích để quản lý các Chatbot AI / LLM khác nhau trên Máy tính để bàn GNU/Linux. Và vì chúng thực sự dễ cài đặt và sử dụng cục bộ mà không cần phải kết nối với Internet nên chúng tạo thành một sự thay thế tuyệt vời trong Linuxverse (Phần mềm Tự do, Mã nguồn Mở và GNU/Linux). Trên hết là tích hợp đầy đủ việc sử dụng AI Chatbots trong mỗi hệ điều hành mở và miễn phí được phát triển hoặc cài đặt.

Cuối cùng, hãy nhớ thăm của chúng tôi «trang chủ» ở Tây Ban Nha. Hoặc, bằng bất kỳ ngôn ngữ nào khác (chỉ bằng cách thêm 2 chữ cái vào cuối URL hiện tại của chúng tôi, ví dụ: ar, de, en, fr, ja, pt và ru, cùng nhiều ngôn ngữ khác) để tìm hiểu thêm nội dung hiện tại. Ngoài ra, chúng tôi mời bạn tham gia cùng chúng tôi Kênh Telegram chính thức để đọc và chia sẻ thêm tin tức, hướng dẫn và hướng dẫn từ trang web của chúng tôi. Và tiếp theo nữa Kênh Telegram thay thế để tìm hiểu thêm về Linuxverse nói chung.