xAI, tôi phát hành mã nguồn của Grok LLM được sử dụng trong chatbot X  

cảm nhận

Grok, chatbot AI của Twitter/X, hiện là nguồn mở

XAI (một công ty do Elon Musk đồng sáng lập, được hỗ trợ khoảng một tỷ đô la để phát triển các công nghệ liên quan đến trí tuệ nhân tạo), gần đây đã đưa ra tin tức về quyết định phát hành mã nguồn Grok LLM của họ được sử dụng trong chatbot được tích hợp vào mạng xã hội X (Twitter).

Cảm nhận đã được đào tạo trước bằng cách sử dụng một bộ sưu tập dữ liệu phong phú văn bản bằng cách sử dụng ngăn xếp học tập độc quyền của xAI. Nó có khoảng 314 tỷ tham số, khiến nó trở thành mô hình ngôn ngữ mở lớn nhất hiện có.

Grok hiện là nguồn mở

Gần đây Eleon Musk thông báo rằng Grok sẽ trở thành nguồn mở, điều này đã xảy ra. Điều này có nghĩa là các nhà phát triển trên khắp thế giới có thể quan sát hoạt động bên trong của Grok và sử dụng nó để hỗ trợ các mô hình AI của riêng họ.

Hệ thống chatbot trí tuệ nhân tạo Grok do công ty xAI của Elon Musk phát triển, đã được phát hành cho người dùng Mỹ trên nền tảng truyền thông xã hội X vào tháng 12. Grok được thiết kế để cạnh tranh với các hệ thống trí tuệ nhân tạo chính trên thị trường, chẳng hạn như hệ thống của Google và đặc biệt là OpenAI. Điều khiến Grok khác biệt so với các đối thủ cạnh tranh là khả năng kết hợp giọng điệu hài hước và châm biếm, lấy cảm hứng từ những chiếc máy tính thông minh nhân tạo trong cuốn sách Hitchhiker's Guide to the Galaxy nổi tiếng.

Phiên bản mở của mô hình Grok-1 được phát hành ở dạng cơ bản và không bao gồm các tối ưu hóa cụ thể cho một số lĩnh vực sử dụng nhất định, chẳng hạn như tổ chức các hệ thống đối thoại. Mô hình này Nó có khoảng 314 tỷ thông số và đã được xAI đào tạo từ đầu sử dụng ngăn xếp đào tạo tùy chỉnh dựa trên JAX và Rust. xAI đã nói rõ rằng họ đang phát hành trọng lượng và kiến ​​trúc mô hình theo giấy phép Apache 2.0, cho phép sử dụng cho mục đích thương mại. Tuy nhiên, điều quan trọng cần lưu ý là phiên bản này không bao gồm dữ liệu được sử dụng để huấn luyện mô hình ngôn ngữ AI lớn cũng như không cung cấp quyền truy cập vào dữ liệu thời gian thực.

Cách tiếp cận nguồn mở của Grok có thể làm nổi bật những điểm yếu của nó, nhưng Musk là người ủng hộ nguồn mở và từng là nhà đầu tư vào OpenAI. Mặc dù vậy, anh ấy hiện đang kiện OpenAI gây tranh cãi, cho rằng công ty đã đi chệch khỏi các nguyên tắc sáng lập về tính cởi mở để theo đuổi lợi nhuận. Các luật sư của Musk thậm chí còn gợi ý rằng OpenAI đang giữ bí mật các phần của hệ thống AI GPT-4 với thị trường.

Musk đã bày tỏ quan điểm của mình về tầm quan trọng của tính minh bạch và việc tìm kiếm sự thật trong trí tuệ nhân tạo. Bạn đã đề cập rằng mặc dù vẫn còn nhiều việc phải làm nhưng nền tảng X của bạn là minh bạch nhất và tìm kiếm sự thật. Ngoài ra, ông còn chỉ trích những nỗ lực nhằm làm cho AI trở nên đa dạng bằng mọi giá, trích dẫn các vấn đề đạo đức gần đây trên các nền tảng khác.

Quyền truy cập mở vào Grok là một nỗ lực của Musk nhằm chứng minh sự thiếu thiên vị trong hệ thống và dân chủ hóa quyền truy cập vào trí tuệ nhân tạo. Giờ đây, các nhà phát triển có thể tận dụng mã Grok để tạo ra các ứng dụng và dịch vụ AI theo cách dễ tiếp cận và minh bạch hơn.

Cuối cùng, Điều đáng nói là mã Các trường hợp sử dụng và kiến ​​trúc mạng thần kinh Một tệp sẵn sàng để sử dụng đã được cung cấp cùng với mô hình, có kích thước 296 GB.

Để thực hiện các thử nghiệm với mô hình này, Nên sử dụng GPU có dung lượng bộ nhớ lớn, mặc dù loại bộ nhớ cần thiết không được chỉ định. Mặc dù phiên bản tĩnh của mô hình được cung cấp công khai nhưng một tính năng bổ sung đang được phát triển cho chatbot Grok để tích hợp động với nội dung mới mới nổi. Sự tích hợp năng động này đạt được thông qua sự cộng tác với nền tảng X/Twitter, cho phép truy cập kiến ​​thức mới trong thời gian thực.

Nếu bạn muốn biết thêm về nó, bạn có thể kiểm tra chi tiết trong liên kết theo dõi.