xAI, uvolňuji zdrojový kód Groka LLM používaného v X chatbotu  

grok

Grok, AI chatbot Twitter/X, je nyní open source

xAI (společnost spoluzaložená Elonem Muskem, podpořená zhruba miliardou dolarů na vývoj technologií souvisejících s umělou inteligencí), nedávno zveřejnila zprávu o svém rozhodnutí vydat zdrojový kód Grok jejich LLM, který se používá v chatbotu integrovaném do sociální sítě X (Twitter).

Grok byla předem vyškolena pomocí rozsáhlého souboru dat textu pomocí proprietárního zásobníku učení xAI. Má přibližně 314 miliard parametrů, což z něj dělá největší aktuálně dostupný model otevřeného jazyka.

Grok je nyní open source

Nedávno Eleon Musk oznámil, že Grok se stane open source, což se již stalo. To znamená, že vývojáři z celého světa mohou pozorovat vnitřní fungování Groku a používat jej k napájení svých vlastních modelů umělé inteligence.

Chatbot systém s umělou inteligencí Grok, vyvinutý společností xAI Elona Muska, byla vydána americkým uživatelům platformy sociálních médií X v prosinci. Grok je navržen tak, aby konkuroval hlavním systémům umělé inteligence na trhu, jako jsou systémy od Googlu a zejména OpenAI. Co odlišuje Groka od jeho konkurentů, je jeho schopnost začlenit humor a sarkastické tóny, inspirované uměle inteligentními počítači ve slavných knihách Stopařův průvodce po Galaxii.

Otevřená verze modelu Grok-1 je vydán v základní reprezentaci a neobsahuje specifické optimalizace pro určité oblasti použití, jako je organizace dialogových systémů. Tento model Má přibližně 314 miliard parametrů a byl od nuly vyškolen xAI pomocí vlastního tréninkového zásobníku založeného na JAX a Rustu. xAI dala jasně najevo, že uvolňují modelové váhy a architekturu pod licencí Apache 2.0, což umožňuje komerční využití. Je však důležité poznamenat, že tato verze nezahrnuje data použitá k trénování velkého jazykového modelu AI ani nenabízí přístup k datům v reálném čase.

Přístup Groka open source by mohl upozornit na jeho slabiny, ale Musk je zastáncem open source a byl investorem do OpenAI. Navzdory tomu v současné době kontroverzně žaluje OpenAI a tvrdí, že se společnost odchýlila od svých základních principů otevřenosti směrem k dosažení ziskovosti. Muskovi právníci dokonce naznačují, že OpenAI před trhem tají části svého systému umělé inteligence GPT-4.

Musk vyjádřil svůj názor na důležitost transparentnosti a hledání pravdy v umělé inteligenci. Zmínil jste, že ačkoli je stále co dělat, vaše platforma X je nejtransparentnější a hledá pravdu. Kromě toho kritizoval snahy o rozmanitost umělé inteligence za každou cenu a uvedl nedávné etické problémy na jiných platformách.

Otevřený přístup ke Grokovi je pokusem Muska demonstrovat nedostatek zaujatosti v systému a demokratizovat přístup k umělé inteligenci. Vývojáři nyní mohou využít kód Grok k vytváření aplikací a služeb AI přístupnějším a transparentnějším způsobem.

Konečně, Za zmínku stojí, že kód, Architektura neuronové sítě a případy použití S modelem, který má velikost 296 GB, byl zpřístupněn soubor připravený k použití.

Chcete-li provést testy s tímto modelem, Doporučuje se použít GPU s velkým množstvím paměti, ačkoli není specifikován požadovaný typ paměti. Zatímco statická verze modelu je veřejně dostupná, pro chatbota Grok se vyvíjí další funkce, která se dynamicky integruje s nově vznikajícím obsahem. Této dynamické integrace je dosaženo díky spolupráci s platformou X/Twitter, která umožňuje přístup k novým znalostem v reálném čase.

Pokud máte zájem dozvědět se o něm více, můžete se podívat na podrobnosti v následující odkaz.