xAI, objavljujem izvorni kod Groka, LLM-a koji se koristi u X chatbotu  

grok

Grok, Twitter/X-ov AI chatbot, sada je otvorenog koda

xAI (tvrtka čiji je suosnivač Elon Musk, potpomognuta s oko milijardu dolara za razvoj tehnologija povezanih s umjetnom inteligencijom), nedavno je objavio vijest o svojoj odluci da objavi Grok izvorni kod njihov LLM koji se koristi u chatbotu integriranom u društvenu mrežu X (Twitter).

zahvatite prethodno je obučen korištenjem opsežne zbirke podataka teksta koristeći xAI-jev vlasnički skup za učenje. Ima približno 314 milijardi parametara, što ga čini najvećim modelom otvorenog jezika koji je trenutno dostupan.

Grok je sada otvorenog koda

nedavno, Eleon Musk najavio je da će Grok postati open source, što se već dogodilo. To znači da programeri diljem svijeta mogu promatrati unutarnji rad Groka i koristiti ga za pokretanje vlastitih AI modela.

Chatbot sustav umjetne inteligencije Grok, koji je razvila tvrtka xAI Elona Muska, objavljen je američkim korisnicima platforme društvenih medija X u prosincu. Grok je dizajniran da se natječe s glavnim sustavima umjetne inteligencije na tržištu, poput onih iz Googlea i, posebno, OpenAI. Ono što Groka izdvaja od njegovih konkurenata je njegova sposobnost da uklopi humor i sarkastične tonove, inspirirane umjetno inteligentnim računalima u poznatim knjigama Vodič kroz galaksiju za autostopere.

Otvorena verzija modela Grok-1 je objavljen u osnovnoj verziji i ne uključuje specifične optimizacije za određena područja uporabe, kao što je organiziranje sustava za dijalog. Ovaj model Ima približno 314 milijardi parametara i obučavao ga je ispočetka xAI pomoću prilagođenog skupa za obuku temeljenog na JAX-u i Rustu. xAI je jasno stavio do znanja da objavljuju težinu i arhitekturu modela pod licencom Apache 2.0, dopuštajući komercijalnu upotrebu. Međutim, važno je napomenuti da ova verzija ne uključuje podatke koji se koriste za obuku velikog AI modela jezika niti nudi pristup podacima u stvarnom vremenu.

Grokov pristup otvorenom kodu mogao bi istaknuti njegove slabosti, ali Musk je zagovornik otvorenog koda i bio je investitor u OpenAI. Unatoč tome, on trenutno kontroverzno tuži OpenAI, tvrdeći da je tvrtka odstupila od svojih temeljnih načela otvorenosti prema potrazi za profitabilnošću. Muskovi odvjetnici čak sugeriraju da OpenAI dijelove svog GPT-4 AI sustava drži u tajnosti od tržišta.

Musk je izrazio svoje mišljenje o važnosti transparentnosti i potrazi za istinom u umjetnoj inteligenciji. Spomenuli ste da, iako još ima posla, vaša X platforma je najtransparentnija i traži istinu. Osim toga, kritizirao je napore da se umjetna inteligencija pod svaku cijenu učini raznolikom, navodeći nedavna etička pitanja na drugim platformama.

Otvoreni pristup Groku pokušaj je Muska da pokaže nedostatak pristranosti u sustavu i demokratizira pristup umjetnoj inteligenciji. Programeri sada mogu iskoristiti Grok kod za stvaranje AI aplikacija i usluga na pristupačniji i transparentniji način.

Konačno, Vrijedno je spomenuti da kod, Arhitektura neuronske mreže i slučajevi uporabe Datoteka spremna za korištenje dostupna je s modelom, veličine 296 GB.

Za izvođenje testova s ​​ovim modelom, Preporuča se koristiti GPU s velikom količinom memorije, iako vrsta potrebne memorije nije navedena. Dok je statična verzija modela javno dostupna, razvija se dodatna značajka za Grok chatbot koja se dinamički integrira s novim sadržajem u nastajanju. Ova dinamička integracija postiže se kroz suradnju s X/Twitter platformom, omogućujući pristup novom znanju u stvarnom vremenu.

Ako vas zanima više o tome, pojedinosti možete provjeriti u sljedeći link.