xAI, objavljam izvorno kodo Groka, LLM, ki se uporablja v klepetalnem robotu X  

grok

Grok, klepetalni robot Twitter/X z umetno inteligenco, je zdaj odprtokoden

xAI (podjetje, ki ga je soustanovil Elon Musk, podprto z okoli milijardo dolarjev za razvoj tehnologij, povezanih z umetno inteligenco), je pred kratkim objavil novico o svoji odločitvi, da izda izvorno kodo Grok njihov LLM, ki se uporablja v chatbotu, integriranem v socialno omrežje X (Twitter).

Grok je bil predhodno usposobljen z uporabo obsežne zbirke podatkov besedila z uporabo lastniškega učnega sklada xAI. Ima približno 314 milijard parametrov, zaradi česar je trenutno največji model odprtega jezika.

Grok je zdaj odprtokoden

Pred kratkim Eleon Musk je napovedal, da bo Grok postal odprtokoden, kar se je že zgodilo. To pomeni, da lahko razvijalci po vsem svetu opazujejo notranje delovanje Groka in ga uporabljajo za napajanje lastnih modelov AI.

Klepetalni sistem Grok z umetno inteligenco, ki ga je razvilo podjetje xAI Elona Muska, je bil decembra objavljen ameriškim uporabnikom platforme družbenih medijev X. Grok je zasnovan tako, da konkurira glavnim sistemom umetne inteligence na trgu, kot so Googlovi in ​​predvsem OpenAI. Kar Groka loči od njegovih tekmecev, je njegova sposobnost vključevanja humorja in sarkastičnih tonov, ki so jih navdihnili umetno inteligentni računalniki v slavnih knjigah Štoparski vodnik po galaksiji.

Odprta različica modela Grok-1 je izdan v osnovni predstavitvi in ​​ne vključuje posebnih optimizacij za določena področja uporabe, kot je organiziranje sistemov za dialog. Ta model Ima približno 314 milijard parametrov in ga je iz nič uril xAI z uporabo sklada za usposabljanje po meri, ki temelji na JAX in Rust. xAI je jasno povedal, da izdaja uteži in arhitekturo modela pod licenco Apache 2.0, kar omogoča komercialno uporabo. Vendar je pomembno omeniti, da ta različica ne vključuje podatkov, ki se uporabljajo za usposabljanje velikega jezikovnega modela AI, niti ne ponuja dostopa do podatkov v realnem času.

Grokov odprtokodni pristop bi lahko poudaril njegove slabosti, vendar je Musk zagovornik odprte kode in je bil vlagatelj v OpenAI. Kljub temu trenutno kontroverzno toži OpenAI, pri čemer trdi, da se je podjetje oddaljilo od svojih temeljnih načel odprtosti v smeri prizadevanja za dobičkonosnost. Muskovi odvetniki celo nakazujejo, da OpenAI dele svojega sistema GPT-4 AI skriva pred trgom.

Musk je izrazil svoje mnenje o pomenu transparentnosti in iskanju resnice v umetni inteligenci. Omenili ste, da je vaša platforma X najbolj pregledna in išče resnico, čeprav je treba še delati. Poleg tega je kritiziral prizadevanja, da bi za vsako ceno naredili umetno inteligenco raznoliko, pri čemer je navedel nedavna etična vprašanja na drugih platformah.

Odprti dostop do Groka je Muskov poskus, da bi dokazal pomanjkanje pristranskosti v sistemu in demokratiziral dostop do umetne inteligence. Razvijalci lahko zdaj izkoristijo kodo Grok za ustvarjanje aplikacij in storitev AI na bolj dostopen in pregleden način.

Končno, Omeniti velja, da koda, Arhitektura nevronske mreže in primeri uporabe Datoteka, pripravljena za uporabo, je bila na voljo skupaj z modelom in ima velikost 296 GB.

Če želite izvesti teste s tem modelom, Priporočljivo je, da uporabite GPE z veliko količino pomnilnika, čeprav vrsta zahtevanega pomnilnika ni navedena. Medtem ko je statična različica modela javno dostopna, se razvija dodatna funkcija za klepetalnega robota Grok, ki se dinamično integrira z novo nastajajočo vsebino. Ta dinamična integracija je dosežena s sodelovanjem s platformo X/Twitter, ki omogoča dostop do novega znanja v realnem času.

Če vas zanima več o tem, lahko preverite podrobnosti v naslednja povezava.