Grok, de AI-chatbot van Twitter/X, is nu open source
xAI (een bedrijf mede opgericht door Elon Musk, gesteund met ongeveer een miljard dollar voor de ontwikkeling van technologieën gerelateerd aan kunstmatige intelligentie), heeft onlangs het nieuws vrijgegeven over het besluit om de Grok-broncode vrij te geven hun LLM die wordt gebruikt in een chatbot geïntegreerd in het sociale netwerk X (Twitter).
Grok is vooraf getraind met behulp van een uitgebreide verzameling gegevens van tekst met behulp van de eigen leerstapel van xAI. Het heeft ongeveer 314 miljard parameters, waardoor het het grootste open taalmodel is dat momenteel beschikbaar is.
Grok is nu open source
onlangs, Eleon Musk kondigde aan dat Grok open source zou worden, wat al is gebeurd. Dit betekent dat ontwikkelaars over de hele wereld de innerlijke werking van Grok kunnen observeren en deze kunnen gebruiken om hun eigen AI-modellen aan te sturen.
Het Grok-chatbotsysteem voor kunstmatige intelligentie, ontwikkeld door het xAI-bedrijf van Elon Musk, werd in december vrijgegeven aan Amerikaanse gebruikers van sociale mediaplatform X. Grok is ontworpen om te concurreren met de belangrijkste kunstmatige intelligentiesystemen op de markt, zoals die van Google en vooral OpenAI. Wat Grok onderscheidt van zijn concurrenten is zijn vermogen om humor en sarcastische tonen te gebruiken, geïnspireerd door de kunstmatig intelligente computers in de beroemde Hitchhiker's Guide to the Galaxy-boeken.
De open versie van het model Grok-1 wordt uitgebracht in een basisweergave en bevat geen specifieke optimalisaties voor bepaalde toepassingsgebieden, zoals het organiseren van dialoogsystemen. Dit model Het heeft ongeveer 314 miljard parameters en is helemaal opnieuw getraind door xAI met behulp van een aangepaste trainingsstack gebaseerd op JAX en Rust. xAI heeft duidelijk gemaakt dat ze de modelgewichten en architectuur vrijgeven onder de Apache 2.0-licentie, waardoor commercieel gebruik mogelijk is. Het is echter belangrijk op te merken dat deze versie niet de gegevens bevat die worden gebruikt om het grote AI-taalmodel te trainen, en ook geen toegang biedt tot realtime gegevens.
De open source-aanpak van Grok zou de zwakke punten ervan kunnen benadrukken, maar Musk is een voorstander van open source en heeft geïnvesteerd in OpenAI. Desondanks klaagt hij momenteel OpenAI op controversiële wijze aan, met het argument dat het bedrijf is afgedwaald van zijn grondbeginselen van openheid en naar het nastreven van winstgevendheid. De advocaten van Musk suggereren zelfs dat OpenAI delen van zijn GPT-4 AI-systeem geheim houdt voor de markt.
Musk heeft zijn mening geuit over het belang van transparantie en de zoektocht naar waarheid in kunstmatige intelligentie. U heeft gezegd dat, hoewel er nog werk aan de winkel is, uw X-platform het meest transparant is en naar de waarheid zoekt. Bovendien heeft hij kritiek geuit op de inspanningen om AI koste wat het kost divers te maken, daarbij verwijzend naar recente ethische kwesties op andere platforms.
Open toegang tot Grok is een poging van Musk om het gebrek aan vooringenomenheid in het systeem aan te tonen en de toegang tot kunstmatige intelligentie te democratiseren. Ontwikkelaars kunnen nu Grok-code gebruiken om AI-applicaties en -diensten op een meer toegankelijke en transparante manier te creëren.
Tenslotte Het is vermeldenswaard dat de code, Neurale netwerkarchitectuur en gebruiksscenario's Er is een kant-en-klaar bestand beschikbaar gesteld bij het model, dat een grootte heeft van 296 GB.
Om tests met dit model uit te voeren, Het wordt aanbevolen om een GPU met een grote hoeveelheid geheugen te gebruiken, hoewel het vereiste type geheugen niet is gespecificeerd. Hoewel een statische versie van het model publiekelijk beschikbaar is, wordt er een extra functie ontwikkeld voor de Grok-chatbot die dynamisch integreert met nieuwe opkomende inhoud. Deze dynamische integratie wordt bereikt door samenwerking met het X/Twitter-platform, waardoor toegang tot nieuwe kennis in realtime mogelijk wordt.
Als u er meer over wilt weten, kunt u de details bekijken in de volgende link.