Grok, le chatbot IA de Twitter/X, est désormais open source
xIA (entreprise cofondée par Elon Musk, soutenue avec environ un milliard de dollars pour le développement de technologies liées à l'intelligence artificielle), a récemment annoncé sa décision de publier le code source de Grok leur LLM qui est utilisé dans un chatbot intégré au réseau social X (Twitter).
Grok a été pré-formé à l’aide d’une vaste collection de données de texte à l'aide de la pile d'apprentissage propriétaire de xAI. Il comporte environ 314 milliards de paramètres, ce qui en fait le plus grand modèle de langage ouvert actuellement disponible.
Grok est désormais open source
Récemment, Eleon Musk a annoncé que Grok deviendrait open source, ce qui est déjà arrivé. Cela signifie que les développeurs du monde entier peuvent observer le fonctionnement interne de Grok et l'utiliser pour alimenter leurs propres modèles d'IA.
Le système de chatbot d'intelligence artificielle Grok, développé par la société xAI d'Elon Musk, a été diffusé auprès des utilisateurs américains de la plateforme de médias sociaux X en décembre. Grok est conçu pour concurrencer les principaux systèmes d’intelligence artificielle du marché, comme ceux de Google et surtout OpenAI. Ce qui distingue Grok de ses concurrents est sa capacité à incorporer de l'humour et des tons sarcastiques, inspirés par les ordinateurs artificiellement intelligents du célèbre Guide du voyageur galactique.
La version ouverte du modèle Grok-1 est publié dans une représentation de base et n'inclut pas d'optimisations spécifiques pour certains domaines d'utilisation, comme l'organisation de systèmes de dialogue. Ce modèle Il possède environ 314 milliards de paramètres et a été formé à partir de zéro par xAI en utilisant une pile de formation personnalisée basée sur JAX et Rust. xAI a clairement indiqué qu'ils publiaient les poids et l'architecture du modèle sous la licence Apache 2.0, permettant une utilisation commerciale. Cependant, il est important de noter que cette version n'inclut pas les données utilisées pour entraîner le grand modèle de langage d'IA et n'offre pas non plus d'accès aux données en temps réel.
L'approche open source de Grok pourrait mettre en évidence ses faiblesses, mais Musk est un défenseur de l’open source et a investi dans OpenAI. Malgré cela, il poursuit actuellement de manière controversée OpenAI, arguant que l’entreprise s’est écartée de ses principes fondateurs d’ouverture au profit d’une recherche de rentabilité. Les avocats de Musk suggèrent même qu'OpenAI garde secrètes certaines parties de son système d'IA GPT-4 du marché.
Musk a exprimé son opinion sur l'importance de la transparence et de la recherche de la vérité dans l'intelligence artificielle. Vous avez mentionné que même s’il y a encore du travail à faire, votre plateforme X est la plus transparente et recherche la vérité. De plus, il a critiqué les efforts visant à diversifier l’IA à tout prix, citant de récents problèmes éthiques sur d’autres plateformes.
Le libre accès à Grok est une tentative de Musk de démontrer l’absence de parti pris du système et de démocratiser l’accès à l’intelligence artificielle. Les développeurs peuvent désormais exploiter le code Grok pour créer des applications et des services d'IA de manière plus accessible et transparente.
Enfin, Il convient de mentionner que le code, Architecture du réseau neuronal et cas d'utilisation Un fichier prêt à l'emploi a été mis à disposition avec le modèle, d'une taille de 296 Go.
Pour effectuer des tests avec ce modèle, Il est recommandé d'utiliser un GPU avec une grande quantité de mémoire, bien que le type de mémoire requis ne soit pas spécifié. Bien qu'une version statique du modèle soit accessible au public, une fonctionnalité supplémentaire est en cours de développement pour le chatbot Grok qui s'intègre dynamiquement au nouveau contenu émergent. Cette intégration dynamique est réalisée grâce à la collaboration avec la plateforme X/Twitter, permettant d'accéder à de nouvelles connaissances en temps réel.
Si vous souhaitez en savoir plus, vous pouvez consulter les détails dans le lien suivant