Grok, chatbot de IA do Twitter/X, agora é código aberto
xAI (empresa cofundada por Elon Musk, apoiada com cerca de um bilhão de dólares para o desenvolvimento de tecnologias relacionadas à inteligência artificial), divulgou recentemente a notícia sobre sua decisão de liberar o código-fonte do Grok seu LLM que é utilizado em um chatbot integrado à rede social X (Twitter).
Grok foi pré-treinado usando uma extensa coleção de dados de texto usando a pilha de aprendizagem proprietária da xAI. Possui aproximadamente 314 bilhões de parâmetros, tornando-o o maior modelo de linguagem aberta atualmente disponível.
Grok agora é código aberto
Recentemente, Eleon Musk anunciou que Grok se tornaria open source, o que já aconteceu. Isso significa que desenvolvedores de todo o mundo podem observar o funcionamento interno do Grok e usá-lo para potencializar seus próprios modelos de IA.
O sistema chatbot de inteligência artificial Grok, desenvolvido pela empresa xAI de Elon Musk, foi lançado para usuários americanos da plataforma de mídia social X em dezembro. O Grok foi projetado para competir com os principais sistemas de inteligência artificial do mercado, como os do Google e, principalmente, do OpenAI. O que diferencia Grok de seus concorrentes é sua capacidade de incorporar humor e tons sarcásticos, inspirados nos computadores com inteligência artificial dos famosos livros do Guia do Mochileiro das Galáxias.
A versão aberta do modelo Grok-1 é lançado em uma representação básica e não inclui otimizações específicas para certas áreas de uso, como a organização de sistemas de diálogo. Este modelo Possui aproximadamente 314 bilhões de parâmetros e foi treinado do zero pela xAI usando uma pilha de treinamento personalizada baseada em JAX e Rust. xAI deixou claro que está liberando os pesos e a arquitetura do modelo sob a licença Apache 2.0, permitindo o uso comercial. No entanto, é importante notar que esta versão não inclui os dados utilizados para treinar o grande modelo de linguagem de IA nem oferece acesso a dados em tempo real.
A abordagem de código aberto de Grok pode destacar seus pontos fracos, mas Musk é um defensor do código aberto e tem investido na OpenAI. Apesar disso, ele está atualmente processando a OpenAI de forma controversa, argumentando que a empresa se desviou de seus princípios fundadores de abertura em direção à busca pela lucratividade. Os advogados de Musk até sugerem que a OpenAI está mantendo partes de seu sistema de IA GPT-4 em segredo do mercado.
Musk expressou sua opinião sobre a importância da transparência e da busca pela verdade na inteligência artificial. Você mencionou que embora ainda haja trabalho a ser feito, sua plataforma X é a mais transparente e busca a verdade. Além disso, ele criticou os esforços para tornar a IA diversificada a todo custo, citando questões éticas recentes em outras plataformas.
O acesso aberto ao Grok é uma tentativa de Musk de demonstrar a falta de preconceito no sistema e democratizar o acesso à inteligência artificial. Os desenvolvedores agora podem aproveitar o código Grok para criar aplicativos e serviços de IA de uma forma mais acessível e transparente.
Finalmente, Vale ressaltar que o código, Arquitetura de rede neural e casos de uso Um arquivo pronto para uso foi disponibilizado com o modelo, que tem tamanho de 296 GB.
Para realizar testes com este modelo, Recomenda-se usar uma GPU com grande quantidade de memória, embora o tipo de memória necessária não seja especificado. Embora uma versão estática do modelo esteja disponível publicamente, um recurso adicional está sendo desenvolvido para o chatbot Grok que se integra dinamicamente com novos conteúdos emergentes. Esta integração dinâmica é conseguida através da colaboração com a plataforma X/Twitter, permitindo o acesso a novos conhecimentos em tempo real.
Se você tiver interesse em saber mais sobre o assunto, pode conferir os detalhes no link a seguir