xAI、Xチャットボットで使用されるLLMのGrokのソースコードを公開  

グロク

Twitter/X の AI チャットボットである Grok がオープンソースになりました

xAI (イーロン・マスクが共同設立した会社で、人工知能関連技術の開発に約10億ドルの資金援助を受けている) 最近、Grok ソース コードをリリースする決定についてのニュースを発表しました ソーシャル ネットワーク X (Twitter) に統合されたチャットボットで使用される LLM。

グロク 広範なデータのコレクションを使用して事前トレーニングされています xAI 独自の学習スタックを使用したテキストの学習。これには約 314 億のパラメータがあり、現在利用可能なオープン言語モデルとしては最大です。

Grok はオープンソースになりました

最近 Eleon Musk は、Grok がオープンソースになると発表しましたが、それはすでに実現しています。 これは、世界中の開発者が Grok の内部動作を観察し、それを使用して独自の AI モデルを強化できることを意味します。

イーロン・マスク氏の xAI 会社が開発した Grok 人工知能チャットボット システム は12月にソーシャルメディアプラットフォームXのアメリカのユーザーにリリースされました。 Grok は、Google や特に OpenAI などの市場の主要な人工知能システムと競合するように設計されています。 Grok が競合他社と一線を画すのは、有名な『銀河ヒッチハイク ガイド』に登場する人工知能コンピューターにインスピレーションを得た、ユーモアと皮肉な口調を組み込む能力です。

モデルのオープンバージョン Grok-1 は基本的な表現でリリースされており、特定の最適化は含まれていません 対話システムの編成など、特定の使用分野向け。このモデル 約 314 億個のパラメータがあります xAI によってゼロからトレーニングされています JAX と Rust に基づくカスタム トレーニング スタックを使用します。 xAIは、商用利用を許可するApache 2.0ライセンスに基づいてモデルの重みとアーキテクチャをリリースすることを明らかにした。ただし、このバージョンには、大規模な AI 言語モデルのトレーニングに使用されるデータが含まれておらず、リアルタイム データへのアクセスも提供されていないことに注意することが重要です。

Grok のオープンソースアプローチはその弱点を浮き彫りにする可能性がある、しかしマスク氏はオープンソースの支持者であり、OpenAIへの投資者でもあります。それにもかかわらず、同氏は現在、OpenAIが収益性の追求に向けてオープン性という創業の原則から逸脱しているとして、OpenAIを提訴し物議を醸している。マスク氏の弁護士は、OpenAIがGPT-4 AIシステムの一部を市場に対して秘密にしているとさえ示唆している。

マスク氏は、人工知能における透明性と真実の探求の重要性について意見を表明した。まだやるべきことはあるものの、X プラットフォームは最も透明性があり、真実を追求しているとおっしゃいました。さらに、他のプラットフォームにおける最近の倫理問題を引き合いに出し、AIを何が何でも多様化させようとする取り組みを批判した。

Grok へのオープン アクセスは、システムにバイアスがないことを実証し、人工知能へのアクセスを民主化するというマスク氏の試みです。開発者は Grok コードを活用して、よりアクセスしやすく透過的な方法で AI アプリケーションとサービスを作成できるようになりました。

最後に、 コードは、 ニューラル ネットワーク アーキテクチャと使用例 このモデルでは、サイズが 296 GB のすぐに使用できるファイルが提供されています。

このモデルでテストを実行するには、 メモリ容量の多いGPUを使用することをお勧めしますただし、必要なメモリの種類は指定されていません。モデルの静的バージョンは公開されていますが、新しいコンテンツと動的に統合する追加機能が Grok チャットボット用に開発されています。この動的な統合は、X/Twitter プラットフォームとの連携によって実現され、新しい知識にリアルタイムでアクセスできるようになります。

さらに詳しく知りたい場合は、次のページで詳細を確認できます。 次のリンク。