Gemma、新しいオープンソース人工知能モデル
グーグルが発表した、 ブログ投稿を通じて、彼の Gemini チャットボット「Gemma」に基づく AI モデルの新しいファミリー«。これは、Google のチャットボット モデルである Gemini に使用されているテクノロジーに基づいて構築された機械学習モデルで、さまざまなアプリケーションやハードウェア要件に合わせて設計された、2 億から 7 億のパラメーターにわたるさまざまなバリエーションを提供します。
Gemma が目指しているのは、 開発者へ AI アプリケーションを作成するための高度なツール Gemma がカバーする応用分野の中でも特に意識的に取り上げられているのは、対話システムや仮想アシスタントの作成から、テキストの生成、自然言語での質問への回答、コンテンツの要約、テキストの修正、言語の学習サポートまでです。さらに、このモデルでは、詩、プログラミング コード、テキストの書き換え、テンプレートを使用した手紙の生成など、さまざまな種類のテキスト データの操作が可能です。
そして、それ ジェマのハイライトは、彼女の比較的小さなサイズですを促進します。 リソースが限られたハードウェア上での実装、 標準的なラップトップや PC など。 Huggingface と Google が実施した比較では、Gemma-7B モデルは確かなパフォーマンスを示しており、Huggingface の比較では LLama 2 70B Chat モデルに次いで 7 位にランクされています。 Google の比較では、Gemma-2B は LLama 7 13B/7B および Mistral-XNUMXB よりわずかに優れています。
の側で ツールとフレームワークのエコシステム、 新しいAIチャットボット との統合を提供します 開発者によって一般的に使用される多数のツール。Gemma を使用するためのサポートがすでに統合されているいくつかの重要なプロジェクトがあり、すでにサポートされているプロジェクトの中でも、次のものが際立っています。 Hugging Face、MaxText、NVIDIA NeMo、TensorRT-LLM、Transformers、Responsible Generative AI Toolkit など。
さらに、Google は Gemma 専用に C++ で書かれた gemma.cpp というスタンドアロン出力エンジンをリリースし、Gemma のサポートが llama.cpp エンジンに追加されました。モデルを最適化するために、開発者は Keras フレームワークと TensorFlow、JAX、および PyTorch のバックエンドを活用できます。
注意を払うことが重要です Gemma モデルのサイズは 8 トークンですこれにより、テキスト生成中に処理および記憶できる情報量が制限されます (比較のために、Gemini や GPT-4 などのモデルのコンテキスト サイズは 32 トークンで、GPT-4 Turbo のコンテキスト サイズは 128 トークンです)。さらに、Gemma モデルは現在、言語として英語のみをサポートしています。
最高の安全基準を確保するために、 Google は自動技術を使用してデータから個人情報を削除しました Gemma モデルのトレーニング。 さらに、人間のフィードバックに基づいた強化学習を使用して、指示に合わせて調整された Gemma バリアントが改良され、責任ある行動パターンに確実に準拠するようになりました。
Google は、オープン AI モデルに制限がないことが悪者の手に渡れば、社会に重大なリスクをもたらす可能性があるため、常に進化する AI の性質により、セキュリティと倫理的使用に関する重要な考慮事項が生じていると述べています。 Google はこれらの課題を認識しており、厳格な評価と明確な利用規約を通じてそれらに対処するための包括的なアプローチを採用しており、オープン AI モデルが倫理的かつ責任を持って使用されるようにするとともに、コミュニティでのイノベーションとコラボレーションを促進するよう努めています。
興味のある人は知っておくといいでしょう Gemma は、Gemma 2B と Gemma 7B の XNUMX つの構成で利用可能です、このオープンソース AI モデルは、効率的に動作するように命令によって事前トレーニングおよび調整されたバリアントを提供します。さらに、Gemma のライセンスにより、研究、個人および商業プロジェクトでの自由な使用、およびモデルの修正バージョンの作成と配布が許可されます。
最後にあなたが それについてもっと知りたい、詳細はで確認できます 次のリンク。