StableLM はテキストとコードを効率的に生成するように設計されています
ニュースがリリースされました スタビリティAI、 Stable Diffusion イメージング AI モデルの背後にある会社は、StableLM 言語モデルの最初のセットを発表しました.
それと共に 安定性は、オープンソースの画像合成モデルの効果を再現することを望んでいます 安定拡散、2022年にリリースされました。洗練されたStableLMは、ChatGPTに代わるオープンソースの構築に使用できます。
Stability AI に慣れていない人は、これがロンドンを拠点とする会社であり、ChatGPT などの強力で独自の人工言語モデルを開発する会社である OpenAI のオープンソースのライバルとしての地位を確立していることを知っておく必要があります。
StableLMについて
StableLM Stability AI によって作成された人工言語モデルのファミリーの名前です。 オープンソースとして利用可能 クリエイティブ コモンズ BY-SA-4.0 ライセンスの下で GitHub で. StableLM はテキスト生成モデルです 人間のテキストを作成し、シーケンス内の次の単語を予測してプログラムを作成できる. 「チップ予測」と呼ばれる手法を使用します。 これは、人間が「ヒント」の形で提供するコンテキストから、次の単語の断片を推測することを含みます。
他の「小さな」LLM のように StableLM は、GPT-3 参照モデルと同様のパフォーマンスを達成すると主張しています。 はるかに少ない一般的なパラメーターを使用しながら、OpenAI の
StableLM のリリースは、非営利研究センターである EleutherAI でのこれまでのオープンソース言語モデルの経験に基づいています。 これらの言語モデルには、オープン ソース データセット The Pile でトレーニングされた GPT-J、GPT-NeoX、および Pythia スイートが含まれます。
StableLM GPT-3 と同様の性能を持っていると主張し、 ChatGPT を強化する言語モデルでありながら、はるかに少ないパラメーター (7 億対 175 億) を使用します。 パラメーターは、モデルがトレーニング データから学習するために使用する変数です。 パラメーターが少ないほど、モデルが小さく効率的になり、スマートフォンやラップトップなどのローカル デバイスでの実行が容易になります。
StableLM The Pile に基づく新しいデータセットでトレーニングされ、 The Pile の約 1,5 倍の 3 兆トークンが含まれています。 The Pile は、言語モデルをトレーニングするための高品質で多様なデータセットです。
Stability AI は、テンプレートが GitHub リポジトリで既に利用可能であり、完全なホワイト ペーパーが近日中に公開されると述べており、StableLM スイートを展開する際に開発者や研究者と引き続き協力することを楽しみにしています。
さらに、RLHF オープン コラボレーション プログラムを開始し、Open Assistant などのコミュニティの取り組みと協力して、AI アシスタント用のオープンソース データセットを作成することについても言及しています。
少なくとも最後のではなく、 Stability AI のリリースといえば、次のことを発表したことも強調できます。 のベータ版リリース SDXL (Stable Diffusion Extra Large の略)、テキストの説明から画像を生成できる新しい人工知能モデル。 SDXL は、SD、SDT、および SDC モデルも含まれる Stable Diffusion スイートの最新の追加製品です。
SDXL は、サイズと機能が他のモデルとは異なります。 2300 億のパラメーターを備えた SDXL は、2,5 億 890 万しかなかった元の SD モデルよりも XNUMX 倍以上大きくなります。 これらの追加パラメータにより、SDXL は複雑なパターンによりよく準拠した画像を生成できます。 たとえば、SDXL を使用すると、画像上に読みやすいテキストを生成したり、架空の人物の驚くほどリアルなポートレートを作成したりできます。
SDXL は現在、DreamStudio や、NightCafe Creator などの他の一般的なイメージング アプリケーションでベータ版です。 すべての Stability AI モデルと同様に、最適なアクセシビリティのために、SDXL はまもなくオープン ソースとしてリリースされます。 Stability AI は、倫理的および法的ガイドラインに従う限り、SDXL が商業的および非商業的使用に対して許容的にライセンスされていることを発表しました。
最後に、それについてもっと知りたい場合は、詳細を調べることができます 次のリンクで。