تم تصميم StableLM لإنشاء النصوص والتعليمات البرمجية بكفاءة
صدر الخبر أن الاستقرار AI ، الشركة التي تقف وراء نموذج التصوير بالانتشار المستقر للذكاء الاصطناعيأعلنت عن أول مجموعة من نماذجها اللغوية StableLM.
مع ذلك تأمل شركة Stability في تكرار تأثيرات نموذج تركيب الصورة مفتوح المصدر الخاص بها انتشار مستقر، تم إصداره في عام 2022. مع التنقيح ، يمكن استخدام StableLM لبناء بديل مفتوح المصدر لـ ChatGPT.
بالنسبة لأولئك الذين ليسوا على دراية بـ Stability AI ، يجب أن تعلم أن هذه شركة مقرها لندن وتضع نفسها كمنافس مفتوح المصدر لشركة OpenAI ، وهي شركة تطور نماذج لغة اصطناعية قوية ولكن مملوكة مثل ChatGPT.
حول StableLM
الاسطبل هو اسم عائلة نماذج اللغة الاصطناعية التي أنشأتها Stability AI ، المتوفرة كمصدر مفتوح على GitHub بموجب ترخيص Creative Commons BY-SA-4.0. StableLM هو نموذج لتوليد النص يمكن أن يؤلف نصًا بشريًا ويكتب برامج من خلال توقع الكلمة التالية في تسلسل. يستخدم تقنية تسمى "التنبؤ بالرقاقة" الذي يتضمن تخمين جزء الكلمة التالية من السياق الذي يقدمه الإنسان في شكل "تلميح".
مثل LLMs "الصغيرة" الأخرى تدعي StableLM أنها تحقق أداءً مشابهًا للنموذج المرجعي GPT-3 من OpenAI أثناء استخدام عدد أقل بكثير من المعلمات العامة (7 مليارات لـ StableLM مقابل 175 مليار لـ GPT-3).
يعتمد إصدار StableLM على تجربتنا مع نماذج لغة سابقة مفتوحة المصدر مع EleutherAI ، وهو مركز أبحاث غير ربحي. تتضمن نماذج اللغات هذه GPT-J و GPT-NeoX ومجموعة Pythia ، والتي تم تدريبها على مجموعة البيانات مفتوحة المصدر The Pile.
الاسطبل يدعي أن أداءه مشابهًا لأداء GPT-3 ، نموذج اللغة الذي يدعم ChatGPT ، مع استخدام معلمات أقل بكثير (7 مليارات مقابل 175 مليارًا). المعلمات هي المتغيرات التي يستخدمها النموذج للتعلم من بيانات التدريب. وجود عدد أقل من المعلمات يجعل النموذج أصغر وأكثر كفاءة ، مما يسهل تشغيله على الأجهزة المحلية مثل الهواتف الذكية وأجهزة الكمبيوتر المحمولة.
الاسطبل تم تدريبهم على مجموعة بيانات جديدة تستند إلى The Pile ، تحتوي على 1,5 تريليون توكن ، أي حوالي 3 أضعاف حجم The Pile. The Pile عبارة عن مجموعة بيانات عالية الجودة ومتنوعة لتدريب النماذج اللغوية.
تشير منظمة العفو الدولية إلى الاستقرار إلى أن القوالب متوفرة بالفعل في مستودع GitHub وأن ورقة بيضاء كاملة ستصدر قريبًا ، وتتطلع إلى مواصلة التعاون مع المطورين والباحثين أثناء طرح مجموعة StableLM.
بالإضافة إلى ذلك ، يذكرون إطلاق برنامج التعاون المفتوح RLHF والعمل مع جهود المجتمع مثل Open Assistant لإنشاء مجموعة بيانات مفتوحة المصدر لمساعدي الذكاء الاصطناعي.
أخيرا وليس آخرا، عند الحديث عن إصدارات Stability AI ، يمكننا أيضًا إبراز ما تم الإعلان عنه الإصدار التجريبي من SDXL (والذي يرمز إلى Stable Diffusion Extra Large) ، وهو نموذج ذكاء اصطناعي جديد قادر على إنشاء صور من الأوصاف النصية. SDXL هو أحدث إضافة إلى مجموعة Stable Diffusion ، والتي تتضمن أيضًا طرز SD و SDT و SDC.
يختلف SDXL عن الطرز الأخرى في حجمه وقدراته. مع 2300 مليار معلمة ، يعد SDXL أكبر 2,5 مرة من طراز SD الأصلي ، والذي كان يحتوي على 890 مليون فقط. تسمح هذه المعلمات الإضافية لـ SDXL بإنشاء صور تلتزم بشكل أفضل بالأنماط المعقدة. على سبيل المثال ، يمكن لـ SDXL إنتاج نص مقروء على الصور أو إنشاء صور شخصية واقعية بشكل مذهل لشخصيات خيالية.
SDXL حاليًا في مرحلة تجريبية في DreamStudio وتطبيقات التصوير الشائعة الأخرى مثل NightCafe Creator. مثل جميع نماذج Stability AI ، سيتم إطلاق SDXL قريبًا كمصدر مفتوح للوصول الأمثل. تعلن منظمة Stability AI أن SDXL مرخصة بشكل مسموح للاستخدام التجاري وغير التجاري ، طالما أنك تتبع الإرشادات الأخلاقية والقانونية.
أخيرًا ، إذا كنت مهتمًا بمعرفة المزيد عنها ، يمكنك الرجوع إلى التفاصيل في الرابط التالي.