StableLM și este conceput pentru a genera eficient text și cod
S-a dat vestea că Stabilitate AI, compania din spatele modelului AI pentru imagistica Stable Diffusion, a anunțat primul din setul său de modele de limbaj StableLM.
Cu ce Stability speră să reproducă efectele modelului său de sinteză a imaginilor open source Difuzie stabilă, lansat în 2022. Cu rafinament, StableLM ar putea fi folosit pentru a construi o alternativă open source la ChatGPT.
Pentru cei care nu sunt familiarizați cu Stability AI, ar trebui să știți că aceasta este o companie cu sediul la Londra care se poziționează ca un rival open source pentru OpenAI, o companie care dezvoltă modele de limbaj artificial puternice, dar proprietare, cum ar fi ChatGPT.
Despre StableLM
StableLM este numele familiei de modele de limbaj artificial create de Stability AI, care sunt disponibile ca sursă deschisă pe GitHub sub licența Creative Commons BY-SA-4.0. StableLM este un model de generare de text care poate compune text uman și scrie programe prin prezicerea cuvântului următor dintr-o secvență. Utilizează o tehnică numită „predicție cip” care presupune ghicirea următorului fragment de cuvânt din contextul oferit de un om sub forma unui „hint”.
Ca și alte „mici” LLM-uri StableLM pretinde că atinge performanțe similare cu modelul de referință GPT-3 de OpenAI folosind mult mai puțini parametri generali (7 miliarde pentru StableLM față de 175 miliarde pentru GPT-3).
Lansarea StableLM se bazează pe experiența noastră cu modelele anterioare de limbaj open source cu EleutherAI, un centru de cercetare non-profit. Aceste modele de limbaj includ GPT-J, GPT-NeoX și suita Pythia, care au fost instruite pe setul de date open source The Pile.
StableLM pretinde că are performanțe similare cu GPT-3, modelul de limbaj care alimentează ChatGPT, utilizând în același timp mult mai puțini parametri (7 miliarde față de 175 miliarde). Parametrii sunt variabile pe care modelul le folosește pentru a învăța din datele de antrenament. Având mai puțini parametri, modelul este mai mic și mai eficient, ceea ce poate face mai ușor rularea pe dispozitive locale, cum ar fi smartphone-uri și laptopuri.
StableLM antrenat pe un nou set de date bazat pe The Pile, conținând 1,5 trilioane de jetoane, ceea ce este de aproximativ 3 ori mai mare decât The Pile. The Pile este un set de date de înaltă calitate și divers pentru formarea modelelor lingvistice.
Stability AI menționează că șabloanele sunt deja disponibile în depozitul GitHub și că o carte albă completă va veni în curând și așteaptă cu nerăbdare să continue să colaboreze cu dezvoltatorii și cercetătorii pe măsură ce lansează suita StableLM.
În plus, ei menționează lansarea programului de colaborare deschisă RLHF și colaborarea cu eforturile comunității, cum ar fi Open Assistant, pentru a crea un set de date open source pentru asistenții AI.
Ultimul, dar nu cel din urmă, Vorbind despre lansările Stability AI, putem evidenția și faptul că a anunțat lansarea beta a SDXL (care înseamnă Stable Diffusion Extra Large), un nou model de inteligență artificială capabil să genereze imagini din descrieri textuale. SDXL este cea mai recentă adăugare la suita Stable Diffusion, care include și modele SD, SDT și SDC.
SDXL diferă de alte modele prin dimensiunea și capacitățile sale. Cu 2300 miliarde de parametri, SDXL este de peste 2,5 ori mai mare decât modelul original SD, care avea doar 890 de milioane. Acești parametri suplimentari permit SDXL să genereze imagini care aderă mai bine la modele complexe. De exemplu, SDXL poate produce text care poate fi citit pe imagini sau poate crea portrete uimitor de realiste ale personajelor fictive.
SDXL este în prezent în versiune beta în DreamStudio și în alte aplicații populare de imagistică, cum ar fi NightCafe Creator. La fel ca toate modelele Stability AI, SDXL va fi lansat în curând ca sursă deschisă pentru o accesibilitate optimă. Stability AI anunță că SDXL este autorizat permisiv pentru utilizare comercială și necomercială, atâta timp cât respectați îndrumările etice și legale.
În cele din urmă, dacă sunteți interesat să aflați mai multe despre aceasta, puteți consulta detaliile În următorul link.