StableLM은 텍스트와 코드를 효율적으로 생성하도록 설계되었습니다.
라는 소식이 전해졌습니다. 안정성 AI, Stable Diffusion 이미징 AI 모델 뒤에 있는 회사, StableLM 언어 모델 세트 중 첫 번째 세트 발표.
그것으로 Stability는 오픈 소스 이미지 합성 모델의 효과를 복제하기를 희망합니다. 안정적인 확산, 2022년에 출시되었습니다. 개선된 StableLM은 ChatGPT에 대한 오픈 소스 대안을 구축하는 데 사용될 수 있습니다.
Stability AI에 익숙하지 않은 분들은 이 회사가 ChatGPT와 같이 강력하지만 독점적인 인공 언어 모델을 개발하는 회사인 OpenAI의 오픈 소스 라이벌로 자리매김하고 있는 런던 기반 회사라는 사실을 알아야 합니다.
StableLM 소개
안정LM Stability AI가 만든 인공 언어 모델 제품군의 이름입니다. 오픈 소스로 사용 가능한 크리에이티브 커먼즈 BY-SA-4.0 라이선스에 따라 GitHub에서. StableLM은 텍스트 생성 모델입니다. 시퀀스의 다음 단어를 예측하여 사람의 텍스트를 작성하고 프로그램을 작성할 수 있는. "칩 예측"이라는 기술을 사용합니다. 이는 "힌트"의 형태로 인간이 제공한 문맥에서 다음 단어 조각을 추측하는 것을 포함합니다.
다른 "소형" LLM과 마찬가지로 StableLM은 GPT-3 참조 모델과 유사한 성능을 달성한다고 주장합니다. 훨씬 적은 수의 일반 매개변수(StableLM의 경우 7억 vs. GPT-175의 경우 3억)를 사용하면서 OpenAI의
StableLM의 출시는 비영리 연구 센터인 EleutherAI의 이전 오픈 소스 언어 모델 경험을 기반으로 합니다. 이러한 언어 모델에는 GPT-J, GPT-NeoX 및 오픈 소스 데이터세트인 The Pile에서 훈련된 Pythia 제품군이 포함됩니다.
안정LM GPT-3와 유사한 성능을 가진다고 주장하며, 훨씬 적은 수의 매개변수(7억 대 175억)를 사용하면서 ChatGPT를 지원하는 언어 모델입니다. 매개변수는 모델이 교육 데이터에서 학습하는 데 사용하는 변수입니다. 매개변수가 적으면 모델이 더 작고 효율적이어서 스마트폰 및 노트북과 같은 로컬 장치에서 더 쉽게 실행할 수 있습니다.
안정LM The Pile을 기반으로 한 새로운 데이터 세트에 대한 교육, 1,5조 3천억 개의 토큰이 포함되어 있으며 이는 The Pile 크기의 약 XNUMX배입니다. The Pile은 언어 모델 훈련을 위한 고품질의 다양한 데이터 세트입니다.
Stability AI는 템플릿이 GitHub 리포지토리에서 이미 사용 가능하며 전체 백서가 곧 제공될 것이라고 언급하며 StableLM 제품군을 출시하면서 개발자 및 연구원과 계속 협력할 수 있기를 기대합니다.
또한 그들은 RLHF 공개 협업 프로그램을 시작하고 Open Assistant와 같은 커뮤니티 노력과 협력하여 AI 도우미를 위한 오픈 소스 데이터 세트를 생성한다고 언급합니다.
마지막으로 중요한 것은 Stability AI 릴리스에 대해 말하자면, 우리는 그것이 발표했다는 점을 강조할 수 있습니다. 의 베타 릴리스 SDXL (Stable Diffusion Extra Large의 약자)는 텍스트 설명에서 이미지를 생성할 수 있는 새로운 인공 지능 모델입니다. SDXL은 SD, SDT 및 SDC 모델도 포함하는 Stable Diffusion 제품군의 최신 추가 제품입니다.
SDXL은 크기와 기능 면에서 다른 모델과 다릅니다. 2300억 개의 매개변수가 있는 SDXL은 2,5억 890천만 개에 불과한 원래 SD 모델보다 XNUMX배 이상 큽니다. 이러한 추가 매개변수를 통해 SDXL은 복잡한 패턴을 더 잘 준수하는 이미지를 생성할 수 있습니다. 예를 들어 SDXL은 이미지에 읽을 수 있는 텍스트를 생성하거나 가상 인물의 놀랍도록 사실적인 초상화를 만들 수 있습니다.
SDXL은 현재 DreamStudio 및 NightCafe Creator와 같은 기타 널리 사용되는 이미징 응용 프로그램에서 베타 버전입니다. 모든 Stability AI 모델과 마찬가지로 SDXL은 곧 최적의 접근성을 위한 오픈 소스로 출시될 예정입니다. Stability AI는 윤리적 및 법적 지침을 따르는 한 SDXL이 상업적 및 비상업적 사용에 대해 허가를 받았다고 발표합니다.
마지막으로, 그것에 대해 더 알고 싶다면 자세한 내용을 참조하십시오. 다음 링크에서.