Grok, чат-бот Twitter/X зі штучним інтелектом, тепер має відкритий код
xAI (компанія, співзасновником якої є Ілон Маск, підтримана приблизно мільярдом доларів на розвиток технологій, пов’язаних зі штучним інтелектом), нещодавно опублікував новину про своє рішення випустити вихідний код Grok їх LLM, який використовується в чат-боті, інтегрованому в соціальну мережу X (Twitter).
Грек пройшов попередню підготовку з використанням великої колекції даних тексту за допомогою власного навчального стека xAI. Він має приблизно 314 мільярдів параметрів, що робить його найбільшою доступною моделлю відкритої мови.
Grok тепер є відкритим кодом
Останнім часом Елеон Маск оголосив, що Grok стане відкритим кодом, що вже сталося. Це означає, що розробники з усього світу можуть спостерігати за внутрішньою роботою Grok і використовувати його для створення власних моделей ШІ.
Система чат-ботів із штучним інтелектом Grok, розроблена компанією xAI Ілона Маска, був випущений для американських користувачів платформи соціальних медіа X у грудні. Grok розроблений, щоб конкурувати з основними системами штучного інтелекту на ринку, такими як від Google і, особливо, OpenAI. Що відрізняє Грока від його конкурентів, так це його вміння поєднувати гумор і саркастичні тони, натхненні комп’ютерами зі штучним інтелектом у знаменитих книгах «Автостопом по Галактиці».
Відкрита версія моделі Grok-1 випущено в базовій версії і не містить специфічних оптимізацій для певних сфер використання, таких як організація діалогових систем. Ця модель Він має приблизно 314 мільярдів параметрів і був навчений з нуля xAI використання спеціального навчального стеку на основі JAX і Rust. xAI чітко дав зрозуміти, що вони випускають ваги та архітектуру моделі за ліцензією Apache 2.0, що дозволяє комерційне використання. Однак важливо зазначити, що ця версія не містить даних, які використовуються для навчання великої мовної моделі штучного інтелекту, і не пропонує доступу до даних у реальному часі.
Підхід Grok з відкритим вихідним кодом може підкреслити його слабкі сторони, але Маск є прихильником відкритого коду та був інвестором OpenAI. Незважаючи на це, зараз він суперечливо подає до суду на OpenAI, стверджуючи, що компанія відійшла від своїх основоположних принципів відкритості в бік гонитви за прибутковістю. Юристи Маска навіть припускають, що OpenAI тримає в таємниці частину своєї системи штучного інтелекту GPT-4 від ринку.
Маск висловив свою думку про важливість прозорості та пошуку істини в штучному інтелекті. Ви згадали, що хоча ще є над чим працювати, ваша платформа X є найбільш прозорою та шукає правду. Крім того, він критикував спроби зробити штучний інтелект різноманітним будь-якою ціною, посилаючись на недавні етичні проблеми на інших платформах.
Відкритий доступ до Grok – це спроба Маска продемонструвати відсутність упередженості в системі та демократизувати доступ до штучного інтелекту. Тепер розробники можуть використовувати код Grok для створення додатків і служб ШІ більш доступним і прозорим способом.
Нарешті, Варто зазначити, що код, Архітектура нейронної мережі та випадки використання Готовий до використання файл був доступний разом із моделлю, розмір якого становить 296 ГБ.
Щоб виконати тести з цією моделлю, Рекомендується використовувати GPU з великим об'ємом пам'яті, хоча тип необхідної пам’яті не вказано. Хоча статична версія моделі є загальнодоступною, для чат-бота Grok розробляється додаткова функція, яка динамічно інтегрується з новим контентом. Ця динамічна інтеграція досягається завдяки співпраці з платформою X/Twitter, що забезпечує доступ до нових знань у режимі реального часу.
Якщо вам цікаво дізнатися більше про це, ви можете перевірити подробиці в наступне посилання.