Bishii Maajo 2020, OpenAI, oo ah shirkadda AI oo ay wada aasaaseen Elon Musk iyo Sam Altman, ayaa daabacay GPT-3, ka dibna loo soo bandhigay inay tahay shabakadda neerfaha weyn ee xilligan. Qaab luqadeed oo casri ah, GPT-3 waxaa ku jira 175 bilyan oo cabbir marka la barbar dhigo 1,5 bilyan oo cabbirkii ka horreeyay ee GPT-2.
GPT-3 garaac model NLG Turing (Turing Natural Language Generation) oo ka socda Microsoft oo leh 17 bilyan oo cabbir kuwaas oo hore u haystay rikoodhka shabakadda neerfaha ee ugu weyn. Qaabka luqadda waa lala yaabay, la dhaleeceeyay oo xitaa la baadhay; Waxa kale oo ay heshay codsiyo cusub oo xiiso leh.
Iyo hada Wararka xanta ah ayaa la sii daayay in la sii daayay GPT-4, nooca xiga ee qaabka luqadda OpenAI, ayaa dhawaan iman kara.
In kastoo Wali lama shaacin taariikhda la sii deynayo, OpenAI waxa ay siisay tilmaamo ku saabsan sifooyinka qofka ku guulaysta GPT-3, kuwaas oo ay dad badani filan karaan, in GPT-4 aanu ka weynayn GPT-3, balse waa in la isticmaalo ilo xisaabeed oo badan, taas oo xaddidaysa saamaynta deegaanka.
Inta lagu jiro fadhiga, Altman ayaa si maldahan u sheegay, liddi ku ah caqiidada caanka ah, GPT-4 ma noqon doono qaabka luqadda ugu weyn. Qaabku wuxuu shaki la'aan ka weynaan doonaa jiilalka hore ee shabakadaha neerfaha, laakiin cabbirku ma noqon doono calaamad.
Marka hore, shirkaduhu waxay ogaadeen in isticmaalka cabbirka moodeelka sida tilmaame si loo hagaajiyo waxqabadka aysan ahayn habka kaliya ama habka ugu wanaagsan ee loo sameeyo. 2020, Jared Kaplan iyo asxaabtiisa OpenAI ayaa lagu soo waramayaa inay soo gabagabeeyeen in wax qabadku uu soo hagaago inta badan marka la kordhiyo miisaaniyada xisaabinta ayaa ugu horrayn loo qoondeeyay kordhinta tirada qiyaasaha, iyadoo la raacayo xiriirka sharciga. Google, Nvidia, Microsoft, OpenAI, DeepMind, iyo shirkado kale oo horumariya moodooyinka luqadda waxay u qaateen tilmaamahan si qiimo leh.
Laakiin MT-NLG (Megatron-Turing NLG, oo ah shabakad neerfaha ah oo ay dhiseen Nvidia iyo Microsoft sannadkii hore oo leh 530 bilyan oo cabbir), sida ay tahay, maahan tan ugu fiican marka ay timaado waxqabadka. Dhab ahaantii, laguma qiimayn sida ugu fiican nooc kasta oo bartilmaameed ah. Moodooyinka yaryar sida Gopher ama Chinchilla (70 bilyan oo cabbir), qayb yar oo ka mid ah cabbirkooda, ayaa aad uga fiicnaan lahaa MT-NLG dhammaan hawlaha. Sidaa darteed, waxaa caddaatay in cabbirka qaabkani aanu ahayn qodobka keliya ee keenaya in si fiican loo fahmo luqadda.
Sida laga soo xigtay Altman, moodooyinka luqaddu waxay la kulmaan xaddidaad halis ah. marka ay timaado tayaynta. Tababarku wuxuu noqon lahaa mid aad qaali u ah in shirkaduhu ay u dhexgalaan saxnaanta iyo qiimaha. Tani waxay badanaa keentaa in moodooyinka si liidata loo hagaajiyo.
Maamulaha guud ayaa sheegay in GPT-3 la tababaray hal mar oo kaliya, in kasta oo ay jiraan khaladaadyo mararka qaar ay keeni lahaayeen in dib loo tababaro. Sababtaas awgeed, OpenAI ayaa lagu soo waramayaa inay go'aansatay inay ka soo horjeedo qiimaha aan la awoodi karin, taas oo ka hor istaagtay cilmi-baarayaasha inay helaan habka ugu wanaagsan ee hyperparameters ee qaabka.
Cawaaqibta kale ee kharashka tababarka sare waa in falanqaynta hab-dhaqanka moodeelka la xaddidi doono. Sida laga soo xigtay hal warbixin, markii cilmi-baarayaasha AI ay soo gabagabeeyeen in cabbirka qaabka uu yahay isbeddelka ugu habboon ee hagaajinta waxqabadka, ma tixgelin tirada calaamadaha tababarka, taas oo ah, qadarka xogta la siiyay moodooyinka. Tani waxay u baahan lahayd xaddi aan caadi ahayn oo agab xisaabeed ah. Shirkadaha teknolojiyadda ayaa la sheegay inay raaceen natiijooyinka cilmi-baarayaasha sababtoo ah waxay ahayd tan ugu wanaagsan ee ay haystaan.
Altman ayaa sheegay in GPT-4 ay isticmaali doonto xisaabin badan oo ka badan kuwii ka horreeyay. OpenAI waxaa la filayaa inay hirgeliso fikradaha laxidhiidha hagaajinta ee GPT-4, in kasta oo ilaa xad aan la saadaalin karin maadaama aan miisaaniyadeeda la garanayn.
Si kastaba ha ahaatee, weedhaha Altman waxay tusinaysaa in OpenAI ay diiradda saarto hagaajinta doorsoomayaasha aan ka ahayn cabbirka moodeelka.. Helitaanka habka ugu wanaagsan ee hyperparameters, cabbirka moodeelka ugu habboon, iyo tirada cabbirrada waxay u horseedi kartaa horumarro cajiib ah dhammaan bartilmaameedyada.
Sida laga soo xigtay falanqeeyayaasha, dhammaan saadaasha moodooyinka luqaddu way burburi doonaan haddii hababkan la isku daro hal qaab. Altman waxa kale oo uu sheegay in dadku aanay rumaysan doonin inta ay le’eg yihiin moodooyinka ka wanaagsan iyaga oo aan daruuri ahayn in ay ka weynaadaan. Waxa laga yaabaa in ay soo jeedinayso in dadaallada miisaanku hadda dhammaaday.
OpenAI ayaa lagu soo waramayaa inay dadaal badan gelisay xallinta dhibaatada isku xirka AI: sida loo sameeyo moodooyinka luqadda inay raacaan ujeeddooyinka aadanaha oo ay u hoggaansamaan qiyamka aadanaha?
Falanqeeyayaasha ayaa sheegaya in tani aysan ahayn kaliya dhibaato xisaabeed oo adag (sidee uga dhigi karnaa AI inay si sax ah u fahmaan waxa aan rabno?), Laakiin sidoo kale falsafada (ma jirto hab caalami ah oo lagu waafajiyo AI bini'aadamka, tan iyo kala duwanaanshaha qiyamka aadanaha koox ilaa koox waa mid aad u weyn oo inta badan khilaafsan).
Finalmente hadaad xiisaynayso inaad waxbadan ka ogaatowaxaad tixraaci kartaa boostada asalka ah Xiriirka soo socda.