Table of Contents[Qari][muuji]
GPT-3, shabakadda neerfaha weyn ee xilligan, ayaa la daabacay Maajo 2020 by OpenAI, Bilawga AI oo ay wada aasaaseen Elon Musk iyo Sam Altman. GPT-3 waa nooc luqadeed gees-goyn leh oo leh 175 bilyan oo cabbir marka la barbar dhigo 1,5 bilyan oo cabbiraadkii ka horreeyay ee GPT-2.
GPT-3 waxa uu ka sare maray qaabka Microsoft ee NLG Turing (Turing Natural Language Generation), kaas oo hore u haystay rikoodhka shabakada neerfaha ee ugu weyn oo leh 17 bilyan oo cabbir.
Qaabka luqadda waa la ammaanay, la naqdiyey, oo weliba la baadhay; Waxa kale oo ay soo saartay isticmaal cusub oo xiiso leh. Oo hadda waxaa jira warar sheegaya in GPT-4, daabacaadda soo socota ee OpenAI qaabka luqadda, runtii waa soo socdaa dhawaan.
Waxaad timid goobta saxda ah haddii aad rabto inaad wax badan ka ogaato GPT-4. Waxaan si qoto dheer u eegi doonaa GPT-4 ee maqaalkan, oo daboolaya xuduudaheeda, sida ay u barbar dhigto moodooyinka kale, iyo in ka badan.
Haddaba, waa maxay GPT-4?
Si loo fahmo baaxadda GPT-4, waa inaan marka hore fahamnaa GPT-3, horudhaceeda. GPT-3 (Tababaraha Horay loo tababaray ee Generative, jiilka saddexaad) waa qalab wax soo saara oo iskeed u madax bannaan.
Isticmaalayaashu waxay geliyaan xogta a barashada mashiinka model, kaas oo markaas ka dib soo saari kara xaddi badan oo qoraal ah oo ku habboon jawaabta, sida uu qabo OpenAI. GPT-4 ayaa si aad ah ugu fiicnaan doonta hawl-qabadyo badan oo xaalado dhowr ah - nooc ka mid ah barashada mashiinka - keenista natiijooyinka xitaa ku dhawaad kuwa aadanaha.
GPT-3 waxay ku kacaysaa boqolaal milyan oo gini si loo dhiso, laakiin GPT-4 ayaa la saadaalinayaa inay ku kici doonto kharash aad u badan sababtoo ah waxay noqon doontaa shan boqol oo jeer ka weyn miisaanka. Si taas loo eego.
GPT-4 waxa laga yaabaa in ay leedahay sifooyin badan sida synapses ee maskaxda. GPT-4 waxay inta badan adeegsan doontaa habab la mid ah kan GPT-3, sidaas darteed halkii ay ahaan lahayd boodbood, GPT-4 waxay sii ballaarin doontaa waxa GPT-3 hadda qabto - laakiin leh awood la'aan oo aad u weyn.
GPT-3 waxay u ogolaatay isticmaalayaasha inay galaan luqadda dabiiciga ah ujeedooyin wax ku ool ah, laakiin wali waxay u baahnayd khibrad si ay u naqshadeeyaan degdeg ah oo keeni karta natiijooyin wanaagsan. GPT-4 ayaa si weyn ugu fiicnaan doonta saadaalinta ujeeddooyinka isticmaaleyaasha.
Maxay noqon doonaan halbeegyada GPT-4?
In kasta oo ay tahay mid ka mid ah horumarka aadka loo sugayo ee AI, haddana waxba lagama oga GPT-4: waxa ay u ekaan doonto, sifooyinka ay yeelan doonto, iyo awoodaha ay yeelan doonto.
Sannadkii hore, Altman wuxuu sameeyay Q&A wuxuuna daaha ka qaaday tafaasiil yar oo ku saabsan hamiga OpenAI ee GPT-4. Ma noqon doonto mid ka weyn GPT-3, sida uu qabo Altman. GPT-4 lagama yaabo inuu noqdo kan ugu isticmaalka badan qaabka luqadda. Inkasta oo qaabka uu noqon doono mid weyn marka la barbardhigo jiilalka hore ee shabakadaha neerfaha, cabbirkeedu ma noqon doono sifo lagu garto. GPT-3 iyo Gopher waa musharaxiinta ugu macquulsan (175B-280B).
Nvidia iyo Microsoft's Megatron-Turing NLG ayaa heysta rikoorka network neural cufan cabbirada 530B - saddex jeer ka GPT-3 - ilaa dhowaan markii Google's PaLM uu ku qaatay 540B. Waxa la yaab leh, tiro badan oo moodooyinka yaryar ah ayaa ka sarreeyay MT-NLG.
Marka loo eego isku xirka awooda-sharciga, OpenAI's Jared Kaplan iyo asxaabtiisa ayaa go'aamiyay 2020 in marka la socodsiiyo korodhka miisaaniyada lagu bixiyo inta badan kordhinta tirada cabirrada, waxqabadku wuxuu hagaajiyaa tan ugu weyn. Google, Nvidia, Microsoft, OpenAI, DeepMind, iyo shirkado kale oo qaabeeya luuqada waxay si adeecaan u raaceen shuruucda.
Altman waxa uu tilmaamay in aanay hadda xoogga saarayn dhisidda moodallo waaweyn, balse ay sare u qaadayaan waxqabadka moodooyinka yaryar.
Cilmi-baarayaasha OpenAI waxay hore u ahaayeen taageerayaashii mala-awaalka miisaanka, laakiin waxaa laga yaabaa inay ogaadeen in dheeraad ah, wadooyin aan hore loo ogaan ay u horseedi karaan moodallo heer sare ah. GPT-4 aad ugama weynaan doono GPT-3 sababahan dartood.
OpenAI waxay si weyn diiradda u saari doontaa dhinacyada kale, sida xogta, algorithms-yada, jaan-goynta, iyo toosinta, kuwaas oo awood u leh inay si dhakhso ah u soo saaraan faa'iidooyin muhiim ah. Waa inaan sugno oo aragnaa waxa uu samayn karo moodel leh cabbir 100T ah.
Qoddobo Muhiim Ah:
- Cabbirka qaabkaGPT-4 ayaa ka weynaan doona GPT-3, laakiin maaha wax badan (MT-NLG 530B iyo PaLM 540B). Cabbirka qaabka ayaa noqon doona mid aan la taaban karin.
- FiicanGPT-4 waxay isticmaali doontaa ilo ka badan GPT-3. Waxay hirgelin doontaa fikrado cusub oo la jaan-qaadi kara cabbiraadda (hyperparameters) iyo hababka cabbirka (tirada calaamadaha tababbarka ayaa muhiim u ah cabbirka moodeelka).
- Hababka badanGPT-4 kaliya waxa ay awood u leedahay in ay dirto oo ay hesho fariimaha qoraalka ah (ma aha multimodal). OpenAI waxay dooneysaa inay ku riixdo moodooyinka luqadda xadkooda ka hor intaysan u wareegin moodooyinka kala duwan sida DALLE 2, kuwaas oo ay saadaaliyeen in ay ugu dambeyntii dhaafi doonaan nidaamyada midnimo.
- Sparsity: GPT-4, sida kuwii ka horreeyay GPT-2 iyo GPT-3, waxay noqon doonaan moodal cufan (dhammaan xaddidaadyada ayaa la isticmaali doonaa si loo farsameeyo wax kasta oo la soo galiyo). Mustaqbalka, daciifnimadu waxay noqon doontaa mid aad muhiim u ah.
- Sinaanta: GPT-4 waxay noogu soo dhawaan doontaa si ka dhow GPT-3. Waxay dhigi doontaa waxay ka baratay InstructGPT, kaas oo lagu sameeyay fikradda aadanaha. Weli, isku dhafka AI waa fogaan fog, dadaalladana waa in si taxadar leh loo qiimeeyaa halkii la buunbuuninayo.
Ugu Dambeyn
Sirdoonka Guud ee macmalka ah. Waa ujeedo weyn, laakiin horumariyeyaasha OpenAI ayaa ka shaqeynaya sidii ay u gaari lahaayeen. Hadafka AGI waa in la abuuro nooc ama "wakiil" awood u leh inuu fahmo oo sameeyo waxqabad kasta oo qofku awoodo.
GPT-4 waxa laga yaabaa inay noqoto tillaabada xigta ee lagu gaadhayo ujeeddada, waxayna u egtahay wax ka baxsan filimada khayaaliga ah. Waxaad la yaabi kartaa sida ay macquul u tahay in la gaaro AGI.
Waxa aynu gaadhi doonnaa heerkan 2029-ka, sida uu qabo Ray Kurzweil, Agaasimaha Injineerinka Google. Anigoo taas maskaxda ku hayna, aynu si qoto dheer u eegno GPT-4 iyo raadka uu leeyahay qaabkan marka aynu ku sii dhowaano AGI (Sirdoonka Guud ee macmalka ah).
Leave a Reply