Clàr-innse[Falaich][Seall]
Chaidh GPT-3, lìonra mòr neural an-dràsta, fhoillseachadh sa Chèitean 2020 le OpenAI, an tòiseachaidh AI a cho-stèidhich Elon Musk agus Sam Altman. Tha GPT-3 na mhodail cànain ùr-nodha le paramadairean 175 billean an coimeas ri paramadairean 1,5 billean anns an GPT-2 a bh’ ann roimhe.
Rinn GPT-3 coileanadh nas fheàrr na modal NLG Turing aig Microsoft (Turing Natural Language Generation), a bha roimhe seo air a’ chlàr airson an lìonra neural as motha le paramadairean 17 billean.
Tha am modail cànain air a mholadh, air a chàineadh, agus eadhon air a sgrùdadh; tha e cuideachd air cleachdaidhean ùra agus inntinneach a shìolachadh. Agus a-nis tha aithrisean ann gu bheil GPT-4, an ath iris den OpenAI modail cànain, gu dearbh a’ tighinn a dh’ aithghearr.
Tha thu air an làrach cheart a ruighinn ma tha thu airson barrachd ionnsachadh mun GPT-4. Bheir sinn sùil mhionaideach air an GPT-4 san artaigil seo, a’ còmhdach a chrìochan, mar a tha e an coimeas ri modalan eile, agus barrachd.
Mar sin, dè a th’ ann an GPT-4?
Gus farsaingeachd GPT-4 a thuigsinn, feumaidh sinn an toiseach GPT-3 a thuigsinn, an ro-ruithear aige. Tha GPT-3 (Cruth-atharrachaidh Generative Ro-thrèanadh, treas ginealach) na inneal fèin-riaghlaidh airson susbaint a chruthachadh.
Bidh luchd-cleachdaidh a’ cuir a-steach dàta a ionnsachadh innealan modail, a dh’ fhaodas meudan mòra de sgrìobhadh iomchaidh a thoirt gu buil mar fhreagairt, a rèir OpenAI. Bidh GPT-4 gu math nas fheàrr air ioma-obair ann an suidheachaidhean glè bheag - seòrsa de ionnsachadh innealan - a’ toirt na builean eadhon nas fhaisge air toraidhean dhaoine.
Cosgaidh GPT-3 na ceudan de mhilleanan notaichean ri thogail, ach thathar an dùil gun cosg GPT-4 mòran a bharrachd oir bidh e còig ceud uair nas motha ann an sgèile. Gus seo a chur ann an sealladh,
Is dòcha gu bheil uimhir de fheartan aig GPT-4 ri synapses san eanchainn. Cleachdaidh GPT-4 na h-aon dhòighean ri GPT-3 sa mhòr-chuid, mar sin seach a bhith na leum paradigm, leudaichidh GPT-4 air na tha GPT-3 a’ coileanadh an-dràsta - ach le comas co-dhùnaidh mòran nas motha.
Leig GPT-3 le luchd-cleachdaidh cànan nàdarrach a dhol a-steach airson adhbharan practaigeach, ach bha feum aige fhathast air beagan eòlais gus inneal-tòiseachaidh a dhealbhadh a bheireadh deagh thoraidhean. Bidh GPT-4 gu math nas fheàrr air ro-innse rùintean luchd-cleachdaidh.
Dè na paramadairean GPT-4 a bhios ann?
A dh’ aindeoin a bhith mar aon de na h-adhartasan AI as motha ris an robhar a’ feitheamh, chan eil fios againn càil mu GPT-4: cò ris a bhios e coltach, dè na feartan a bhios aige, agus dè na cumhachdan a bhios aige.
An-uiridh, rinn Altman Q&A agus nochd e beagan mion-fhiosrachaidh mu rùintean OpenAI airson GPT-4. Cha bhiodh e nas motha na GPT-3, a rèir Altman. Chan eil e coltach gur e GPT-4 an cleachdadh as fharsainge modail cànain. Ged a bhios am modail gu math mòr an taca ri ginealaichean roimhe de lìonraidhean neònach, cha bhi a mheud 'na fheart comharraichte. Is e GPT-3 agus Gopher na tagraichean as so-chreidsinneach (175B-280B).
Chùm Nvidia agus Megatron-Turing NLG aig Microsoft an clàr airson an lìonra neural as dùmhail paramadairean aig 530B - trì tursan nas àirde na GPT-3 - gu o chionn ghoirid nuair a thug PaLM Google e aig 540B. Gu h-iongantach, rinn grunn mhodalan nas lugha na b’ fheàrr na an MT-NLG.
A rèir ceangal cumhachd-lagh, cho-dhùin Jared Kaplan bho OpenAI agus a cho-obraichean ann an 2020, nuair a thathas a’ giullachd àrdachadh buidseit sa mhòr-chuid air àrdachadh na h-àireamh de pharamadairean, gu bheil coileanadh a’ leasachadh as motha. Lean Google, Nvidia, Microsoft, OpenAI, DeepMind, agus companaidhean modaladh cànain eile gu umhail ris na riaghailtean.
Chomharraich Altman nach robh iad a-nis ag amas air modalan mòra a thogail, ach air coileanadh mhodalan nas lugha a mheudachadh.
Bha luchd-rannsachaidh OpenAI nan luchd-taic tràth den bheachd-bharail sgèileachaidh, ach is dòcha gu robh iad air faighinn a-mach gum faodadh slighean a bharrachd, nach deach a lorg roimhe, leantainn gu modalan nas fheàrr. Cha bhi GPT-4 mòran nas motha na GPT-3 airson na h-adhbharan sin.
Cuiridh OpenAI barrachd fòcas air taobhan eile, leithid dàta, algoirmean, parameterization, agus co-thaobhadh, aig a bheil comas buannachdan mòra a thoirt a-mach nas luaithe. Feumaidh sinn feitheamh gus faicinn dè as urrainn do mhodail le paramadairean 100T a dhèanamh.
Prìomh phuingean:
- Meud a 'mhodail: Bidh an GPT-4 nas motha na an GPT-3, ach chan ann le mòran (MT-NLG 530B agus PaLM 540B). Bidh meud a ’mhodail gun samhail.
- Feallsanachd: Cleachdaidh GPT-4 barrachd ghoireasan na GPT-3. Cuiridh e an gnìomh seallaidhean ùra de optimality air parameterization (hyperparameters as fheàrr) agus dòighean sgèileachaidh (tha àireamh de chomharran trèanaidh cho cudromach ri meud modail).
- Ioma-mhodh: Chan urrainn don GPT-4 ach teachdaireachdan teacsa a chuir agus fhaighinn (chan e ioma-mhodal). Tha OpenAI a’ feuchainn ri modalan cànain a phutadh chun chrìochan aca mus gluais iad gu modalan ioma-mhodhail mar DALL 2, a tha iad a’ ro-innse a bheir bàrr air siostaman unimodal aig a’ cheann thall.
- Sgarachd: Bidh GPT-4, mar an fheadhainn a thàinig roimhe GPT-2 agus GPT-3, na mhodail dùmhail (thèid a h-uile paramadair a chleachdadh gus cuir a-steach sam bith a phròiseasadh). Anns an àm ri teachd, bidh gainnead nas cudromaiche.
- Co-thaobhadh: Thig GPT-4 thugainn nas dlùithe na GPT-3. Cuiridh e na tha e air ionnsachadh bho InstructGPT, a chaidh a leasachadh le taic daonna. Ach, tha co-ghluasad AI fada air falbh, agus bu chòir oidhirpean a mheasadh gu faiceallach seach a bhith a’ dèanamh cus cus.
Co-dhùnadh
Artificial Intelligence. Tha e na amas mòr, ach tha luchd-leasachaidh OpenAI ag obair gus a choileanadh. Is e amas AGI modal no “àidseant” a chruthachadh a tha comasach air gnìomhachd sam bith as urrainn do dhuine a thuigsinn agus a dhèanamh.
Is dòcha gur e GPT-4 an ath cheum ann a bhith a’ coileanadh an amais seo, agus tha e coltach ri rudeigin a-mach à film ficsean saidheans. Is dòcha gu bheil thu a’ faighneachd dè cho fìrinneach ‘s a tha e AGI a choileanadh.
Buailidh sinn a’ chlach-mhìle seo ro 2029, a rèir Ray Kurzweil, Stiùiriche Innleadaireachd Google. Le seo san amharc, leig dhuinn sùil nas doimhne a thoirt air GPT-4 agus buaidh a’ mhodail seo mar a thig sinn nas fhaisge air AGI (Artificial General Intelligence).
Leave a Reply