Clár na nÁbhar[Folaigh][Taispeáin]
Foilsíodh GPT-3, gréasán mór neural na huaire, i mBealtaine 2020 le OpenAI, an tosaithe AI a chomhbhunaigh Elon Musk agus Sam Altman. Is samhail teanga ceannródaíoch é GPT-3 le 175 billiún paraiméadair i gcomparáid le 1,5 billiún paraiméadair ina réamhtheachtaí GPT-2.
D’fheidhmigh GPT-3 níos fearr ná samhail NLG Turing Microsoft (Turing Natural Language Generation), a raibh an taifead roimhe seo don líonra néaraíoch is mó le 17 billiún paraiméadair.
Moladh, cáineadh, agus fiú scrúdaíodh an múnla teanga; tá úsáidí nua agus suimiúla tar éis éirí as freisin. Agus anois tá tuairiscí ann go bhfuil GPT-4, an chéad eagrán eile den OpenAI múnla teanga, go deimhin beidh sé ag teacht go luath.
Tá an suíomh ceart bainte amach agat más mian leat tuilleadh a fhoghlaim faoin GPT-4. Breathnóimid ar an GPT-4 go domhain san Airteagal seo, ag clúdach a paraiméadair, conas é a chur i gcomparáid le samhlacha eile, agus níos mó.
Mar sin, Cad é GPT-4?
Chun raon feidhme GPT-4 a thuiscint, ní mór dúinn GPT-3 a thuiscint ar dtús, a réamhtheachtaí. Uirlis uathrialach ginte ábhar is ea GPT-3 (Claochladán Réamhthraenáilte Gineadach, tríú glúin).
Cuireann úsáideoirí sonraí isteach a foghlaim meaisín samhail, a fhéadfaidh méideanna ollmhóra scríbhneoireachta ábhartha a tháirgeadh ina dhiaidh sin mar fhreagra, de réir OpenAI. Beidh GPT-4 i bhfad níos fearr ag iltasking i gcoinníollacha cúpla lámhaigh - cineál de foghlaim meaisín – na torthaí a thabhairt níos gaire fós do thorthaí daoine.
Cosnaíonn GPT-3 na céadta milliún punt le tógáil, ach táthar ag tuar go gcosnóidh GPT-4 i bhfad níos mó toisc go mbeidh sé cúig chéad uair níos mó i scála. Chun é seo a chur i bpeirspictíocht,
D’fhéadfadh an oiread tréithe a bheith ag GPT-4 agus a bhíonn ag synapses san inchinn. Bainfidh GPT-4 úsáid as na modhanna céanna go príomha le GPT-3, mar sin seachas a bheith ina léim paradigm, leathnóidh GPT-4 ar an méid a bhaineann GPT-3 amach faoi láthair - ach le cumas tátail i bhfad níos mó.
Thug GPT-3 deis d’úsáideoirí dul isteach sa teanga nádúrtha chun críocha praiticiúla, ach bhí roinnt saineolais ag teastáil fós chun leid a dhearadh a thabharfadh torthaí maithe. Beidh GPT-4 i bhfad níos fearr maidir le hintinn na n-úsáideoirí a thuar.
Cad iad na paraiméadair GPT-4?
In ainneoin a bheith ar cheann de na dul chun cinn AI is mó a bhfuiltear ag súil leis, níl aon rud ar eolas faoi GPT-4: cén chuma a bheidh air, cad iad na tréithe a bheidh aige, agus cad iad na cumhachtaí a bheidh aige.
Anuraidh, rinne Altman Q&A agus nocht sé roinnt sonraí faoi uaillmhianta OpenAI do GPT-4. Ní bheadh sé níos mó ná GPT-3, de réir Altman. Ní dócha gurb é GPT-4 an ceann is mó a úsáidtear go forleathan múnla teanga. Cé go mbeidh an tsamhail ollmhór i gcomparáid leis na glúnta roimhe seo de líonraí neural, ní bheidh a mhéid ina shaintréith idirdhealaitheach. Is iad GPT-3 agus Gopher na hiarrthóirí is sochreidte (175B-280B).
Choinnigh Nvidia agus Megatron-Turing NLG de chuid Microsoft an taifead don líonra néarúil is dlúithe paraiméadair ag 530B – trí huaire níos mó ná GPT-3 – go dtí le déanaí nuair a ghlac PaLM Google é ag 540B. Is ionadh é gur sháraigh líon samhlacha níos lú ná an MT-NLG.
De réir nasc dlí cumhachta, chinn Jared Kaplan de chuid OpenAI agus a chomhghleacaithe in 2020, nuair a chaitear méaduithe buiséid a phróiseáil go príomha ar líon na bparaiméadar a mhéadú, go bhfeabhsaítear an fheidhmíocht is mó. Lean Google, Nvidia, Microsoft, OpenAI, DeepMind, agus cuideachtaí samhaltaithe teanga eile na rialacháin go géilliúil.
Léirigh Altman nach raibh siad ag díriú a thuilleadh ar mhúnlaí ollmhóra a thógáil, ach ar fheidhmíocht samhlacha níos lú a uasmhéadú.
Ba iad taighdeoirí OpenAI a mhol an hipitéis scálaithe go luath, ach b’fhéidir go bhfuair siad amach go bhféadfadh samhlacha níos fearr a bheith mar thoradh ar chosáin bhreise nár aimsíodh roimhe seo. Ní bheidh GPT-4 i bhfad níos mó ná GPT-3 ar na cúiseanna seo.
Díreoidh OpenAI níos mó ar ghnéithe eile, amhail sonraí, algartaim, paraiméadarú, agus ailíniú, a bhfuil an cumas acu tairbhí suntasacha a bhaint amach níos tapúla. Beidh orainn fanacht agus a fheiceáil cad is féidir le múnla le paraiméadair 100T a dhéanamh.
Príomhphointí:
- Méid an mhúnla: Beidh an GPT-4 níos mó ná an GPT-3, ach ní i bhfad (MT-NLG 530B agus PaLM 540B). Ní bheidh méid an tsamhail suntasach.
- Optimality: Úsáidfidh GPT-4 níos mó acmhainní ná GPT-3. Cuirfidh sé léargais nua optamachta i bhfeidhm ar pharaiméadarú (hyperparaiméadar optamach) agus ar mhodhanna scálaithe (tá líon na n-airíonna oiliúna chomh tábhachtach le méid an mhúnla).
- Ilmhódúlacht: Ní bheidh an GPT-4 in ann ach teachtaireachtaí téacs a sheoladh agus a fháil (ní ilmhódach). Féachann OpenAI le samhlacha teanga a bhrú chun a dteorainneacha sula n-aistrítear go samhlacha ilmhódacha mar DALL 2, rud a thuar siad a sháróidh sa deireadh córais aonmhódúla.
- teimhneacht: Beidh GPT-4, cosúil leis na réamhtheachtaithe GPT-2 agus GPT-3, ina mhúnla dlúth (beidh na paraiméadair go léir in úsáid chun aon ionchur tugtha a phróiseáil). Sa todhchaí, beidh an teimhneacht níos tábhachtaí.
- Ailíniú: Beidh GPT-4 níos dlúithe linn ná GPT-3. Cuirfidh sé an méid atá foghlamtha aige ó InstructGPT, a forbraíodh le hionchur daonna. Fós féin, tá cóineasú AI i bhfad amach, agus ba cheart iarrachtaí a mheas go cúramach seachas áibhéil.
Conclúid
Intleacht Ghinearálta Saorga. Is cuspóir mór é, ach tá forbróirí OpenAI ag obair chun é a bhaint amach. Is é sprioc AGI samhail nó “gníomhaire” a chruthú a bheidh in ann aon ghníomhaíocht ar féidir le duine a thuiscint agus a dhéanamh.
B'fhéidir gurb é GPT-4 an chéad chéim eile chun an aidhm seo a bhaint amach, agus is cosúil le rud éigin as scannán ficsean eolaíochta é. D'fhéadfá a bheith ag smaoineamh ar cé chomh réalaíoch atá sé AGI a bhaint amach.
Bainfimid an chloch mhíle seo amach faoi 2029, dar le Ray Kurzweil, Stiúrthóir Innealtóireachta Google. Agus é seo san áireamh, déanaimis breathnú níos doimhne ar GPT-4 agus ar iarmhairtí an mhúnla seo agus muid ag druidim le hAGI (Intleacht Ghinearálta Saorga).
Leave a Reply