Ko tetahi raruraru matarohia i roto i te matauranga hangai ko te whai i te miihini e mohio ana ki te reo tangata.
Hei tauira, i te wa e rapu ana koe mo nga "wharekai Itari tata" i runga i to miihini rapu tino pai, me tātari e te algorithm ia kupu i roto i to patai me te whakaputa i nga hua e tika ana. Ko te tono whakamaori tika me maarama ki te horopaki o tetahi kupu i te reo Ingarihi me te whakaatu i nga rereketanga o te wetereo i waenga i nga reo.
Ko enei mahi katoa me te maha atu ka taka ki raro i te waahanga o te puutaiao rorohiko e kiia nei ko Mahinga Reo Reo Maori NLP ranei. Ko nga ahunga whakamua i roto i te NLP kua arahina ki te maha o nga tono whaihua mai i nga kaiawhina mariko penei i a Amazon's Alexa ki nga whiriwhiringa mokowhiti ka kitea he imeera kino.
Ko te pakaruhanga hou i roto i te NLP ko te whakaaro o te tauira reo nui LLM ranei. Ko nga LLM penei i te GPT-3 kua tino kaha te ahua kua angitu ratou i roto i te tata ki nga mahi NLP me nga keehi whakamahi.
I roto i tenei tuhinga, ka titiro tatou he aha nga LLM, pehea te whakangungu o enei tauira, me nga herenga o naianei.
He aha te tauira reo nui?
Ko te mea nui, ko te tauira reo he algorithm noa e mohio ana ki te ahua o te raupapa kupu he rerenga whaimana.
Ko te tauira reo tino ngawari i whakangungua i runga i etahi rau pukapuka e tika ana ki te korero "I haere ia ki te kainga" he pai ake i te "Home went he".
Mena ka whakakapihia e tatou te huingararaunga iti nei me te huingararaunga nui i waruhia mai i te ipurangi, ka timata tatou ki te whakatata ki te whakaaro a tauira reo nui.
Mā te te ahunga taiao, Ka taea e nga kairangahau te whakangungu i nga LLM i runga i te nui o nga raraunga kuputuhi. Na te nui o nga raraunga kuputuhi kua kitea e te tauira, ka tino pai te LLM ki te matapae i te kupu e whai ake nei i roto i te raupapa.
Ka tino maamaa te tauira, ka taea e ia te maha o nga mahi NLP. Kei roto i enei mahi te whakarapopototanga o nga tuhinga, te hanga tuhinga hou, tae atu ki te whakataurite i nga korero penei i te tangata.
Hei tauira, ko te tauira reo GPT-3 tino rongonui kua whakangungua me te neke atu i te 175 piriona tawhā ka kiia ko te tauira reo tino matatau rawa atu i tenei wa.
Ka taea e ia te whakaputa waehere mahi, te tuhi i nga tuhinga katoa, ka taea e ia te whai waahi ki te whakautu i nga paatai mo tetahi kaupapa.
Me pehea te Whakangungu LLM?
Kua korero poto matou mo te mea he nui te mana o nga LLM ki te rahi o a raatau raraunga whakangungu. He take i kiia ai he tauira reo "nui" i muri i nga mea katoa.
Whakangungu i mua me te Hangahanga Whakawhiti
I te wa o mua i te whakangungu, ka whakauruhia nga LLM ki nga raraunga tuhinga o naianei hei ako i te hanganga whanui me nga ture o te reo.
I nga tau kua pahure ake nei, kua whakangungua nga LLM ki runga i nga huingararaunga e kapi ana i tetahi waahanga nui o te ipurangi a-iwi. Hei tauira, i whakangungua te tauira reo a GPT-3 ki nga raraunga mai i te Ngokingoki noa huingararaunga, he huinga o nga whakairinga paetukutuku, wharangi paetukutuku, me nga pukapuka whakamamati i waruhia mai i te 50 miriona rohe.
Ko te huingararaunga nui ka whangaia ki tetahi tauira e mohiotia ana ko a hiko. Ko nga Kaihuri he momo whatunga neural hohonu e mahi pai ana mo nga raraunga raupapa.
Ka whakamahia e nga Kaihuri he hoahoanga whakawaehere-whakawaehere mo te whakahaere i te whakauru me te whakaputa. Ko te tikanga, e rua nga whatunga neural kei roto i te kaitahuri: he encoder me te wetewaehere. Ka taea e te encoder te tango i te tikanga o te tuhinga whakauru me te penapena hei vector. Ka riro i te wewetewaehere te vector me te whakaputa i tana whakamaaramatanga o te tuhinga.
Heoi, ko te kaupapa matua i taea ai te mahi pai o te hangahanga hurihanga ko te taapiri a tikanga aro-whaiaro. Ko te ariā o te aro whaiaro i taea e te tauira te aro ki nga kupu tino nui i roto i tetahi rerenga korero. Ka whakaarohia e te miihini nga taumahatanga i waenga i nga kupu e matara haere ana.
Ko tetahi atu painga o te aro-whaiaro ko te mahi ka taea te whakarara. Engari ki te tukatuka i nga raraunga raupapa i runga i te raupapa, ka taea e nga tauira whakawhiti te tukatuka i nga whakaurunga katoa i te wa kotahi. Ma tenei ka taea e nga kaihurihuri ki te whakangungu i runga i te nui o nga raraunga ka rite ki etahi atu tikanga.
Tuning-pai
Whai muri i te waahi whakangungu, ka taea e koe te kowhiri ki te whakauru i nga tuhinga hou mo te turanga LLM hei whakangungu. Ka kiia e matou tenei tukanga whakatikatika pai ka whakamahia hei whakapai ake i te putanga o te LLM i runga i tetahi mahi motuhake.
Hei tauira, ka hiahia pea koe ki te whakamahi i te LLM hei whakaputa ihirangi mo to putea Twitter. Ka taea e matou te whakarato i te tauira me nga tauira maha o o tweets o mua ki te hoatu he whakaaro mo te putanga e hiahiatia ana.
He torutoru noa nga momo o te whakatikatika pai.
Te ako-poto e pa ana ki te tukanga o te tuku tauira i te iti o nga tauira me te tumanako ka mohio te tauira reo me pehea te whakaputa i nga putanga rite. Te ako-kotahi he rite tonu te tukanga engari kotahi noa te tauira ka whakaratohia.
Te herenga o nga Tauira Reo Nui
Ko nga LLM penei i te GPT-3 ka kaha ki te mahi i te maha o nga keehi whakamahi ahakoa karekau he whakatikatika. Heoi, kei te haere tonu enei tauira me o raatau ake herenga.
Te kore o te Maramatanga Semantic mo te Ao
I te mata, ka kitea e nga LLM te mohio. Heoi, kaore enei tauira e mahi i te huarahi ano roro tangata mahi. Ka whakawhirinaki noa nga LLM ki nga tatauranga tatauranga hei whakaputa putanga. Karekau he kaha ki te whakaputa whakaaro me o raatau ake whakaaro.
Na tenei, ka taea e te LLM te whakaputa i nga whakautu poauau noa na te mea he "tika" te ahua o nga kupu "te ahua tatauranga" ranei ina whakatakotohia ki taua raupapa.
Ngā hanganga
Ko nga tauira penei i te GPT-3 ka mamae ano i nga whakautu kore tika. Ka mate nga LLM i tetahi ahuatanga e mohiotia ana ko pōhēhē ka whakaputa nga tauira i te whakautu he pono me te kore e mohio kaore he take o te whakautu.
Hei tauira, ka tono pea te kaiwhakamahi ki te tauira ki te whakamarama i nga whakaaro o Steve Jobs mo te iPhone hou. Ka taea e te tauira te whakaputa korero mai i te hau kikokore i runga i ana raraunga whakangungu.
Nga Pihaa me te Matauranga Iti
Pērā i te maha atu o ngā hātepee, ko ngā tauira reo nui ka kaha ki te tuku iho i nga rītaha kei roto i nga raraunga whakangungu. I a tatou e tiimata ana ki te whakawhirinaki atu ki nga LLM ki te tiki korero, me rapu nga kaiwhakawhanake o enei tauira i nga huarahi hei whakaiti i nga paanga kino pea o nga whakautu piro.
I roto i te kaha rite, ko nga matapo o nga raraunga whakangungu o te tauira ka aukati i te tauira ake. I tenei wa, ko nga tauira reo nui he marama ki te whakangungu. Ka whakawhirinaki ano enei tauira ki nga huingararaunga he iti te whanui. Koinei te take he iti noa te mohiotanga o ChatGPT mo nga kaupapa i puta i mua i te tau 2021.
Opaniraa
Ka taea e nga tauira reo nui te whakarereke i te ahuatanga o ta tatou taunekeneke ki te hangarau me to tatou ao whanui.
Na te nui o nga raraunga e waatea ana i runga ipurangi i whai huarahi ai nga kairangahau ki te whakatauira i nga uauatanga o te reo. Heoi ano, i runga i te huarahi, ko enei tauira reo te ahua kua mau ake i runga i te ahua o te tangata ki te mohiotanga o te ao.
I te wa e tiimata ana te marea ki te whakawhirinaki ki enei tauira reo ki te whakaputa tika, kei te kimi huarahi nga kairangahau me nga kaiwhakawhanake ki te taapiri i nga arai kia mau tonu ai te hangarau.
Ki to whakaaro he aha te heke mai o nga LLM?
Waiho i te Reply