Ko te Tukatuka Reo Maori (NLP) kua huri i to maatau mahi ki nga miihini. Inaianei, ka taea e a maatau taupānga me te rorohiko te whakahaere me te mohio ki te reo tangata.
Hei ako mo te matauranga hangai, ka aro a NLP ki te taunekeneke reo maori i waenga i nga rorohiko me nga tangata.
Ka awhina i nga miihini ki te tātari, ki te mohio, ki te whakahiato i te reo tangata, ka whakatuwhera i te tini o nga tono penei i te whai korero, te whakamaori miihini, tātaritanga whakaaro, me nga chatbots.
He nui te whanaketanga i roto i nga tau tata nei, ka taea e nga miihini te mohio ki te reo engari ki te whakamahi auaha me te tika.
I roto i tenei tuhinga, ka tirohia e matou nga momo tauira reo NLP. Na, whai mai, kia ako tatou mo enei tauira!
1. BERT
Ko BERT (Bidirectional Encoder Representations from Transformers) he tauira reo Tukatuka Reo Maori (NLP). I hangaia i te tau 2018 e g a kei runga i te hoahoanga Transformer, a te whatunga taiao i hangaia hei whakamaori i te whakaurunga raupapa.
He tauira reo kua whakangungua a BERT, ko te tikanga kua whakangungua i runga i nga pukapuka maha o nga raraunga tuhinga kia mohio ai ki nga tauira reo maori me te hanganga.
He tauira anga-rua a BERT, ko te tikanga ka taea e ia te hopu i te horopaki me te tikanga o nga kupu i runga ano i o raatau rerenga korero o mua me o muri, kia angitu ake ai te maarama ki te tikanga o nga rerenga uaua.
Pehea te mahi?
Ka whakamahia te ako kaore i te tirotirohia ki te whakangungu i a BERT mo te maha o nga raraunga kuputuhi. Ka whai kaha a BERT ki te kite i nga kupu ngaro i roto i te rerenga korero, ki te whakarōpū rerenga ranei i te wa e whakangungu ana.
Ma te awhina o tenei whakangungu, ka taea e BERT te whakaputa i nga whakaurunga-kounga teitei ka taea te whakamahi ki nga momo mahi NLP, tae atu ki te tātari karekau, te whakarōpūtanga kuputuhi, te whakautu patai, me etahi atu.
I tua atu, ka taea te whakapai ake i te BERT i runga i tetahi kaupapa motuhake ma te whakamahi i tetahi huingararaunga iti hei aro ki taua mahi.
Kei hea te whakamahi a Bert?
He maha nga wa e whakamahia ana a BERT i roto i nga momo tono NLP rongonui. Hei tauira, kua whakamahia e Google ki te whakanui ake i te tika o ana hua rapu miihini, i te mea kua whakamahia e Facebook ki te whakapai ake i ana tohu tohu.
Kua whakamahia hoki a BERT i roto i te tātaritanga kare a chatbot, i te whakamaori miihini, me te mohio ki te reo maori.
I tua atu, he maha nga mahi a BERT rangahau mātauranga pepa hei whakapai ake i te mahinga o nga tauira NLP i runga i nga momo mahi. I roto i te katoa, kua noho a BERT hei taputapu tino nui mo nga tohunga me nga kaiwhakaako NLP, a ko tana awe ki te ako ka piki ake.
2. Roberta
Ko te RoBERTa (Robustly Optimized BERT Approach) he tauira reo mo te tukatuka reo maori i tukuna e Facebook AI i te tau 2019. He putanga pai ake o BERT e whai ana ki te hinga i etahi o nga ngoikoretanga o te tauira BERT taketake.
I whakangungua a RoBERTa i te ahua rite ki a BERT, haunga te whakamahi a RoBERTa i nga raraunga whakangungu ake me te whakapai ake i te tukanga whakangungu kia whiwhi mahi teitei ake.
Ko RoBERTa, pera i a BERT, he tauira reo kua whakangungua i mua ake nei ka taea te whakarite kia tino tika i runga i tetahi mahi.
Pehea te mahi?
Ka whakamahi a RoBERTa i tetahi rautaki ako e tirotirohia ana e koe hei whakangungu i te nui o nga raraunga kuputuhi. Ka ako ki te matapae i nga kupu ngaro i roto i nga rerenga korero me te whakarōpū i nga kianga ki nga roopu motuhake i te wa e whakangungu ana.
Ka whakamahi ano a RoBERTa i etahi huarahi whakangungu maangai, penei i te whakakikoruatanga hihiri, hei whakanui ake i te kaha o te tauira ki te whakawhanui ki nga raraunga hou.
I tua atu, ki te whakanui ake i tona tika, ka whakamahia e RoBERTa te nui o nga raraunga mai i nga puna maha, tae atu ki a Wikipedia, Common Crawl, me BooksCorpus.
Kei hea te whakamahi i a RoBERTa?
Ko Roberta te nuinga o te wa e whakamahia ana mo te tātari kare, te whakarōpū kupu, ingoa hinonga te tautuhi, te whakamaori miihini, me te whakautu patai.
Ka taea te whakamahi ki te tango i nga tirohanga e tika ana mai i nga raraunga kuputuhi kore hanga penei i pāpāho pāpori, arotake kaihoko, tuhinga korero, me etahi atu puna.
Kua whakamahia a RoBERTa i roto i nga tono motuhake ake, penei i te whakarapopototanga tuhinga, te hanga tuhinga, me te whai korero, hei taapiri atu ki enei mahi NLP tikanga. Kua whakamahia hoki hei whakapai ake i nga chatbots, nga kaiawhina mariko, me etahi atu korero tika o nga punaha AI.
3. OpenAI's GPT-3
Ko te GPT-3 (Generative Pre-trained Transformer 3) he tauira reo OpenAI e whakaputa ana i te tuhi ahua tangata ma te whakamahi i nga tikanga ako hohonu. Ko te GPT-3 tetahi o nga tauira reo nui rawa atu i hangaia, me te 175 piriona tawhā.
I whakangungua te tauira i runga i te whānuitanga o nga raraunga kuputuhi, tae atu ki nga pukapuka, pepa, me nga wharangi paetukutuku, a ka taea e ia inaianei te hanga ihirangi mo nga momo kaupapa.
Pehea te mahi?
Ka whakaputa a GPT-3 i te kupu ma te whakamahi i te huarahi ako kaore i te tirotirohia. Ko te tikanga tenei ko te tauira kaore i te akona ki te mahi i tetahi mahi, engari ka ako ki te hanga tuhinga ma te kite i nga tauira i roto i te rahi o nga raraunga tuhinga.
Ma te whakangungu i runga i nga huingararaunga iti, mahi-motuhake, ka pai pea te tauira mo nga mahi motuhake penei i te whakaoti tuhinga me te tātari kare-a-roto.
Wāhanga Whakamahinga
He maha nga tono a GPT-3 i roto i te waahi o te tukatuka reo maori. Ko te whakaoti kupu, te whakamaoritanga reo, te tātari karekau, me etahi atu tono ka taea ki te tauira. Kua whakamahia ano te GPT-3 ki te hanga whiti, korero korero, me te waehere rorohiko.
Ko tetahi o nga tono GPT-3 tino kaha ko te hanga i nga chatbots me nga kaiawhina mariko. Na te mea ka taea e te tauira te hanga tuhinga penei i te tangata, he tino pai mo nga tono korero.
Kua whakamahia ano te GPT-3 ki te whakaputa i nga korero mo nga paetukutuku me nga papaaho paapori, me te awhina i te tātari raraunga me te rangahau.
4. GPT-4
Ko te GPT-4 te tauira reo hou me te matatau i roto i te raupapa GPT a OpenAI. Na te 10 trillion tawhā, e matapaetia ana ka eke ki runga ake, ka eke ki runga ake i tana o mua, GPT-3, ka noho ko tetahi o nga tauira AI tino kaha o te ao.
Pehea te mahi?
Ka whakaputa a GPT-4 i nga tuhinga reo maori ma te whakamahi i nga mahi mohio huringa akoako hohonu. Kua whakangunguhia i runga i te huinga raraunga kuputuhi nui kei roto nga pukapuka, hautaka, me nga wharangi paetukutuku, ka taea e ia te hanga ihirangi mo te whānuitanga o nga kaupapa.
I tua atu, ma te whakangungu i runga i nga huingararaunga iti, mahi-motuhake, ka taea te whakatika a GPT-4 mo nga mahi motuhake penei i te whakautu patai, te whakarapopototanga ranei.
Wāhanga Whakamahinga
Na te nui o te rahi me te kaha o te GPT-4 he maha nga momo tono.
Ko tetahi o ana whakamahinga tino pai ko te tukatuka reo maori, ka whakamahia pea whakawhanake chatbots, nga kaiawhina mariko, me nga punaha whakamaori reo e kaha ana ki te whakaputa i nga whakautu reo maori e tata ana te rerekee mai i nga mea i mahia e te tangata.
Ka whakamahia pea te GPT-4 ki te maatauranga.
Ka whakamahia pea te ariā ki te whakawhanake i nga punaha whakaakoranga mohio e ahei ana ki te urutau ki te ahua ako o te akonga me te tuku urupare takitahi me te awhina. Ka taea e tenei te awhina ki te whakarei ake i te kounga o te maatauranga me te whakaahei atu ki nga tangata katoa.
5. XLNet
He tauira reo auaha a XLNet i hangaia i te tau 2019 e te Whare Wananga o Carnegie Mellon me nga kairangahau a Google AI. Ko tana hoahoanga he mea hangai i runga i te hoahoanga hurihuri, e whakamahia ana i roto i te BERT me etahi atu tauira reo.
Ko te XLNet, i tetahi atu taha, e whakaatu ana i te rautaki hurihuri i mua i te whakangungu e taea ai e ia te pai ake i etahi atu tauira i runga i nga momo mahi tukatuka reo maori.
Pehea te mahi?
I hangaia te XLNet ma te whakamahi i te huarahi whakatauira reo-aunoa, kei roto ko te matapae i te kupu e whai ake nei i roto i te raupapa tuhinga i runga i nga korero o mua.
Ko te XLNet, i tetahi atu taha, ka tango i tetahi tikanga ararua e arotake ana i nga whakarereketanga katoa o nga kupu i roto i te rerenga korero, he rereke ki etahi atu tauira reo e whakamahi ana i te huarahi maui-ki-matau, matau-ki-maui ranei. Ma tenei ka taea e ia te hopu i nga hononga kupu mo te wa roa me te hanga matapae tika ake.
Ko te XLNet e whakakotahi ana i nga tikanga maamaa penei i te whakawaehere tuunga whanaunga me tetahi tikanga reanga taumata-waahanga hei taapiri atu ki tana rautaki hurihuri i mua i te whakangungu.
Ka whai hua enei rautaki ki te mahinga katoa o te tauira, ka taea e ia te whakahaere i te whānuitanga o nga mahi tukatuka reo maori, penei i te whakamaoritanga reo, te wetewete whakaaro, me te tautuhi hinonga ingoa.
Nga Waahanga Whakamahinga mo XLNet
Ko nga ahuatanga maamaa me te urutau o XLNet ka waiho hei taputapu whai hua mo te whānuitanga o nga tono tukatuka reo maori, tae atu ki nga chatbots me nga kaiawhina mariko, te whakamaoritanga reo, me te tātari whakaaro.
Ko te haere tonu o tana whakawhanaketanga me te whakaurunga ki nga rorohiko me nga taupānga ka tata ki te hua ake o nga keehi whakamahi tino ataahua a muri ake nei.
6. ELECTRA
Ko ELECTRA he tauira tukatuka reo maori i hangaia e nga kairangahau a Google. E tu ana mo te "Te Ako Tika i te Kaiwaehere e Whakar
Pehea te mahi?
Ka mahi a ELECTRA ma te whakakapi i tetahi waahanga o nga tohu raupapa kuputuhi me nga tohu kua mahia. Ko te kaupapa o te tauira ko te matapae tika mena he tika ranei ia tohu whakakapinga, he tinihanga ranei. Ka ako a ELECTRA ki te penapena i nga hononga horopaki i waenga i nga kupu i roto i te raupapa tuhinga kia pai ake ai.
I tua atu, na te mea ka hangaia e ELECTRA nga tohu teka, kaua ki te huna i nga tohu pono, ka kaha ake pea te whakamahi i nga huinga whakangungu me nga waa whakangungu me te kore e pa ki nga awangawanga nui e rite ana ki nga tauira reo whakakikorua.
Wāhanga Whakamahinga
Ka taea hoki te whakamahi i te ELECTRA mo te wetewete i nga kare-a-roto, me te tautuhi i te reo kare o te tuhinga.
Na tona kaha ki te ako mai i nga tuhinga huna me nga tuhinga kore huna, ka whakamahia pea a ELECTRA ki te hanga tauira tātaritanga karekau e tika ake ai te maarama ki nga tikanga reo me te whakaputa i nga tirohanga whai kiko.
7.T5
Ko T5, ko te Kuputuhi-ki-Text Transfer Transformer ranei, he tauira reo-a-whakawhitinga-a-Reo a Google AI. Ko te tikanga ki te whakahaere i nga momo mahi tukatuka reo maori ma te whakamaori ngawari i nga tuhinga whakauru ki te tuhinga whakaputa.
Pehea te mahi?
I hangaia a T5 i runga i te hoahoanga a Transformer, a, i whakangungua ma te whakamahi i te ako kore i te tirotiro i runga i te maha o nga raraunga kuputuhi. Ko te T5, he rereke ki nga tauira reo o mua, e whakangungua ana ki nga momo mahi, tae atu ki te mohiotanga ki te reo, te whakautu patai, te whakarapopototanga, me te whakamaoritanga.
Ma tenei ka taea e T5 te mahi i nga mahi maha ma te whakatikatika i te tauira i runga i te iti ake o te whakaurunga mahi-motuhake.
Kei hea te whakamahi a T5?
He maha nga tono a T5 ki te tukatuka reo maori. Ka whakamahia pea ki te hanga i nga chatbots, nga kaiawhina mariko, me etahi atu punaha korero AI e kaha ana ki te mohio me te whakautu ki te whakaurunga reo maori. Ka taea hoki te whakamahi i te T5 mo nga mahi penei i te whakamaoritanga reo, te whakarapopototanga, me te whakaoti tuhinga.
I whakawhiwhia a T5 ki te puna tuwhera e Google, a kua awhi whanuitia e te hapori NLP mo nga momo tono penei i te whakarōpūtanga kupu, whakautu patai, me te whakamaori miihini.
8. PaLM
Ko te PaLM (Pathways Language Model) he tauira reo matatau i hangaia e Google AI Language. Ko te tikanga he whakapai ake i nga mahi a nga tauira tukatuka reo maori hei whakatutuki i te piki haere o te hiahia mo nga mahi reo uaua ake.
Pehea te mahi?
He rite ki te maha atu o nga tauira reo e paingia ana penei i te BERT me te GPT, ko te PaLM he tauira hurihanga. Heoi, na tana hoahoa me tana tikanga whakangungu i wehe ke atu i etahi atu tauira.
Hei whakapai ake i nga pukenga mahi me nga pukenga whaanui, ka whakangunguhia a PaLM ma te whakamahi i te tauira ako mahi maha e taea ai e te tauira te ako i te wa kotahi mai i nga wero maha.
Kei hea tatou e whakamahi ai i te PaLM?
Ka taea te whakamahi i te nikau mo nga momo mahi NLP, ina koa ko nga mea e kii ana kia tino mohio ki te reo maori. He pai mo te wetewete kare-a-roto, te whakautu i nga paatai, te whakatauira reo, te whakamaori miihini, me era atu mea.
Hei whakapai ake i nga pukenga tukatuka reo o nga kaupapa rereke me nga taputapu penei i nga chatbots, nga kaiawhina mariko, me nga punaha reo mohio, ka taea hoki te whakauru atu ki roto.
I roto i te katoa, ko te PaLM he hangarau whai mana me te maha o nga tono ka taea na te kaha ki te whakanui ake i nga kaha ki te tukatuka reo.
Opaniraa
Ka mutu, kua huri te tukatuka reo maori (NLP) i te huarahi e uru ai tatou ki te hangarau, ka taea e tatou te korero ki nga miihini kia rite ki te tangata.
Ko te NLP kua piki ake te tika me te pai ake i nga wa o mua na te mea kua pakaru mai nga waahanga hou akoranga mīhini, i roto i te hanganga o nga tauira reo-nui penei i te GPT-4, RoBERTa, XLNet, ELECTRA, me PaLM.
I te ahu whakamua o te NLP, ka tumanako pea tatou ka piki ake nga tauira reo kaha ake, me te maangai ka puta ake, me te kaha ki te whakarereke me pehea te hono atu ki te hangarau, te whakawhitiwhiti korero ki a raatau ano, me te mohio ki te uaua o te reo tangata.
Waiho i te Reply