Na e iloa e mafai e komepiuta ona gaosia ni tusitusiga e toetoe a tutusa ma mea e mafai e tagata ona tusia?
Faʻafetai i le alualu i luma i AI o loʻo matou molimauina se galu i faʻataʻitaʻiga gagana Tele.
I le taimi nei, o loʻo latou galulue i se fua e leʻi tupu muamua!
E mafai ona tatou faʻaogaina nei faʻataʻitaʻiga i le tele o mataupu manaia. I lenei tusiga, o le a tatou vaʻavaʻai i nisi o faʻaoga fiafia o faʻataʻitaʻiga gagana tetele.
O le a le Uiga o Fa'ata'ita'iga Gagana Tele?
O faʻataʻitaʻiga gagana tetele o faʻataʻitaʻiga AI lea ua atiaʻe e faʻamatala ma fatuina gagana a tagata. O nei fa'ata'ita'iga o lo'o fa'aogaina auala e a'oa'oina ai masini.
Mo se faʻataʻitaʻiga, latou te faʻaaogaina loloto aʻoaʻoga e su'esu'e le tele o fa'amaumauga o tusitusiga. Ma, latou te malamalama i mamanu ma fausaga gagana masani.
O faʻataʻitaʻiga o loʻo aʻoaʻoina i luga o faʻamaumauga tetele e pei o tusi, pepa, ma itulau uepi. I lenei auala, e mafai ai ona latou malamalama i le lavelave o le gagana a tagata. O lea la, e mafai ona latou fatuina mea e le mafai ona iloa mai mea na tusia e tagata.
O a nisi o fa'ata'ita'iga o nei fa'ata'ita'iga gagana?
- GPT-3:Ole fa'ata'ita'iga lea ole gagana fa'ata'ita'i na faia e OpenAI e mafai ona fa'atupu tusitusiga, tali fesili, ma le tele o isi galuega NLP.
- PETA: Ole fa'ata'ita'iga malosi lea ole gagana na faia e Google e mafai ona fa'aoga mo nisi o galuega, pei o le taliina o fesili ma le fa'aliliuga gagana.
- XLNet: O lenei gagana fa'ata'ita'iga na faia e Google ma le Iunivesite o Carnegie Mellon ma fa'aogaina se metotia fa'aa'oa'oga fou e fa'alautele ai lona malamalama ma le gaosiga o le gagana moni.
- ROBERTa: O lenei gagana faʻataʻitaʻiga na faia e Facebook ma faʻavae i luga o le fausaga BERT. Ua ausia le fa'atinoga fa'apitoa i le tele o talosaga e aofia ai le fa'agaioiina o gagana fa'anatura.
- T5: text-to-text transformer na faia e Google ma e mafai ona fa'atulagaina mo fa'amoemoega 'ese'ese e aofia ai le fa'agaioiina o gagana fa'anatura.
- GShard: Na faia e Google se auivi a'oa'oga tufatufaina e mafai ona fa'aoga e toleni ai fa'ata'ita'iga gagana tetele.
- Megatron: NVIDIA's faiga fa'aa'oa'oga fa'ata'ita'iga gagana maualuga, lea e mafai ona toleni fa'ata'ita'iga e o'o atu i le 8.3 piliona ta'otoga.
- FUA FAITAU: O se fa'ata'ita'iga e sili atu ona lelei ma fa'aogaina "lite" o le BERT na faia e Google ma Toyota Technological Institute i Chicago.
- ELECTRA: Google ma le Iunivesite o Stanford na faia se fa'ata'ita'iga gagana e fa'aogaina ai se ta'iala fou a'o le'i a'oa'oina e ta'ua o le "fa'ailoga tagata a'o le'i a'oa'oina" e fa'ateleina ai lana fa'atinoga i galuega i lalo.
- Failauga: O se fa'ata'ita'iga gagana a Google e fa'aogaina ai se faiga e sili atu ona lelei le fa'alogoina ina ia mafai ai ona a'oa'oina fa'ata'ita'iga lapo'a fa'atasi ai ma fa'apea vave.
O le a la le fa'aoga o nei fa'ata'ita'iga gagana tetele?
Tulaga Fa'aoga Taua o Fa'ata'ita'iga Gagana Tele
Suʻesuʻega o lagona
O nei faʻataʻitaʻiga e mafai ona iloilo tusitusiga ma filifili pe lelei le lagona, leaga, pe le tutusa. O le tele lava, latou te fa'aaogaina gagana fa'anatura ma masini suʻesuʻe auala e faia ai lenei mea.
Ona o lo latou gafatia e iloa ai le talaaga ma le uiga o upu i se fuaitau, o faʻataʻitaʻiga e pei o BERT ma RoBERTa e faʻaaogaina mo auiliiliga lagona.
O le su'esu'ega o lagona ua fa'atuputeleina le sa'o ma lelei i fa'ata'ita'iga gagana. E mafai ona matou faʻaogaina suʻesuʻega lagona i le tele o vaega e pei o le maketiina, auaunaga faʻatau, ma isi mea.
Chatbots ma sui faʻatalanoa
O sui o talanoaga ma talatalanoaga ua amata ona lauiloa i le tele o ituaiga o talosaga. E mafai ona matou fa'aogaina i auaunaga fa'atau ma fa'atauga fa'apea fo'i a'oga ma le soifua maloloina. O fa'ata'ita'iga gagana tetele o lo'o i totonu o nei faiga.
E mafai ona latou faauigaina ma tali atu i manatu o tagata i le gagana masani. Fa'ata'ita'iga e pei ole GPT-3 ma le BERT e masani ona fa'aaogaina i chatbots e fa'atupu ai ni tali fa'afiafia.
O nei faʻataʻitaʻiga o loʻo aʻoaʻoina i luga o voluma tetele o faʻamaumauga o tusitusiga. E mafai ona latou malamalama ma fa'aa'oa'o i mamanu ma fausaga o gagana a tagata. Chatbots e mafai ona faʻaleleia atili le faʻaogaina o tagata faʻatau.
Faʻaliliuga o le Gagana
E mafai ona matou faaliliu tusitusiga mai le tasi gagana i le isi ma le sa'o lelei fa'afetai i fa'ata'ita'iga gagana tetele. O nei faʻataʻitaʻiga e malamalama i le lavelave o le tele o gagana. Ma, latou te fesoʻotaʻi le tasi i le isi e ala i le aʻoaʻoina i luga o le tele o voluma o faʻamatalaga tusitusia gagana.
O fa'ata'ita'iga fa'aliliu gagana ta'uta'ua e aofia ai OpenAI's GPT-3, Facebook's M2M-100, ma Google's Neural Machine Translation (NMT). Ona o suiga fou na aumaia e nei faʻataʻitaʻiga, ua sili atu nei ona faigofie le fegalegaleai ma tagata taʻitoʻatasi i le lalolagi atoa.
Aotelega o tusitusiga
O le otootoga o tusitusiga o le faʻagasologa lea o le faʻaitiitia o se tusitusiga umi i se aotelega aʻo faʻasaoina manatu autu. Fa'ata'ita'iga gagana tetele e mafai ona su'esu'e ma malamalama i le fausaga o se tusitusiga. O lenei mea e mafai ai ona latou tuʻuina atu faʻamatalaga saʻo, ma fesoasoani tele i lenei vaega.
Mo galuega otooto o tusitusiga, faʻataʻitaʻiga pei o BERT ma GPT-3, ua faʻapipiʻiina. Latou te fa'aalia le mataalia mata'ina i le fa'atupuina o aotelega e fa'apipi'i ai manatu autu o se pepa.
E mafai ona tatou aumaia faʻamatalaga mai se tusitusiga umi e iai faʻaoga taua i ala o faasalalauga, tulafono, ma aʻoaʻoga.
Tali fesili
Tuuina atu o se masini ma se fesili ma faʻamoemoe e sau ma se tali talafeagai e taʻua o le taliina o fesili ile faiga ole gagana masani. O fa'ata'ita'iga gagana tetele e pei o le GPT-3 ma le BERT ua faia ma lenei fa'amoemoe.
O nei faʻataʻitaʻiga e suʻesuʻeina le faʻaogaina o fesili ma filifili faʻamatalaga sili ona talafeagai mai faʻamatalaga.
O nei fa'ata'ita'iga e su'esu'eina le fa'amatalaga fa'aoga ma filifili fa'amatalaga sili ona talafeagai mai le tele o fa'amatalaga. E mafai lenei mea i le faʻaaogaina o mea faʻapitoa fesoʻotaiga i tua.
Faatasi ai ma le malosi o nei faʻataʻitaʻiga, e mafai ona tatou atiaʻe faiga mo le sailia o fofo i mataupu faigata. O lenei mea o le a faʻaleleia atili ai lo tatou gafatia mo le aʻoaʻoina ma le faia o filifiliga.
Faia o mea ma fa'atupu tusitusiga
O fa'ata'ita'iga gagana lapopo'a e fa'atupuina ai mea e sili ona lelei, fa'afiafiaina mo vaega eseese. O nei faʻataʻitaʻiga e mafai ona tuʻufaʻatasia tala, faʻasalalauga faʻasalalau lautele, faʻamatalaga o oloa, ma isi mea. Mo se faʻataʻitaʻiga, GPT-3 o se faʻataʻitaʻiga lauiloa i lenei tulaga.
E fatuina ai mea e faigata ona iloa mai tusitusiga na tusia e tagata. I le faʻaaogaina o nei faʻataʻitaʻiga, e mafai e kamupani ona faʻasaoina taimi ma tau. E mafai ona latou faʻafesoʻotaʻi atu i a latou au maimoa sili atu ona faigofie.
Fa'ailoga tautala ma fa'aliliuga tautala-i-tusi
O le fa'ailoaina o le tautala ma le fa'aliliuga o le tautala-i-tusi e fa'aogaina uma fa'ata'ita'iga gagana tetele.
O nei faʻataʻitaʻiga, aemaise lava, o loʻo aʻoaʻoina i luga o faʻamatalaga leo. Ma, latou te faʻafaigaluegaina tulaga maualuga masini aoaoina algorithms e fa'aliliu sa'o ai upu tautala i tusitusiga. O le Wav2vec, na faia e Facebook AI, o se tasi lea o faʻataʻitaʻiga o se faʻataʻitaʻiga gagana e faʻaaogaina mo le faʻaalia o le tautala.
O lenei fa'ata'ita'iga ua a'oa'oina e iloa ma fa'ailoa uiga talafeagai mai mea fa'alogo. E mafai ona fa'aoga mo le fa'ailoaina o tautalaga po'o isi galuega fa'agaioiga gagana fa'anatura.
E mafai e Kamupani ona fa'atuputeleina le lelei ma le saoasaoa o a latou 'au'aunaga fa'aliliu a'o fa'aitiitiga tau ma fa'ateleina le lelei e ala i le fa'aaogaina o fa'ata'ita'iga gagana tetele.
Fa'auma, E Fa'apei le Lumana'i?
O fa'ata'ita'iga gagana tetele o le a faia se sao taua i pisinisi eseese. O loʻo taumafai tagata suʻesuʻe ma atinaʻe e faʻaleleia nei faʻataʻitaʻiga ina ia sili atu le mamana.
E mafai ona fa'aleleia atili lo tatou malamalama i le fa'amatalaga ma fa'aleleia atili le lelei ma le sa'o. E le gata i lea, e mafai ona tatou manuia mai se poto masani ma le faʻaogaina o tagata faʻaoga i luga o tulaga eseese.
E mafai ona latou suia le auala tatou te fesootai ai ma auai i tekinolosi.
Tuua se tali