Fizahan-takelaka[Afeno][Aseho]
Ny olana mahazatra amin'ny faharanitan-tsaina artifisialy dia ny fikatsahana milina afaka mahazo ny fitenin'olombelona.
Ohatra, rehefa mikaroka "fisakafoana italiana akaiky" ao amin'ny motera fikarohana tianao indrindra, ny algorithm dia tsy maintsy mamakafaka ny teny tsirairay ao amin'ny fanontanianao ary mamoaka ny valiny mifandraika. Ny fampiharana fandikan-teny mendrika dia tsy maintsy mahatakatra ny tontolon'ny teny iray manokana amin'ny teny anglisy ary amin'ny fomba ahoana no ahitana ny fahasamihafana eo amin'ny fitsipi-pitenenana eo amin'ny samy fiteny.
Ireo asa rehetra ireo sy ny maro hafa dia eo ambanin'ny sehatry ny siansa informatika fantatra amin'ny anarana hoe Fitetezana ny fiteny natoraly na NLP. Ny fandrosoana amin'ny NLP dia nitarika fampiharana azo ampiharina maro be avy amin'ny mpanampy virtoaly toa an'i Amazon's Alexa ka hatramin'ny sivana spam izay mahita mailaka maloto.
Ny fandrosoana farany amin'ny NLP dia ny hevitra a modely fiteny lehibe na LLM. Ny LLM toy ny GPT-3 dia lasa mahery vaika ka toa mahomby amin'ny asa NLP rehetra na tranga fampiasana.
Ato amin'ity lahatsoratra ity, hojerentsika hoe inona marina ny LLM, ny fomba hampiofanana ireo modely ireo, ary ny fetran'izy ireo ankehitriny.
Inona no atao hoe modely fiteny lehibe?
Amin'ny fotony, ny maodelin'ny fiteny dia algorithm tsotra izay mahafantatra ny mety ho fehezanteny manan-kery ny filaharan'ny teny.
Ny modely amin'ny fiteny tena tsotra miofana amin'ny boky an-jatony vitsivitsy dia tokony ho afaka hilaza fa ny "Niditra an-trano izy" dia manan-kery kokoa noho ny "Nandeha an-trano izy".
Raha solointsika ny angon-drakitra somary kely amin'ny angon-drakitra be dia be nalaina avy amin'ny Internet, dia manomboka manatona ny hevitra a modely fiteny lehibe.
mampiasa ny tambajotra vaovao, ny mpikaroka dia afaka manofana LLM amin'ny angona lahatsoratra be dia be. Noho ny habetsahan'ny angon-drakitra hitan'ny maodely, ny LLM dia lasa mahay maminavina ny teny manaraka amin'ny filaharana.
Lasa be pitsiny ny modely, afaka manao asa NLP maro. Anisan'ireo asa ireo ny famintinana lahatsoratra, ny famoronana votoaty vaovao, ary ny fanaovana simulation ny resaka sahala amin'ny olombelona.
Ohatra, ny maodely fiteny GPT-3 tena malaza dia voaofana miaraka amin'ny masontsivana 175 lavitrisa ary heverina ho modely fiteny mandroso indrindra hatreto.
Afaka mamorona fehezan-dalàna miasa, manoratra lahatsoratra manontolo, ary afaka maka sary amin'ny famaliana fanontaniana momba ny lohahevitra rehetra.
Ahoana ny fampiofanana LLMs?
Niresaka fohifohy izahay fa ny LLM dia manana fahefana betsaka amin'ny haben'ny angona fanofanana. Misy antony iantsoantsika azy ireo hoe modely amin'ny fiteny “lehibe”.
Fiofanana mialoha miaraka amin'ny Architecture Transformer
Mandritra ny dingana mialoha ny fanofanana, ny LLM dia ampidirina amin'ny angona lahatsoratra efa misy mba hianarana ny rafitra ankapobeny sy ny fitsipika amin'ny fiteny iray.
Tao anatin'ny taona vitsivitsy lasa izay, ny LLM dia efa voaofana mialoha amin'ny angona izay mandrakotra ampahany betsaka amin'ny aterineto ho an'ny daholobe. Ohatra, ny modelin'ny fiteny GPT-3 dia niofana tamin'ny angona avy amin'ny Crawl mahazatra dataset, andiana lahatsoratra amin'ny tranonkala, pejy web, ary boky nomerika nokikisana avy amin'ny sehatra 50 tapitrisa mahery.
Avy eo dia ampidirina ao anaty modely antsoina hoe a mpanova. Transformers dia karazana tambajotra neural lalina izay miasa tsara indrindra ho an'ny angona manaraka.
Transformers dia mampiasa an rafitra encoder-decoder ho an'ny fitantanana ny fidirana sy ny fivoahana. Amin'ny ankapobeny, ny transformer dia misy tambajotra neural roa: encoder sy decoder. Ny encoder dia afaka manala ny dikan'ny lahatsoratra fampidirana ary mitahiry izany ho vector. Ny decoder dia mandray ny vector ary mamoaka ny fandikany ny lahatsoratra.
Na izany aza, ny foto-kevitra fototra izay nahafahan'ny rafitra transformer miasa tsara dia ny fanampiana a mekanika saina. Ny foto-kevitra momba ny fiheveran-tena dia namela ny modely hitandrina ny teny manan-danja indrindra amin'ny fehezanteny iray. Ny mekanika aza dia mandinika ny lanjan'ny teny izay mifanalavitra misesy.
Ny tombontsoa iray hafa amin'ny fiheveran-tena dia ny hoe azo ampitoviana ny dingana. Raha tokony ho fanodinana ny angona misesy amin'ny filaharana, ny maodelin'ny transformer dia afaka manodina ny fampidirana rehetra indray mandeha. Izany dia ahafahan'ny transformer miofana amin'ny angon-drakitra be dia be haingana raha oharina amin'ny fomba hafa.
Fanatsarana
Aorian'ny dingana mialoha ny fanofanana dia azonao atao ny misafidy ny hampiditra lahatsoratra vaovao ho an'ny LLM fototra hampiofanana. Antsoinay ity dingana ity fanatsarana ary matetika ampiasaina hanatsarana bebe kokoa ny vokatra azo avy amin'ny LLM amin'ny asa manokana.
Ohatra, azonao atao ny mampiasa LLM hamorona votoaty ho an'ny kaontinao Twitter. Afaka manome ohatra maromaro amin'ny bitsikanao teo aloha ny modely mba hanomezana azy hevitra momba ny vokatra tadiavina.
Misy karazany vitsivitsy isan-karazany ny fanitsiana tsara.
Fianarana vitsivitsy dia manondro ny dingan'ny fanomezana ohatra vitsivitsy amin'ny modely iray miaraka amin'ny fanantenana fa ny modely amin'ny fiteny dia hamantatra ny fomba hanaovana vokatra mitovy. Fianarana tokana dia dingana mitovitovy afa-tsy ohatra tokana ihany no omena.
Famerana ny modely amin'ny fiteny lehibe
LLMs toy ny GPT-3 dia afaka manatanteraka tranga fampiasana marobe na dia tsy misy fanitsiana tsara aza. Na izany aza, ireo modely ireo dia mbola tonga miaraka amin'ny fetrany manokana.
Tsy fahampian'ny fahatakarana semantika an'izao tontolo izao
Eo ivelany, ny LLM dia toa mampiseho faharanitan-tsaina. Na izany aza, ireo modely ireo dia tsy miasa amin'ny fomba mitovy atidoha manao. Ny LLM dia miantehitra fotsiny amin'ny kajy statistika mba hamoahana vokatra. Tsy afaka manjohy hevitra samirery izy ireo.
Noho izany, ny LLM dia afaka mamoaka valiny tsy misy dikany satria fotsiny ny teny dia toa "marina" na "azo inoana fa araka ny antontan'isa" rehefa apetraka amin'io filaharana manokana io.
Hallucinations
Ireo modely toa ny GPT-3 dia mijaly noho ny valiny tsy marina. Ny LLM dia mety hijaly amin'ny tranga iray antsoina hoe hallucinations izay ny modely dia mamoaka valiny tsy marina raha tsy misy fahatsiarovan-tena fa tsy misy fototra ny valiny.
Ohatra, mety hangataka ny modely hanazava ny hevitr'i Steve Jobs momba ny iPhone farany ny mpampiasa iray. Ny modely dia mety hamokatra teny avy amin'ny rivotra manify mifototra amin'ny angona fanofanana.
Fitongilanana sy fahalalana voafetra
Tahaka ny algorithms maro hafa, ny maodely amin'ny fiteny lehibe dia mora mandova ny fitongilanana misy ao amin'ny angona fanofanana. Rehefa manomboka miantehitra bebe kokoa amin'ny LLM isika mba haka vaovao, dia tokony hitady fomba hanalefahana ny mety ho voka-dratsin'ny valinteny mitongilana ireo mpamorona ireo modely ireo.
Amin'ny fahaiza-manao mitovy amin'izany, ny mason-tsivana amin'ny angona fanofanana modely dia hanakana ny modely ihany koa. Amin'izao fotoana izao, mila volana maromaro ny modely amin'ny fiteny lehibe. Ireo modely ireo koa dia miankina amin'ny angon-drakitra voafetra amin'ny sehatra. Izany no mahatonga ny ChatGPT tsy manana fahalalana voafetra momba ny zava-nitranga tamin'ny taona 2021 lasa teo.
Famaranana
Ny modely amin'ny fiteny lehibe dia manana fahafahana hanova marina ny fomba ifandraisantsika amin'ny teknolojia sy ny tontolontsika amin'ny ankapobeny.
Ny angon-drakitra midadasika hita ao amin'ny Internet dia nanome fomba ho an'ny mpikaroka modely ny fahasarotan'ny fiteny. Na izany aza, teny an-dalana, ireo modely amin'ny fiteny ireo dia toa naka ny fahatakarana mitovy amin'ny an'izao tontolo izao amin'ny maha-olombelona azy.
Rehefa manomboka matoky ireo maodely fiteny ireo ny vahoaka mba hanome vokatra marina, dia efa mitady fomba hanampiana fefy fiambenana ny mpikaroka sy ny mpamorona mba hijanonan'ny teknolojia ho etika.
Inona araka ny hevitrao ny hoavin'ny LLMs?
Leave a Reply