ChatGPT yog tus qauv lus txawj ntse txawj ntse zoo kawg li. Peb txhua tus siv nws los pab peb hauv ntau yam haujlwm.
Koj puas tau nug seb nws tau kawm li cas los tsim cov lus teb uas zoo li tib neeg? Hauv tsab xov xwm no, peb yuav tshuaj xyuas qhov kev cob qhia ntawm ChatGPT.
Peb yuav piav qhia yuav ua li cas nws tau hloov mus rau hauv ib qho ntawm qhov zoo tshaj plaws cov qauv lus. Raws li peb tshawb nrhiav lub ntiaj teb txaus nyiam ntawm ChatGPT, tuaj nrog taug kev ntawm kev tshawb pom.
Txheej txheem cej luam ntawm Kev cob qhia
ChatGPT yog tus qauv ua lus zoo.
Nrog ChatGPT, peb tuaj yeem koom nrog kev sib tham sib tham thiab kev sib tham zoo li tib neeg. Nws siv txoj hauv kev zoo ib yam li cov Qhia GPT, uas yog ib tug qauv lus txiav-ntug. Nws tau tsim los sai sai ua ntej ChatGPT.
Nws siv txoj kev sib koom ua ke ntau dua. Qhov no ua rau cov neeg siv kev sib cuam tshuam. Yog li, nws yog lub cuab yeej zoo tshaj plaws rau ntau yam kev siv xws li chatbots thiab virtual pab.
ChatGPT cov txheej txheem kev cob qhia yog txheej txheem ntau theem. Generative Pretraining yog thawj kauj ruam hauv kev cob qhia ntawm ChatGPT.
Nyob rau theem no, tus qauv raug cob qhia siv lub cev loj ntawm cov ntaub ntawv cov ntaub ntawv. Tom qab ntawd, tus qauv nrhiav pom cov kev sib raug zoo thiab cov qauv pom hauv cov lus ntuj. Yog li, peb tuaj yeem muaj cov lus teb meej meej thiab sib koom ua ke.
Tom qab ntawd peb ua raws ib kauj ruam ntawm kev saib xyuas kom zoo. Nyob rau hauv seem no, tus qauv yog kev cob qhia ntawm ib txoj haujlwm tshwj xeeb. Piv txwv li, nws tuaj yeem ua cov lus txhais lus lossis lus nug teb.
Thaum kawg, ChatGPT siv nqi zog kawm los ntawm tib neeg cov lus tawm tswv yim.
Tam sim no, cia peb tshuaj xyuas cov kauj ruam no.
Generative Pretraining
Thawj theem ntawm kev cob qhia yog Generative Pretraining. Nws yog ib txoj hauv kev rau kev cob qhia cov qauv lus. Txhawm rau tsim cov cim token, cov txheej txheem siv "kev twv ua ntej kauj ruam tom ntej".
Nws txhais li cas?
Txhua tus token yog ib qho txawv txawv. Lawv sawv cev ib lo lus los yog ib feem ntawm ib lo lus. Tus qauv sim txiav txim siab seb lo lus twg feem ntau yuav tuaj tom ntej muab cov lus ua ntej nws. Nws siv qhov tshwm sim ntawm kev faib tawm thoob plaws tag nrho cov nqe lus hauv nws cov kab ke.
Lub hom phiaj ntawm cov qauv lus yog los tsim cov cim token. Cov kab ke no yuav tsum sawv cev rau cov qauv thiab cov qauv ntawm tib neeg cov lus. Qhov no yog ua tau los ntawm kev cob qhia cov qauv ntawm cov ntaub ntawv loj loj.
Tom qab ntawd, cov ntaub ntawv no yog siv los nkag siab tias cov lus tau muab faib ua hom lus li cas.
Thaum lub sij hawm kev cob qhia, tus qauv hloov qhov tshwm sim ntawm kev faib khoom tsis.
Thiab, nws sim txo qhov sib txawv ntawm qhov xav tau thiab qhov tseeb ntawm cov lus hauv cov ntawv nyeem. Qhov no yog ua tau nrog kev siv ntawm kev poob haujlwm. Kev poob haujlwm suav qhov sib txawv ntawm qhov xav tau thiab qhov kev faib tawm tiag tiag.
Hom lus ua lus thiab lub computer tsis pom kev yog ib qhov chaw uas peb siv Generative Pretraining.
Qhov teeb meem kev sib tw
Qhov teeb meem kev sib raug zoo yog ib qho teeb meem hauv Generative Pretraining. Qhov no yog hais txog qhov nyuaj ntawm kev sib piv tus qauv qhov kev faib tawm qhov tshwm sim rau kev faib cov ntaub ntawv tiag tiag.
Hauv lwm lo lus, tus qauv tsim cov lus teb yuav tsum muaj ntau dua li tib neeg.
Tus qauv yuav qee zaus muab cov lus teb tsis txaus ntseeg lossis tsis raug. Thiab, qhov no yuav tshwm sim los ntawm ntau yam ua rau, xws li kev cob qhia cov ntaub ntawv tsis ncaj ncees lossis tus qauv tsis muaj kev paub txog cov ntsiab lus. Qhov teeb meem kev sib raug zoo yuav tsum tau daws los txhim kho cov qauv lus zoo.
Txhawm rau kov yeej qhov teeb meem no, cov qauv lus zoo li ChatGPT ntiav cov txheej txheem zoo.
Supervised Fine-Tuning
Qhov thib ob ntawm ChatGPT kev cob qhia yog saib xyuas kev kho kom zoo. Tib neeg cov neeg tsim khoom koom nrog kev sib tham ntawm lub sijhawm no, ua raws li tib neeg siv thiab chatbot.
Cov lus hais no raug kaw thiab muab sau ua ke rau hauv cov ntaub ntawv. Txhua tus qauv kev cob qhia suav nrog cov keeb kwm sib tham sib txawv nrog cov lus teb tom ntej ntawm tus neeg tsim tawm ua haujlwm ua "chatbot".
Lub hom phiaj ntawm kev saib xyuas zoo-tuning yog kom ua tiav qhov tshwm sim tau muab rau qhov sib lawv liag ntawm tokens hauv cov lus teb cuam tshuam los ntawm tus qauv. Txoj kev no hu ua "kev kawm txuj ci" lossis "kev coj tus cwj pwm cloning."
Cov qauv no tuaj yeem kawm tau los muab cov lus teb zoo dua qub thiab sib koom ua ke. Nws yog replicating cov lus teb muab los ntawm tib neeg cov neeg cog lus.
Kev saib xyuas kom zoo yog qhov uas tus qauv lus tuaj yeem hloov kho rau ib txoj haujlwm tshwj xeeb.
Cia peb muab piv txwv. Piv txwv tias peb xav qhia chatbot los muab cov lus pom zoo ua yeeb yaj kiab. Peb yuav cob qhia cov qauv lus los kwv yees kev ntaus nqi yeeb yaj kiab raws li cov lus piav qhia ua yeeb yaj kiab. Thiab, peb yuav siv cov ntaub ntawv ntawm cov yeeb yaj kiab piav qhia thiab kev ntaus nqi.
Lub algorithm thaum kawg yuav txiav txim siab seb yam twg ntawm cov yeeb yaj kiab sib raug rau qhov ntsuas siab lossis tsis zoo.
Tom qab nws raug cob qhia, peb tuaj yeem siv peb tus qauv los qhia cov yeeb yaj kiab rau tib neeg cov neeg siv. Cov neeg siv yuav piav qhia txog cov yeeb yaj kiab uas lawv nyiam, thiab cov chatbot yuav siv cov qauv lus zoo kom pom zoo ntau cov yeeb yaj kiab uas piv rau nws.
Kev saib xyuas txwv: Kev faib tawm ua haujlwm
Kev saib xyuas kom zoo yog qhia tus qauv lus kom ua tau raws li lub hom phiaj. Qhov no ua tau los ntawm kev pub mis rau tus qauv a cov ntaub ntawv thiab tom qab ntawd cob qhia nws los ua kev twv ua ntej. Qhov no, txawm li cas los xij, muaj kev txwv hu ua "kev txwv kev saib xyuas."
Ib qho ntawm cov kev txwv no yog "kev hloov pauv hloov pauv". Nws hais txog qhov ua tau tias cov ntaub ntawv kev cob qhia yuav tsis raug cuam tshuam txog kev faib tawm hauv ntiaj teb tiag tiag uas tus qauv yuav ntsib.
Cia peb saib cov piv txwv yav dhau los. Hauv cov yeeb yaj kiab qhia piv txwv, cov ntaub ntawv siv los qhia tus qauv yuav tsis raug cuam tshuam txog ntau yam ntawm cov yeeb yaj kiab thiab cov neeg siv nyiam uas chatbot yuav ntsib. Lub chatbot yuav tsis ua zoo li peb xav tau.
Yog li ntawd, nws ua tau raws li cov tswv yim uas tsis sib xws ntawm cov uas nws tau pom thaum lub sij hawm kev cob qhia.
Rau kev saib xyuas kev kawm, thaum tus qauv tsuas yog kev cob qhia ntawm ib qho piv txwv, qhov teeb meem no tshwm sim.
Tsis tas li ntawd, tus qauv yuav ua tau zoo dua nyob rau hauv lub ntsej muag ntawm qhov kev hloov pauv yog tias siv kev txhawb nqa kev kawm los pab nws hloov mus rau cov ntsiab lus tshiab thiab kawm los ntawm nws qhov yuam kev.
Raws li kev nyiam, Kev Kawm Txuj Ci
Kev kawm tau txais txiaj ntsig yog qhov kev cob qhia thib peb hauv kev tsim chatbot. Hauv kev kawm khoom plig, tus qauv raug qhia kom ua kom muaj txiaj ntsig zoo tshaj plaws.
Nws yog qhov qhab nia uas qhia tias tus qauv ua tiav txoj haujlwm zoo npaum li cas. Lub teeb liab nqi zog yog nyob ntawm cov tswv yim los ntawm cov neeg uas ntsuas lossis ntsuas tus qauv cov lus teb.
Kev kawm khoom plig yog tsim los tsim cov chatbot uas tsim cov lus teb zoo uas tib neeg nyiam. Txhawm rau ua qhov no, ib qho kev kawm tshuab hu ua txhawb kev kawm-uas suav nrog kev kawm los ntawm kev tawm tswv yim nyob rau hauv daim ntawv ntawm khoom plig - yog siv los cob qhia tus qauv.
Lub chatbot teb cov lus nug ntawm cov neeg siv, piv txwv li, nyob ntawm nws txoj haujlwm tam sim no, uas tau muab rau nws thaum lub sijhawm kawm khoom plig. Lub teeb liab muab nqi zog yog muab raws li qhov ua tau zoo ntawm chatbot ua tau zoo thaum cov lus teb tau raug soj ntsuam los ntawm tib neeg txiav txim.
Qhov khoom plig khoom plig no yog siv los ntawm chatbot los hloov kho nws qhov chaw. Thiab, nws txhim kho kev ua haujlwm.
Qee qhov txwv ntawm Kev Kawm Txuj Ci
Ib qho tsis zoo ntawm kev kawm nqi zog yog tias cov lus teb ntawm chatbot cov lus teb yuav tsis tuaj rau qee lub sijhawm txij li lub cim khoom plig yuav tsis tshua muaj thiab qeeb. Yog li ntawd, nws yuav nyuaj rau kev cob qhia cov chatbot kom tiav vim tias nws yuav tsis tau txais cov lus teb rau cov lus teb tshwj xeeb kom txog thaum tom qab ntau.
Lwm qhov teeb meem yog tias tib neeg cov neeg txiav txim yuav muaj ntau qhov kev xav lossis kev txhais lus ntawm qhov ua rau cov lus teb tau zoo, uas yuav ua rau muaj kev tsis ncaj ncees hauv qhov khoom plig. Yuav kom txo qis qhov no, nws nquag siv los ntawm ntau tus kws txiav txim plaub kom xa ib qho txiaj ntsig zoo dua.
Lub Neej Tom Ntej Yuav Zoo Li Cas?
Muaj ntau cov kauj ruam yav tom ntej los txhim kho ChatGPT qhov kev ua tau zoo.
Txhawm rau nce tus qauv kev nkag siab, ib txoj hauv kev yav tom ntej yog suav nrog ntau cov ntaub ntawv qhia kev cob qhia thiab cov ntaub ntawv. Txhim kho tus qauv lub peev xwm los nkag siab thiab coj mus rau hauv tus account tsis yog cov ntawv nyeem yog ua tau thiab.
Piv txwv li, cov qauv lus tuaj yeem nkag siab qhov pom lossis lub suab.
Los ntawm kev koom nrog cov txheej txheem kev cob qhia tshwj xeeb ChatGPT kuj tuaj yeem txhim kho rau qee yam haujlwm. Piv txwv li, nws tuaj yeem ua tau txoj kev xav hauv nruab siab los yog natural language production. Hauv kev xaus, ChatGPT thiab cov qauv lus hais txog kev cog lus zoo rau kev nce qib.
Sau ntawv cia Ncua