Pandan plizyè ane, aprantisaj pwofon te fè tit yo nan teknoloji. Epi, li senp pou konprann poukisa.
Branch entèlijans atifisyèl sa a ap transfòme sektè ki soti nan swen sante ak bankè ak transpò, sa ki pèmèt avansman ki te deja pa ka panse.
Aprantisaj pwofon bati sou yon seri algoritm sofistike ki aprann ekstrè ak predi modèl konplike nan volim masiv done.
Nou pral gade 15 pi bon algoritm aprantisaj pwofon yo nan pòs sa a, soti nan rezo neral konvolisyon yo rive nan rezo advèsè jeneratif ak rezo memwa alontèm.
Pòs sa a pral bay enfòmasyon esansyèl sou si ou se yon debutan oswa yon ekspè nan aprantisaj pwofon.
1. Rezo transfòmatè
Rezo transfòmatè yo te transfòme vizyon òdinatè ak aplikasyon pou tretman langaj natirèl (NLP). Yo analize done k ap vini yo epi yo anplwaye pwosesis atansyon pou kaptire relasyon ki dire lontan. Sa fè yo pi vit pase modèl konvansyonèl sekans-a-sekans.
Rezo transfòmatè yo te premye dekri nan piblikasyon "Atansyon se tout sa ou bezwen" pa Vaswani et al.
Yo konpoze de yon ankode ak yon dekodeur (2017). Modèl transfòmatè a te demontre pèfòmans nan yon varyete aplikasyon NLP, ki gen ladan santiman analiz, kategorize tèks, ak tradiksyon machin.
Modèl ki baze sou transfòmatè yo ka itilize tou nan vizyon òdinatè pou aplikasyon yo. Yo ka fè rekonesans objè ak tit imaj.
2. Rezo memwa alontèm (LSTMs)
Rezo memwa a kout tèm (LSTM) se yon fòm nè rezo espesyalman bati pou okipe opinyon sekans. Yo refere yo kòm "long kout tèm" paske yo ka sonje konesans ki soti nan yon bon bout tan de sa pandan y ap bliye tou enfòmasyon ki pa nesesè.
LSTM yo opere atravè kèk "pòtay" ki gouvène koule enfòmasyon andedan rezo a. Tou depan de si enfòmasyon an jije enpòtan oswa ou pa, pòtay sa yo ka swa kite l 'nan oswa anpeche li.
Teknik sa a pèmèt LSTM yo sonje oswa bliye enfòmasyon ki soti nan etap tan ki sot pase yo, sa ki enpòtan pou travay tankou rekonesans lapawòl, pwosesis langaj natirèl, ak prediksyon seri tan.
LSTM yo trè itil nan nenpòt ka kote ou gen done sekans ki dwe evalye oswa prevwa. Yo souvan itilize nan lojisyèl rekonesans vwa pou konvèti mo yo pale nan tèks, oswa nan mache dechanj analiz pou prevwa pri nan lavni ki baze sou done anvan yo.
3. Kat oganize pwòp tèt ou (SOMs)
SOM yo se yon sòt de atifisyèl rezo neral ki ka aprann epi reprezante done konplike nan yon anviwonman ki ba dimansyon. Metòd la opere nan transfòme done opinyon ki gen gwo dimansyon nan yon kadriyaj ki genyen de dimansyon, ak chak inite oswa newòn ki reprezante yon pati diferan nan espas sa a.
Newòn yo lye ansanm epi kreye yon estrikti topolojik, ki pèmèt yo aprann epi ajiste nan done yo antre. Kidonk, SOM baze sou aprantisaj san sipèvizyon.
Algorithm a pa bezwen done ki make pou aprann de. Olye de sa, li itilize karakteristik estatistik done yo antre yo dekouvri modèl ak korelasyon nan mitan varyab yo.
Pandan etap fòmasyon an, newòn konpetisyon yo dwe endikasyon ki pi bon nan done yo opinyon. Epi, yo pwòp tèt ou-òganize nan yon estrikti ki gen sans. SOM yo gen yon pakèt aplikasyon, ki gen ladan rekonesans imaj ak lapawòl, min done, ak rekonesans modèl.
Yo itil pou vizyalize done konplike, regroupman pwen done ki gen rapò, ak detekte anomali oswa outliers.
4. Aprantisaj ranfòsman pwofon
Gwo twou san fon Aprantisaj Ranfòsman se yon sòt de aprantisaj machin kote yon ajan resevwa fòmasyon pou pran desizyon ki baze sou yon sistèm rekonpans. Li fonksyone lè li kite ajan an kominike avèk anviwònman li yo epi aprann atravè esè ak erè.
Ajan an rekonpanse pou chak aksyon li fè, e objektif li se pou aprann kijan pou optimize benefis li yo sou tan. Sa a ka itilize pou anseye ajan yo jwe jwèt, kondwi otomobil, e menm jere robo.
Q-Learning se yon metòd aprantisaj ranfòsman byen koni. Li opere nan evalye valè a nan fè yon aksyon sèten nan yon eta patikilye ak mete ajou ke estimasyon kòm ajan an kominike ak anviwònman an.
Lè sa a, ajan an itilize estimasyon sa yo pou detèmine ki aksyon ki gen plis chans pou rezilta nan pi gwo rekonpans la. Q-Learning yo te itilize pou edike ajan yo pou yo jwe jwèt Atari, epi tou pou amelyore itilizasyon enèji nan sant done yo.
Deep Q-Networks se yon lòt metòd aprantisaj gwo twou san fon ranfòsman (DQN). DQN yo sanble ak Q-Learning paske yo estime valè aksyon lè l sèvi avèk yon rezo neral pwofon olye ke yon tab.
Sa a pèmèt yo fè fas ak gwo, anviwònman konplike ak anpil aksyon altènatif. DQN yo te itilize pou fòme ajan yo jwe jwèt tankou Go ak Dota 2, osi byen ke yo kreye robo ki ka aprann mache.
5. Rezo neral frekans (RNNs)
RNN yo se yon sòt de rezo neral ki ka trete done sekans pandan y ap kenbe yon eta entèn. Konsidere li menm jan ak yon moun k ap li yon liv, kote chak mo yo dijere pa rapò ak sa yo ki te vin anvan li.
Se poutèt sa, RNN yo ideyal pou travay tankou rekonesans lapawòl, tradiksyon langaj, e menm prevwa pwochen mo a nan yon fraz.
RNN yo travay lè l sèvi avèk bouk fidbak yo konekte pwodiksyon an nan chak etap tan tounen ak opinyon nan pwochen etap la. Sa pèmèt rezo a itilize enfòmasyon anvan etap tan pou enfòme prediksyon li pou etap tan kap vini yo. Malerezman, sa vle di tou ke RNN yo vilnerab a pwoblèm gradyan disparisyon an, kote gradyan yo itilize pou fòmasyon vin trè piti epi rezo a ap lite pou aprann relasyon alontèm.
Malgre kontrent aparan sa a, RNN yo te jwenn itilizasyon nan yon pakèt aplikasyon. Aplikasyon sa yo gen ladan pwosesis lang natirèl, rekonesans lapawòl, e menm pwodiksyon mizik.
Google Translate, pou egzanp, anplwaye yon sistèm ki baze sou RNN pou tradwi atravè lang, pandan y ap Siri, asistan vityèl la, itilize yon sistèm ki baze sou RNN pou detekte vwa. RNN yo te itilize tou pou prevwa pri stock epi kreye tèks ak grafik reyalis.
6. Kapsil rezo
Capsule Networks se yon nouvo kalite konsepsyon rezo neral ki ka idantifye modèl ak korelasyon nan done pi efikasman. Yo òganize newòn nan "kapsil" ki kode sèten aspè nan yon opinyon.
Nan fason sa a yo ka fè prediksyon pi egzak. Capsule Networks ekstrè pwopwiyete konplike pwogresivman soti nan done opinyon pa anplwaye anpil kouch kapsil.
Teknik Capsule Networks pèmèt yo aprann reprezantasyon yerarchik nan opinyon yo bay la. Yo ka byen kode koneksyon espasyal ant atik andedan yon foto lè yo kominike ant kapsil.
Idantifikasyon objè, segmentasyon foto, ak pwosesis langaj natirèl se tout aplikasyon Capsule Networks.
Capsule Networks gen potansyèl pou yo travay nan kondwi otonòm teknoloji. Yo ede sistèm nan rekonèt ak distenge ant atik tankou otomobil, moun, ak siy trafik yo. Sistèm sa yo ka evite kolizyon lè yo fè prediksyon pi presi sou konpòtman objè nan anviwònman yo.
7. Variational Autoencoders (VAEs)
VAE yo se yon fòm zouti aprantisaj pwofon ki itilize pou aprantisaj san sipèvizyon. Lè yo kode done nan yon espas ki pi ba yo ak Lè sa a, dekode yo tounen nan fòma orijinal la, yo ka aprann tach modèl nan done yo.
Yo se tankou yon majisyen ki ka transfòme yon lapen nan yon chapo ak Lè sa a, tounen nan yon Bunny! VAE yo itil pou jenere vizyèl reyalis oswa mizik. Epi, yo ka itilize yo pwodwi nouvo done ki konparab ak done orijinal yo.
VAE yo sanble ak codebreaker sekrè. Yo ka dekouvri ki kache a estrikti nan done yo pa kraze li an ti moso ki pi senp, anpil tankou jan yon devinèt kraze. Yo ka itilize enfòmasyon sa yo pou konstwi nouvo done ki sanble ak orijinal la apre yo fin regle pati yo.
Sa a ka itil pou konpresyon dosye menmen oswa pwodwi grafik fre oswa mizik nan yon style sèten. VAE yo ka pwodwi tou nouvo kontni, tankou istwa nouvèl oswa lyrics mizik.
8. Jenerative Adversarial Networks (GAN)
GANs (Generative Adversarial Networks) se yon fòm yon sistèm aprantisaj pwofon ki jenere nouvo done ki sanble ak orijinal la. Yo opere nan fòmasyon de rezo: yon dèlko ak yon rezo diskriminatè.
Dèlko a pwodui nouvo done ki konparab ak orijinal la.
Epi, diskriminatè a eseye fè distenksyon ant done orijinal yo ak done ki kreye yo. De rezo yo fòme an tandem, ak jeneratè a eseye twonpe diskriminatè a ak diskriminatè a eseye byen idantifye done orijinal yo.
Konsidere GAN yo se yon kwazman ant yon falsifikatè ak yon detektif. Dèlko a fonksyone menm jan ak yon falsifikatè, pwodwi nouvo travay atistik ki sanble ak orijinal la.
Diskriminatè a aji kòm yon detektif, eseye fè distenksyon ant travay atistik otantik ak fo. De rezo yo fòme an tandem, ak jeneratè a amelyore nan fè fo ki posib epi diskriminatè a amelyore nan rekonèt yo.
GAN yo gen plizyè itilizasyon, soti nan pwodwi foto reyalis moun oswa bèt nan kreye nouvo mizik oswa ekri. Yo ka itilize tou pou ogmantasyon done, ki enplike konbine done pwodwi ak done reyèl pou konstwi yon pi gwo dataset pou fòmasyon machin aprantisaj modèl.
9. Deep Q-Networks (DQN)
Deep Q-Networks (DQN) se yon sòt de algorithm aprantisaj ranfòsman pou pran desizyon. Yo opere lè yo aprann yon Q-fonksyon ki predi rekonpans yo espere pou fè yon aksyon sèten nan yon kondisyon patikilye.
K-fonksyon an anseye pa esè ak erè, ak algorithm la eseye divès aksyon ak aprann nan rezilta yo.
Konsidere li tankou yon jwèt videyo karaktè fè eksperyans ak divès kalite aksyon epi dekouvri kiyès ki mennen nan siksè! DQN yo fòme fonksyon Q a lè l sèvi avèk yon rezo neral pwofon, sa ki fè yo zouti efikas pou travay difisil pou pran desizyon.
Yo te menm bat chanpyon imen nan jwèt tankou Go ak echèk, osi byen ke nan robotics ak oto-kondwi. Se konsa, an jeneral, DQN yo travay lè yo aprann nan eksperyans pou amelyore kapasite pou pran desizyon yo sou tan.
10. Rezo Fonksyon Baz Radial (RBFNs)
Rezo Fonksyon Baz Radial (RBFNs) se yon sòt de rezo neral ki itilize pou apwoksimatif fonksyon ak fè travay klasifikasyon. Yo opere lè yo transfòme done yo antre nan yon espas ki gen plis dimansyon lè l sèvi avèk yon koleksyon fonksyon baz radial.
Pwodiksyon rezo a se yon konbinezon lineyè fonksyon baz yo, epi chak fonksyon baz radial reprezante yon pwen sant nan espas opinyon an.
RBFN yo espesyalman efikas pou sitiyasyon ki gen entèraksyon antre-sòti konplike, epi yo ka anseye yo lè l sèvi avèk yon pakèt teknik, ki gen ladan aprantisaj sipèvize ak san sipèvizyon. Yo te itilize pou nenpòt bagay soti nan prediksyon finansye foto ak rekonesans lapawòl ak dyagnostik medikal.
Konsidere RBFN yo kòm yon sistèm GPS ki sèvi ak yon seri pwen jete lank pou jwenn wout li atravè tèren difisil. Pwodiksyon rezo a se yon konbinezon de pwen jete lank, ki kanpe nan fonksyon baz radial yo.
Nou ka browse enfòmasyon konplike epi jenere prediksyon presi sou fason yon senaryo pral rive lè nou itilize RBFN yo.
11. Multilayer Perceptrons (MLP)
Yo itilize yon fòm tipik nan rezo neral ki rele yon pèseptwon multikouch (MLP) pou travay aprantisaj sipèvize tankou klasifikasyon ak regresyon. Yo opere nan anpile plizyè kouch nœuds ki lye, oswa newòn, ak chak kouch chanje done yo fèk ap rantre.
Nan yon MLP, chak newòn jwenn opinyon soti nan newòn yo nan kouch ki anba a epi voye yon siyal nan newòn yo nan kouch ki anwo a. Pwodiksyon chak newòn detèmine lè l sèvi avèk yon fonksyon deklanchman, ki bay rezo a ki pa lineyè.
Yo kapab aprann reprezantasyon sofistike nan done yo opinyon paske yo ka gen plizyè kouch kache.
MLP yo te aplike nan yon varyete travay, tankou analiz santiman, deteksyon fwod, ak rekonesans vwa ak foto. MLP yo ka konpare ak yon gwoup envestigatè k ap travay ansanm pou kraze yon ka difisil.
Ansanm, yo ka mete ansanm reyalite yo epi rezoud krim nan malgre lefèt ke chak gen yon domèn patikilye nan espesyalite.
12. Convolutional Neural Networks (CNN)
Imaj ak videyo yo trete lè l sèvi avèk rezo neral konvolusyonèl (CNNs), yon fòm rezo neral. Yo fonksyone lè yo itilize yon seri filtè ki ka aprann, oswa nwayo, pou ekstrè karakteristik enpòtan nan done yo antre.
Filtè yo glise sou foto a antre, egzekite konvolusyon yo bati yon kat karakteristik ki kaptire aspè esansyèl nan imaj la.
Kòm CNN yo kapab aprann reprezantasyon yerarchize nan karakteristik foto yo, yo patikilyèman itil pou sitiyasyon ki enplike volim menmen nan done vizyèl. Plizyè aplikasyon yo te sèvi ak yo, tankou deteksyon objè, kategorize foto, ak deteksyon figi.
Konsidere CNN yo kòm yon pent ki sèvi ak plizyè bwòs pou kreye yon chèf. Chak bwòs se yon nwayo, ak atis la ka bati yon imaj konplèks, reyalis nan melanje anpil nwayo. Nou ka ekstrè karakteristik enpòtan nan foto epi itilize yo pou prevwa avèk presizyon sa ki nan imaj la lè nou itilize CNN.
13. Rezo kwayans pwofon (DBNs)
DBN yo se yon fòm rezo neral ki itilize pou travay aprantisaj san sipèvizyon tankou rediksyon dimansyon ak aprantisaj karakteristik. Yo fonksyone pa anpile plizyè kouch machin Boltzmann Restriksyon (RBMs), ki se rezo neral de kouch ki kapab aprann rekonstitye done opinyon yo.
DBN yo trè benefik pou pwoblèm done wo dimansyon paske yo ka aprann yon reprezantasyon kontra enfòmèl ant ak efikas nan opinyon an. Yo te itilize pou nenpòt bagay, soti nan rekonesans vwa nan kategorize foto ak dekouvèt dwòg.
Pou egzanp, chèchè yo te anplwaye yon DBN pou estime afinite obligatwa kandida medikaman ak reseptè estwojèn. DBN a te resevwa fòmasyon sou yon koleksyon karakteristik chimik ak afinite obligatwa, epi li te kapab byen predi afinite obligatwa nan kandida nouvo dwòg.
Sa a mete aksan sou itilizasyon DBN yo nan devlopman dwòg ak lòt aplikasyon done ki gen gwo dimansyon.
14. Autoencoders
Autoencoders yo se rezo neral ki itilize pou travay aprantisaj san sipèvizyon. Yo gen entansyon rekonstwi done yo opinyon, ki vle di ke yo pral aprann kode enfòmasyon an nan yon reprezantasyon kontra enfòmèl ant ak Lè sa a, dekode li tounen nan opinyon orijinal la.
Autoencoders yo trè efikas pou konpresyon done, retire bri, ak deteksyon anomali. Yo ka itilize tou pou aprantisaj karakteristik, kote reprezantasyon kontra enfòmèl ant autoencoder la manje nan yon travay aprantisaj sipèvize.
Konsidere autoencoders kòm elèv k ap pran nòt nan klas la. Elèv la koute konferans la epi ekri pwen ki pi enpòtan yo nan yon fason kout epi efikas.
Apre, etidyan an ka etidye epi sonje leson an lè l sèvi avèk nòt yo. Yon autoencoder, nan lòt men an, kode done yo antre nan yon reprezantasyon kontra enfòmèl ant ki ka imedyatman dwe anplwaye pou diferan rezon tankou deteksyon anomali oswa konpresyon done.
15. Restriksyon machin Boltzmann (RBMs)
RBMs (Restricted Boltzmann Machines) se yon sòt de rezo jeneratif neral ki itilize pou travay aprantisaj san sipèvizyon. Yo konpoze de yon kouch vizib ak yon kouch kache, ak newòn nan chak kouch, lye men yo pa nan menm kouch la.
RBM yo fòme lè l sèvi avèk yon teknik ke yo rekonèt kòm divergence contrastive, ki enplike chanje pwa ki genyen ant kouch yo vizib ak kache yo nan lòd yo optimize pwobabilite pou done fòmasyon yo. RBM yo ka kreye done fre apre yo fin resevwa fòmasyon pa pran echantiyon nan distribisyon an aprann.
Imaj ak rekonesans lapawòl, filtraj kolaborasyon, ak deteksyon anomali se tout aplikasyon ki te anplwaye RBM. Yo te itilize tou nan sistèm rekòmandasyon yo pou kreye rekòmandasyon pwepare lè yo aprann modèl nan konpòtman itilizatè yo.
RBM yo te itilize tou nan aprantisaj karakteristik pou kreye yon reprezantasyon kontra enfòmèl ant done ki gen gwo dimansyon.
Wrap-Up ak Devlopman pwomèt sou orizon an
Metòd aprantisaj pwofon, tankou Convolutional Neural Networks (CNNs) ak Recurrent Neural Networks (RNNs), se pami apwòch entèlijans atifisyèl ki pi avanse. CNN yo te transfòme foto ak rekonesans odyo, pandan y ap RNN yo te avanse anpil nan pwosesis lang natirèl ak analiz done sekans.
Pwochen etap la nan evolisyon apwòch sa yo gen anpil chans pou konsantre sou amelyore efikasite yo ak évolutivité, sa ki pèmèt yo analize pi gwo ak pi konplike done ansanm, osi byen ke amelyore entèpretasyon yo ak kapasite yo aprann nan mwens etikèt done.
Aprantisaj pwofon gen posiblite pou pèmèt pwogrè nan domèn tankou swen sante, finans, ak sistèm otonòm pandan l ap avanse.
Kite yon Reply