Sulod sa daghang mga tuig, ang lawom nga pagkat-on nahimo nga mga ulohan sa teknolohiya. Ug, dali ra sabton kung ngano.
Kini nga sanga sa artipisyal nga paniktik nagbag-o sa mga sektor gikan sa pag-atiman sa kahimsog hangtod sa pagbabangko hangtod sa transportasyon, nga nagpaarang sa kaniadto dili mahunahuna nga mga pag-uswag.
Ang lawom nga pagkat-on gitukod sa usa ka set sa sopistikado nga mga algorithm nga nakakat-on sa pagkuha ug pagtagna sa mga komplikado nga mga sumbanan gikan sa daghang mga volume sa datos.
Atong tan-awon ang labing kaayo nga 15 nga lawom nga mga algorithm sa pagkat-on sa kini nga post, gikan sa Convolutional Neural Networks hangtod sa Generative Adversarial Networks hangtod sa Long Short-Term Memory network.
Kini nga post maghatag hinungdanon nga mga panabut kung ikaw usa ka beginner o eksperto sa lawom nga pagkat-on.
1. Transformer Networks
Ang mga network sa transformer nausab computer vision ug natural nga pagproseso sa pinulongan (NLP) nga mga aplikasyon. Gi-analisar nila ang umaabot nga datos ug gigamit ang mga proseso sa atensyon aron makuha ang mga dugay nga relasyon. Kini naghimo kanila nga mas paspas kay sa naandan nga sequence-to-sequence nga mga modelo.
Ang mga network sa transformer unang gihulagway sa publikasyon nga "Attention Is All You Need" ni Vaswani et al.
Naglangkob kini sa usa ka encoder ug usa ka decoder (2017). Ang modelo sa transformer nagpakita sa pasundayag sa lainlaing mga aplikasyon sa NLP, lakip ang pagtuki sa sentimento, pagkategorya sa teksto, ug paghubad sa makina.
Ang mga modelo nga nakabase sa transformer mahimo usab nga magamit sa panan-aw sa kompyuter alang sa mga aplikasyon. Makahimo sila sa pag-ila sa butang ug pag-caption sa imahe.
2. Long Short-Term Memory Networks (LSTMs)
Ang Long Short-Term Memory Networks (LSTMs) kay usa ka porma sa neural network ilabi na nga gitukod sa pagdumala sa sequential input. Gitawag sila nga "long short term" tungod kay sila makahinumdom sa kahibalo gikan sa dugay na nga panahon samtang nakalimot usab sa wala kinahanglana nga impormasyon.
Ang mga LSTM naglihok pinaagi sa pipila ka "mga ganghaan" nga nagdumala sa dagan sa impormasyon sulod sa network. Depende kung ang kasayuran gihukman nga hinungdanon o dili, kini nga mga ganghaan mahimo’g pasudlon o mapugngan kini.
Kini nga teknik makapahimo sa mga LSTM sa paghinumdom o pagkalimot sa impormasyon gikan sa nangaging mga lakang sa panahon, nga hinungdanon alang sa mga buluhaton sama sa pag-ila sa sinultihan, pagproseso sa natural nga pinulongan, ug panagna sa serye sa panahon.
Ang mga LSTM labi ka mapuslanon sa bisan unsang kaso diin adunay ka sunud-sunod nga datos nga kinahanglan susihon o matagna. Kanunay kini nga gigamit sa software sa pag-ila sa tingog aron mabag-o ang gisulti nga mga pulong sa teksto, o sa stock market pagtuki sa pagtagna sa umaabot nga mga presyo base sa nangaging datos.
3. Self Organizing Maps (SOMs)
Ang mga SOM usa ka matang sa artipisyal neural network nga makakat-on ug nagrepresentar sa komplikado nga datos sa usa ka low-dimensional nga palibot. Ang pamaagi naglihok pinaagi sa pagbag-o sa high-dimensional nga data sa pag-input ngadto sa usa ka duha-ka-dimensional nga grid, nga ang matag yunit o neuron nagrepresentar sa lain-laing bahin sa input space.
Ang mga neuron nalambigit sa tingub ug naghimo sa usa ka topological nga istruktura, nga nagtugot kanila sa pagkat-on ug pag-adjust sa input data. Busa, ang SOM gibase sa unsupervised learning.
Ang algorithm dili kinahanglan gimarkahan nga datos sa pagkat-on gikan sa. Hinuon, gigamit niini ang mga estadistika nga bahin sa data sa pag-input aron mahibal-an ang mga sumbanan ug mga kalambigitan taliwala sa mga variable.
Atol sa yugto sa pagbansay, ang mga neuron nakigkompetensya aron mahimong labing kaayo nga timailhan sa data sa pag-input. Ug, sila nag-organisar sa kaugalingon sa usa ka makahuluganon nga istruktura. Ang mga SOM adunay daghang mga aplikasyon, lakip ang pag-ila sa imahe ug sinultihan, pagmina sa datos, ug pag-ila sa pattern.
Mapuslanon sila alang sa pagtan-aw sa komplikado nga datos, pag-cluster sa may kalabutan nga mga punto sa datos, ug pag-ila sa mga abnormalidad o outlier.
4. Lawom nga Pagpalig-on sa Pagkat-on
Deep Pagpalig-on sa Pagkat-on usa ka matang sa pagkat-on sa makina diin ang ahente gibansay sa paghimog mga desisyon base sa sistema sa ganti. Naglihok kini pinaagi sa pagtugot sa ahente nga makig-uban sa iyang palibot ug makakat-on pinaagi sa pagsulay ug sayup.
Gigantihan ang ahente sa matag aksyon nga gihimo niini, ug ang katuyoan niini mao ang pagkat-on kung unsaon pag-optimize ang mga benepisyo niini sa paglabay sa panahon. Mahimo kini gamiton sa pagtudlo sa mga ahente sa pagdula, pagmaneho sa mga awto, ug bisan sa pagdumala sa mga robot.
Ang Q-Learning usa ka ilado nga pamaagi sa Deep Reinforcement Learning. Naglihok kini pinaagi sa pagtimbang-timbang sa kantidad sa pagbuhat sa usa ka piho nga aksyon sa usa ka partikular nga estado ug pag-update sa kana nga pagtantiya samtang ang ahente nakig-uban sa kalikopan.
Gigamit dayon sa ahente kini nga mga pagbanabana aron mahibal-an kung unsang aksyon ang lagmit nga moresulta sa labing dako nga ganti. Ang Q-Learning gigamit sa pag-edukar sa mga ahente sa pagdula sa mga dula sa Atari, ingon man sa pagpalambo sa paggamit sa enerhiya sa mga sentro sa datos.
Ang Deep Q-Networks maoy laing sikat nga Deep Reinforcement Learning method (DQN). Ang mga DQN parehas sa Q-Learning nga ilang gibanabana ang mga kantidad sa aksyon gamit ang lawom nga neural network kaysa usa ka lamesa.
Makapahimo kini kanila sa pag-atubang sa dako, komplikado nga mga setting nga adunay daghang alternatibong mga aksyon. Ang mga DQN gigamit sa pagbansay sa mga ahente sa pagdula sama sa Go ug Dota 2, ingon man sa paghimo og mga robot nga makakat-on sa paglakaw.
5. Nagbalikbalik nga Neural Networks (RNNs)
Ang mga RNN usa ka matang sa neural network nga makaproseso sa sunud-sunod nga datos samtang nagpabilin ang usa ka internal nga estado. Hunahunaa kini nga susama sa usa ka tawo nga nagbasa sa usa ka libro, diin ang matag pulong natunaw nga adunay kalabotan sa mga nauna niini.
Busa ang mga RNN maayo alang sa mga buluhaton sama sa pag-ila sa sinultihan, paghubad sa pinulongan, ug bisan sa pagtagna sa sunod nga pulong sa usa ka hugpong sa mga pulong.
Ang mga RNN nagtrabaho pinaagi sa paggamit sa feedback loops aron makonektar ang output sa matag lakang balik ngadto sa input sa sunod nga lakang. Gitugotan niini ang network nga magamit ang impormasyon sa una nga lakang sa oras aron mahibal-an ang mga panagna alang sa umaabot nga mga lakang sa oras. Ikasubo, kini usab nagpasabut nga ang mga RNN dali nga maapektuhan sa nawala nga gradient nga isyu, diin ang mga gradient nga gigamit alang sa pagbansay nahimong gamay kaayo ug ang network nanlimbasug sa pagkat-on sa mga dugay nga relasyon.
Bisan pa sa kini nga dayag nga pagpugong, ang mga RNN nakit-an nga gigamit sa daghang mga aplikasyon. Kini nga mga aplikasyon naglakip sa natural nga pagproseso sa sinultihan, pag-ila sa sinultihan, ug bisan ang paghimo sa musika.
Google Translate, pananglitan, naggamit ug RNN-based nga sistema sa paghubad sa tibuok pinulongan, samtang si Siri, ang virtual assistant, naggamit ug RNN-based nga sistema aron makamatikod sa tingog. Ang mga RNN gigamit usab sa pagtagna sa mga presyo sa stock ug paghimo og realistiko nga teksto ug mga graphic.
6. Capsule Networks
Ang Capsule Networks usa ka bag-ong klase sa disenyo sa neural network nga mas epektibo nga makaila sa mga pattern ug correlations sa datos. Giorganisar nila ang mga neuron ngadto sa "mga kapsula" nga nag-encode sa pipila ka mga aspeto sa usa ka input.
Niining paagiha makahimo sila ug mas tukma nga mga panagna. Ang Capsule Networks nagkuha sa labi ka komplikado nga mga kabtangan gikan sa input data pinaagi sa paggamit sa daghang mga layer sa mga kapsula.
Ang teknik sa Capsule Networks makapahimo kanila nga makakat-on sa hierarchical nga representasyon sa gihatag nga input. Mahimo nila nga ma-encode ang mga spatial nga koneksyon tali sa mga butang sa sulod sa usa ka litrato pinaagi sa pagpakigsulti tali sa mga kapsula.
Ang pag-ila sa butang, pagbahinbahin sa hulagway, ug pagproseso sa natural nga pinulongan mao ang tanan nga mga aplikasyon sa Capsule Networks.
Ang Capsule Networks adunay potensyal nga magamit sa independente nga pagmaneho mga teknolohiya. Gitabangan nila ang sistema sa pag-ila ug pag-ila sa mga butang sama sa mga awto, mga tawo, ug mga karatula sa trapiko. Kini nga mga sistema makalikay sa mga bangga pinaagi sa paghimo og mas tukma nga mga panagna mahitungod sa kinaiya sa mga butang sa ilang palibot.
7. Variational Autoencoders (VAEs)
Ang mga VAE usa ka porma sa lawom nga himan sa pagkat-on nga gigamit alang sa wala gibantayan nga pagkat-on. Pinaagi sa pag-encode sa datos ngadto sa mas ubos nga dimensyon nga luna ug dayon pag-decode niini balik sa orihinal nga format, mahimo silang makakat-on sa pagpangita sa mga pattern sa datos.
Sama sila sa usa ka salamangkero nga makahimo sa usa ka koneho ngadto sa usa ka kalo ug unya mobalik ngadto sa usa ka koneho! Ang mga VAE mapuslanon alang sa paghimo og realistiko nga mga biswal o musika. Ug, mahimo silang magamit sa paghimo og bag-ong datos nga ikatandi sa orihinal nga datos.
Ang mga VAE parehas sa sekreto nga codebreaker. Sila makadiskobre sa nagpahiping istruktura sa datos pinaagi sa pagbungkag niini ngadto sa mas simple nga mga tipik, sama sa pagbungkag sa usa ka puzzle. Mahimo nilang gamiton kana nga impormasyon sa paghimo og bag-ong datos nga morag orihinal human nila mahan-ay ang mga bahin.
Mahimo kini nga magamit alang sa pag-compress sa daghang mga file o paghimo og presko nga mga graphic o musika sa usa ka piho nga istilo. Ang mga VAE makahimo usab og bag-ong sulod, sama sa mga istorya sa balita o liriko sa musika.
8. Generative Adversarial Networks (GANs)
Ang mga GAN (Generative Adversarial Networks) usa ka porma sa lawom nga sistema sa pagkat-on nga nagmugna og bag-ong datos nga susama sa orihinal. Naglihok sila pinaagi sa pagbansay sa duha ka network: usa ka generator ug usa ka network sa diskriminator.
Ang generator naghimo og bag-ong datos nga ikatandi sa orihinal.
Ug, ang nagpihigpihig mosulay sa pag-ila tali sa orihinal ug gibuhat nga datos. Ang duha ka network gibansay sa tandem, uban sa generator misulay sa paglimbong sa discriminator ug ang discriminator misulay sa husto nga pag-ila sa orihinal nga data.
Hunahunaa ang mga GAN nga usa ka krus tali sa usa ka peke ug usa ka detektib. Ang generator naglihok parehas sa usa ka palsipikado, nga naghimo og bag-ong artwork nga susama sa orihinal.
Ang discriminator naglihok isip usa ka detective, nga misulay sa pag-ila tali sa tinuod nga artwork ug peke. Ang duha ka network gibansay sa tandem, nga ang generator nag-uswag sa paghimo sa katuohan nga mga peke ug ang nagpihigpihig nga nag-uswag sa pag-ila niini.
Ang mga GAN adunay daghang gamit, gikan sa paghimo og realistiko nga mga hulagway sa mga tawo o mga hayop ngadto sa pagmugna og bag-ong musika o pagsulat. Mahimo usab kini gamiton alang sa pagdugang sa datos, nga naglakip sa paghiusa sa mga gihimo nga datos nga adunay tinuod nga datos aron makahimo og mas dako nga dataset alang sa pagbansay sa mga modelo sa pagkat-on sa makina.
9. Deep Q-Networks (DQNs)
Ang Deep Q-Networks (DQNs) usa ka matang sa algorithm sa pagkat-on sa pagpalig-on sa paghimog desisyon. Naglihok sila pinaagi sa pagkat-on sa usa ka Q-function nga nagtagna sa gipaabot nga ganti sa pagbuhat sa usa ka aksyon sa usa ka partikular nga kondisyon.
Ang Q-function gitudlo pinaagi sa pagsulay ug sayup, uban ang algorithm nga nagsulay sa lainlaing mga aksyon ug pagkat-on gikan sa mga sangputanan.
Hunahunaa kini sama sa a video game kinaiya nga nag-eksperimento sa lain-laing mga aksyon ug pagdiskobre kon hain ang mosangpot sa kalampusan! Ang mga DQN nagbansay sa Q-function gamit ang lawom nga neural network, nga naghimo kanila nga epektibo nga mga himan alang sa lisud nga mga buluhaton sa paghimog desisyon.
Napildi pa nila ang mga kampeon sa tawo sa mga dula sama sa Go ug chess, ingon man sa robotics ug self-driving nga mga awto. Busa, sa tanan, ang mga DQN nagtrabaho pinaagi sa pagkat-on gikan sa kasinatian aron mapauswag ang ilang kahanas sa paghimog desisyon sa paglabay sa panahon.
10. Radial Basis Function Networks (RBFNs)
Ang Radial Basis Function Networks (RBFNs) usa ka matang sa neural network nga gigamit sa pagbanabana sa mga gimbuhaton ug paghimo sa mga buluhaton sa klasipikasyon. Naglihok sila pinaagi sa pagbag-o sa data sa pag-input ngadto sa usa ka mas taas nga dimensyon nga wanang gamit ang usa ka koleksyon sa mga gimbuhaton sa radial nga sukaranan.
Ang output sa network usa ka linear nga kombinasyon sa mga basehan nga mga gimbuhaton, ug ang matag radial nga basehan nga function nagrepresentar sa sentro nga punto sa input space.
Ang mga RBFN labi ka epektibo alang sa mga sitwasyon nga adunay komplikado nga mga interaksyon sa input-output, ug mahimo silang itudlo gamit ang usa ka halapad nga mga pamaagi, lakip ang gibantayan ug wala gibantayan nga pagkat-on. Gigamit kini alang sa bisan unsang butang gikan sa mga panagna sa pinansyal hangtod sa pagkilala sa litrato ug sinultihan hangtod sa medikal nga mga diagnostic.
Ikonsiderar ang RBFNs isip usa ka GPS system nga naggamit ug sunod-sunod nga anchor point aron makit-an ang agianan latas sa mahagiton nga tereyn. Ang output sa network usa ka kombinasyon sa mga punto sa angkla, nga nagbarug alang sa mga gimbuhaton sa radial nga basehan.
Maka-browse kami sa komplikado nga impormasyon ug makamugna og tukma nga mga panagna bahin sa kung unsa ang mahitabo sa usa ka senaryo pinaagi sa paggamit sa mga RBFN.
11. Multilayer Perceptrons (MLPs)
Usa ka tipikal nga porma sa neural network nga gitawag og multilayer perceptron (MLP) gigamit alang sa gidumala nga mga buluhaton sa pagkat-on sama sa klasipikasyon ug regression. Naglihok sila pinaagi sa pag-stack sa daghang mga layer sa nalambigit nga mga node, o mga neuron, nga ang matag layer dili linya nga nagbag-o sa umaabot nga datos.
Sa usa ka MLP, ang matag neuron makakuha og input gikan sa mga neuron sa layer sa ubos ug magpadala usa ka signal sa mga neuron sa layer sa ibabaw. Ang matag output sa neuron gitino gamit ang usa ka function sa pagpaaktibo, nga naghatag sa network nga dili linya.
Makakat-on sila sa mga sopistikado nga representasyon sa data sa pag-input tungod kay mahimo silang adunay daghang mga tinago nga mga layer.
Ang mga MLP gipadapat sa lain-laing mga buluhaton, sama sa pagtuki sa sentimento, pag-ila sa pagpanglimbong, ug pag-ila sa tingog ug hulagway. Ang mga MLP mahimong itandi sa usa ka grupo sa mga imbestigador nga nagtinabangay aron mabungkag ang usa ka lisud nga kaso.
Mag-uban, mahimo nilang hiusahon ang mga kamatuoran ug masulbad ang krimen bisan pa sa kamatuoran nga ang matag usa adunay usa ka partikular nga lugar sa espesyalidad.
12. Convolutional Neural Networks (CNNs)
Ang mga imahe ug video giproseso gamit ang convolutional neural network (CNNs), usa ka porma sa neural network. Naglihok sila pinaagi sa paggamit sa usa ka hugpong sa mga makat-unan nga mga pagsala, o mga kernel, aron makuha ang hinungdanon nga mga kinaiya gikan sa input data.
Ang mga filter nag-agi sa ibabaw sa input nga hulagway, nga nagpatuman sa mga convolutions aron sa paghimo sa usa ka feature nga mapa nga nagkuha sa importante nga mga aspeto sa hulagway.
Ingon nga ang mga CNN nakakat-on sa mga hierarchical nga representasyon sa mga kinaiya sa litrato, kini labi nga makatabang alang sa mga sitwasyon nga naglambigit sa daghang mga volume sa biswal nga datos. Daghang mga aplikasyon ang migamit niini, sama sa pagtuki sa butang, pagkategorya sa litrato, ug pagtuki sa nawong.
Hunahunaa ang mga CNN isip usa ka pintor nga naggamit og daghang mga brush sa paghimo og usa ka obra maestra. Ang matag brush usa ka kernel, ug ang artist mahimong maghimo usa ka komplikado, realistiko nga imahe pinaagi sa pagsagol sa daghang mga kernel. Mahimo natong makuha ang mahinungdanong mga kinaiya gikan sa mga litrato ug gamiton kini aron tukma nga makatagna sa sulod sa hulagway pinaagi sa paggamit sa CNNs.
13. Deep Belief Networks (DBNs)
Ang mga DBN usa ka porma sa neural network nga gigamit alang sa wala gibantayan nga mga buluhaton sa pagkat-on sama sa pagkunhod sa dimensiyon ug pagkat-on sa bahin. Naglihok sila pinaagi sa pag-stack sa daghang mga layer sa Restricted Boltzmann Machines (RBMs), nga duha ka layer nga neural network nga makahimo sa pagkat-on sa pag-reconstitute sa input data.
Ang mga DBN mapuslanon kaayo alang sa mga isyu sa high-dimensional nga datos tungod kay makakat-on sila og usa ka compact ug episyente nga representasyon sa input. Gigamit na sila alang sa bisan unsang butang gikan sa pag-ila sa tingog hangtod sa pagkategorya sa litrato hangtod sa pagdiskubre sa droga.
Pananglitan, ang mga tigdukiduki migamit ug DBN aron banabanaon ang pagbugkos sa mga kandidato sa tambal ngadto sa estrogen receptor. Ang DBN gibansay sa usa ka koleksyon sa kemikal nga mga kinaiya ug nagbugkos nga mga kalambigitan, ug kini nakahimo sa tukma nga pagtagna sa nagbugkos nga kalambigitan sa mga kandidato sa bag-ong droga.
Gipasiugda niini ang paggamit sa mga DBN sa pag-uswag sa tambal ug uban pang mga aplikasyon sa datos nga adunay taas nga sukat.
14. Autoencoders
Ang mga autoencoders mao ang mga neural network nga gigamit alang sa wala’y pagdumala nga mga buluhaton sa pagkat-on. Sila gituyo sa pagtukod pag-usab sa input data, nga nagpasabot nga sila makakat-on sa pag-encode sa impormasyon ngadto sa usa ka compact representasyon ug unya decode kini balik ngadto sa orihinal nga input.
Ang mga autoencoders epektibo kaayo alang sa data compression, pagtangtang sa kasaba, ug pagtuki sa anomaliya. Mahimo usab kini gamiton alang sa pagkat-on sa bahin, diin ang compact nga representasyon sa autoencoder gipakaon sa usa ka gibantayan nga buluhaton sa pagkat-on.
Ikonsiderar ang mga autoencoders nga mga estudyante nga nagkuha og mga nota sa klase. Ang estudyante maminaw sa lektyur ug isulat ang labing may kalabotan nga mga punto sa mubo ug episyente nga paagi.
Sa ulahi, ang estudyante mahimong magtuon ug mahinumdom sa leksyon gamit ang ilang mga nota. Ang usa ka autoencoder, sa laing bahin, nag-encode sa input data ngadto sa usa ka compact representation nga sa ulahi mahimong gamiton alang sa lain-laing mga katuyoan sama sa anomaliya detection o data compression.
15. Restricted Boltzmann Machines( RBMs)
Ang RBMs (Restricted Boltzmann Machines) kay usa ka matang sa generative neural network nga gigamit alang sa wala gibantayan nga mga buluhaton sa pagkat-on. Kini gilangkoban sa usa ka makita nga layer ug usa ka tinago nga layer, nga adunay mga neuron sa matag layer, nga nalambigit apan dili sulod sa parehas nga layer.
Ang mga RBM gibansay gamit ang usa ka teknik nga nailhan nga contrastive divergence, nga naglakip sa pagbag-o sa mga gibug-aton tali sa makita ug tinago nga mga layer aron ma-optimize ang posibilidad sa datos sa pagbansay. Ang mga RBM mahimong makamugna ug bag-ong datos human mabansay pinaagi sa sampling gikan sa nakat-onan nga pag-apod-apod.
Ang pag-ila sa imahe ug sinultihan, pagtinabangay nga pagsala, ug pagtuki sa anomaliya mao ang tanan nga mga aplikasyon nga gigamit ang mga RBM. Gigamit usab sila sa mga sistema sa rekomendasyon aron makahimo og gipahaum nga mga rekomendasyon pinaagi sa pagkat-on sa mga sumbanan gikan sa pamatasan sa tiggamit.
Ang mga RBM gigamit usab sa pagkat-on sa feature aron makahimo og usa ka compact ug episyente nga representasyon sa high-dimensional nga datos.
Wrap-Up ug Nagsaad nga mga Kauswagan sa Kapunawpunawan
Ang lawom nga mga pamaagi sa pagkat-on, sama sa Convolutional Neural Networks (CNNs) ug Recurrent Neural Networks (RNNs), usa sa labing abante nga mga pamaagi sa artificial intelligence. Gibag-o sa mga CNN ang pagkilala sa litrato ug audio, samtang ang mga RNN labi nga nag-uswag sa pagproseso sa natural nga sinultian ug pag-analisar sa sunud-sunod nga datos.
Ang sunod nga lakang sa ebolusyon sa kini nga mga pamaagi lagmit nga mag-focus sa pagpauswag sa ilang pagkaepisyente ug scalability, nga gitugotan sila sa pag-analisar sa labi ka daghan ug labi ka komplikado nga mga datos, ingon man pagpauswag sa ilang pagkahubad ug katakus sa pagkat-on gikan sa dili kaayo gimarkahan nga datos.
Ang lawom nga pagkat-on adunay posibilidad nga tugutan ang mga kauswagan sa mga natad sama sa pag-atiman sa kahimsog, pinansya, ug mga sistema sa awtonomiya samtang kini nag-uswag.
Leave sa usa ka Reply