Mo nga tau, ko te ako hohonu kei te hanga i nga upoko korero mo te hangarau. A, he maamaa te maarama he aha.
Ko tenei peka o te maarama mohio kei te huri i nga waahanga mai i te hauora ki te peeke ki te kawe waka, ka taea te ahu whakamua kaore e taea te whakaaro.
Ko te ako hohonu he mea hanga i runga i te huinga o nga algorithm e ako ana ki te tango me te matapae i nga tauira uaua mai i te tini o nga raraunga.
Ka titiro tatou ki te pai rawa atu o te 15 nga huringa ako hohonu i roto i tenei pou, mai i te Convolutional Neural Networks ki Generative Adversarial Networks ki te Roopu Roopu Mahara Mahara.
Ma tenei panui e whakaatu nga maaramatanga mo te he koe he tauhou, he tohunga ranei ki te ako hohonu.
1. Whatunga Whakawhiti
Kua huri nga whatunga whakawhiti tirohanga rorohiko me nga tono tukatuka reo maori (NLP). Ka tātarihia e ratou nga raraunga taumai me te whakamahi i nga tukanga aro ki te hopu i nga hononga-roa. Ma tenei ka tere ake i nga tauira raupapa-ki-raupapa.
Ko nga whatunga Transformer i whakaahua tuatahi i roto i te whakaputanga "Attention Is All You Need" na Vaswani et al.
Kei roto i a raatau he encoder me te wetewaehere (2017). Ko te tauira hurihuri kua whakaatu i nga mahi i roto i nga momo tono NLP, tae atu ki tātaritanga whakaaro, te whakarōpūtanga kuputuhi, me te whakamaoritanga miihini.
Ka taea hoki te whakamahi tauira-whakawhiti i roto i te tirohanga rorohiko mo nga tono. Ka taea e ratou te mahi tohu taonga me te tapanga whakaahua.
2. Whatunga Mahara Waa-poto Roa (LSTM)
Ko nga Whatunga Mahara Wa-poto Roa (LSTMs) he ahua o te whatunga taiao i hangaia rawa hei hapai i te whakauru raupapa. E kiia ana he "waa poto" na te mea ka maumahara ratou ki nga matauranga mai i nga wa o mua me te wareware i nga korero koretake.
Ka mahi nga LSTM ma etahi "keeti" e whakahaere ana i te rere o nga korero i roto i te whatunga. I runga i te whakaaro he nui te korero, kaore ranei, ka taea e enei keeti te tuku ki roto, te aukati ranei.
Ma tenei tikanga ka taea e nga LSTM te maumahara, te wareware ranei i nga korero mai i nga hikoinga o mua, he mea tino nui mo nga mahi penei i te whai korero, te tukatuka reo maori, me te matapae raupapa wa.
He tino whai hua nga LSTM ahakoa kei a koe nga raraunga raupapa hei arotake, hei matapae ranei. He maha nga wa e whakamahia ana i roto i nga punaha mohio reo hei huri i nga kupu korero ki roto i te tuhinga, ki roto ranei mākete kararehe tātari ki te matapae utu heke mai i runga i nga raraunga o mua.
3. Mahere Whakarite Whaiaro (SOM)
Ko nga SOM he momo hangai whatunga neural e taea te ako me te whakaatu i nga raraunga uaua i roto i te taiao-iti. Ka mahi te tikanga ma te huri i nga raraunga whakauru nui-nui ki roto i te matiti rua-ahu, me ia waeine, neuron ranei e tohu ana i tetahi waahanga rereke o te waahi whakauru.
Ka hono nga neurons me te hanga i te hanganga topological, ka taea e ratou te ako me te whakatika ki nga raraunga whakauru. Na, ko te SOM e ahu mai ana i runga i nga akoranga kaore i te tirotirohia.
Kaore e hiahiatia ana e te algorithm raraunga tapaina ki te ako mai. Engari, ka whakamahia e ia nga ahuatanga tauanga o nga raraunga whakauru kia kitea nga tauira me nga hononga i waenga i nga taurangi.
I te wa whakangungu, ka whakataetae nga neurons hei tohu pai mo nga raraunga whakauru. Na, ka whakarite i a raatau ano ki tetahi hanganga whai kiko. He maha nga momo tono a nga SOM, tae atu ki te tohu whakaahua me te korero, te keri raraunga, me te tohu tauira.
He whai hua mo te whakaata i nga raraunga uaua, te whakahiato i nga tohu raraunga e pa ana, me te kite i nga mea rerekee, i nga mea rereke ranei.
4. Te Ako Whakapakari Hohonu
hohonu Whakaako Whakahoki he momo ako miihini e whakangungua ai tetahi kaihoko ki te whakatau i runga i te punaha utu. Ka mahi ma te tuku i te kaihoko ki te taunekeneke me ona taiao me te ako ma te whakamatautau me te he.
Ka utua te kaihoko mo ia mahi, ko tana kaupapa ko te ako me pehea te arotau i ona painga i roto i te waa. Ka whakamahia pea tenei ki te whakaako i nga kaihoko ki te takaro keemu, ki te taraiwa motopaika, me te whakahaere karetao.
Ko te Q-Learning he tikanga ako mo te whakakaha hohonu. Ka mahi ma te aromatawai i te uara o te mahi i tetahi mahi i roto i tetahi ahuatanga me te whakahou i taua whakatau tata i te wa e taunekeneke ana te kaihoko ki te taiao.
Ka whakamahia e te kaihoko enei whakatau ki te whakatau ko tehea mahi ka puta te utu nui rawa atu. Kua whakamahia te Q-Learning ki te ako i nga kaihoko ki te takaro i nga keemu Atari, me te whakapai ake i te whakamahinga hiko i roto i nga pokapū raraunga.
Ko te Deep Q-Networks tetahi atu tikanga Ako Whakapumau Hohonu (DQN) rongonui. He rite nga DQN ki te Ako-Q i te mea ka whakatauhia e ratou nga uara mahi ma te whakamahi i te whatunga neural hohonu, kaua ki te ripanga.
Ma tenei ka taea e ratou te whakahaere i nga waahanga nui, uaua me te maha o nga mahi rereke. Kua whakamahia nga DQN ki te whakangungu i nga kaihoko ki te takaro i nga keemu penei i a Go me Dota 2, me te hanga robots ka taea te ako ki te hikoi.
5. Whatunga Neural Recurrent (RNNs)
Ko nga RNN he momo whatunga neural ka taea te tukatuka i nga raraunga raupapa i te wa e pupuri ana i te ahua o roto. Whakaarohia he rite ki te tangata e panui ana i te pukapuka, ka ngana ia kupu ki nga kupu o mua.
No reira he pai nga RNN mo nga mahi penei i te whai korero, te whakamaoritanga reo, tae atu ki te matapae i te kupu e whai ake nei i roto i te kianga.
Ka mahi nga RNN ma te whakamahi i nga koropiko urupare ki te hono i te putanga o ia wa ka hoki whakamuri ki te whakaurunga o te taahiraa e whai ake nei. Ma tenei ka taea e te whatunga te whakamahi i nga korero mo te wa o mua ki te whakamarama i ana matapae mo nga waahanga o mua. Heoi ano, ko te tikanga kei te whakaraerae nga RNN ki te take o te rōnaki ka ngaro, ka iti rawa nga rōnaki e whakamahia ana mo te whakangungu me te uaua o te whatunga ki te ako i nga hononga mo te wa roa.
Ahakoa tenei herenga kua kitea, kua kitea e nga RNN te whakamahi i roto i te whānuitanga o nga tono. Kei roto i enei tono te tukatuka reo maori, te whakamohio korero, tae atu ki te hanga waiata.
Google Translate, hei tauira, ka whakamahi i te punaha RNN hei whakamaori puta noa i nga reo, i te mea ko Siri, te kaiawhina mariko, ka whakamahi i te punaha RNN kia kitea te reo. Kua whakamahia hoki nga RNN ki te matapae i nga utu kararehe me te hanga tuhinga me nga whakairoiro pono.
6. Whatunga Capsule
Ko Capsule Networks he momo hoahoa whatunga neural hou e taea ai te tautuhi i nga tauira me nga hononga i roto i nga raraunga ka pai ake. Ka whakariteritehia e ratou nga neurons ki roto i nga "capsules" e whakawaehere ana i etahi waahanga o te whakauru.
Ma tenei ka taea e ratou te hanga matapae tika ake. Ka tangohia e Capsule Networks nga ahuatanga uaua mai i nga raraunga whakauru ma te whakamahi i nga paparanga maha o nga kapene.
Ko te tikanga Capsule Networks ka taea e ratou te ako i nga tohu aroraa o te whakaurunga kua hoatu. Ka taea e ratou te whakawaehere tika i nga hononga mokowhiti i waenga i nga mea kei roto i tetahi pikitia ma te whakawhitiwhiti i waenga i nga kapene.
Ko te tautuhi ahanoa, te wehewehe pikitia, me te tukatuka reo maori he tono katoa a Capsule Networks.
Ka taea e te Capsule Networks te mahi ki roto taraiwa motuhake hangarau. Ka awhina ratou i te punaha ki te mohio me te wehewehe i nga taonga penei i nga motuka, nga tangata, me nga tohu waka. Ka taea e enei punaha te karo i nga tukinga ma te hanga matapae tino tika mo te whanonga o nga mea i to taiao.
7. Kaiwaehere Aunoa (VAE)
Ko nga VAE he momo taputapu ako hohonu e whakamahia ana mo te ako kore e tirotirohia. Ma te whakawaehere raraunga ki roto i te mokowā ahu-iti ka wetewetehia ki te whakatakotoranga taketake, ka ako pea ratou ki te kite i nga tauira i roto i nga raraunga.
He rite ratou ki te tohunga makutu ka taea te huri i te rapeti hei potae, ka hoki ano hei kuini! He whai hua nga VAE mo te whakaputa i nga tirohanga pono, puoro ranei. A, ka taea te whakamahi ki te whakaputa raraunga hou e rite ana ki nga raraunga taketake.
He rite tonu nga VAE ki te kaipatu waehere ngaro. Ka taea e ratou te kite i te kaupapa hanganga o te raraunga ma te wawahi ki nga mokamoka ngawari ake, penei me te pakaru o te panga. Ka whakamahi pea ratou i aua korero ki te hanga i nga raraunga hou e rite ana ki te mea taketake i muri i ta ratou whakariterite i nga waahanga.
He pai tenei mo te kopiri i nga konae nui, te whakaputa whakairoiro hou, waiata ranei i roto i tetahi momo ahua. Ka taea hoki e nga VAE te whakaputa korero hou, penei i nga korero korero, i nga waiata puoro ranei.
8. Whatunga Tauiwi Whakatupu (GANs)
Ko nga GAN (Generative Adversarial Networks) he ahua o te punaha ako hohonu e whakaputa ana i nga raraunga hou e rite ana ki te taketake. Ka mahi ratou ma te whakangungu i nga whatunga e rua: he kaihanga me te kupenga whakawehe.
Ka whakaputahia e te kaihanga nga raraunga hou e rite ana ki te taketake.
Na, ka ngana te tangata whakahāwea ki te wehewehe i waenga i te raraunga taketake me te raraunga hanga. Ko nga whatunga e rua e whakangungua ana, me te kaiwhakaputa e ngana ana ki te whakapohehe i te kaitukino me te kaiwhakawa e ngana ana ki te tautuhi tika i nga raraunga taketake.
Whakaarohia nga GAN hei whitinga i waenga i te kaipahua me te kaitirotiro. He rite tonu te mahi a te kaihanga ki te kaipahua, he mahi toi hou e rite ana ki te taketake.
Ko te tangata whakahāwea te mahi hei kaitirotiro, e ngana ana ki te wehewehe i waenga i nga mahi toi pono me te tinihanga. Ko nga whatunga e rua kua whakangunguhia, me te pai ake o te kaihanga ki te hanga rūpahu pono, me te pai ake o te tangata whakahāwea ki te mohio ki a raatau.
He maha nga whakamahinga a nga GAN, mai i te hanga pikitia pono o te tangata, kararehe ranei ki te hanga waiata hou, tuhituhi ranei. Ka whakamahia pea mo te whakarahi raraunga, me te whakakotahi i nga raraunga kua puta me nga raraunga tuuturu hei hanga i tetahi huingararaunga nui ake mo te whakangungu tauira ako miihini.
9. Whatunga-Q Hohonu (DQNs)
Ko te Deep Q-Networks (DQNs) tetahi ahua o te whakatau-whakatau i te huringa ako algorithm. Ka mahi ratou ma te ako i tetahi mahi-Q e tohu ana i te utu e tumanakohia ana mo te mahi i tetahi mahi i roto i tetahi ahuatanga.
Ka whakaakona te mahi Q ma te whakamatautau me te he, me te algorithm e ngana ana i nga momo mahi me te ako mai i nga putanga.
Whakaarohia ano he kēmu ataata te ahua o te whakamatautau i nga momo mahi me te mohio ko wai nga mea ka angitu! Ka whakangungu nga DQN i te mahi-Q ma te whakamahi i te whatunga neural hohonu, ka whai hua hei taputapu mo nga mahi whakatau uaua.
Kua hinga ano i a raatau nga toa tangata i roto i nga keemu penei i te Go me te whaiwhai, tae atu ki nga karetao me nga motuka taraiwa. Na, ko te katoa, ka mahi nga DQN ma te ako mai i nga wheako ki te whakarei ake i o raatau pukenga whakatau i roto i te waa.
10. Nga Whatunga Mahinga Kaupapa Irirangi (RBFN)
Ko nga Whatunga Taumahi Raarangi (RBFN) he momo whatunga neural e whakamahia ana ki te tata i nga mahi me te mahi i nga mahi whakarōpū. Ka mahi ratou ma te huri i nga raraunga whakauru ki roto i te mokowā teitei ake ma te whakamahi i te kohinga o nga mahi turanga radial.
Ko te putanga o te whatunga he huinga raina o nga mahi turanga, a, ko ia mahinga turanga radial e tohu ana i te waahi pokapū i roto i te waahi whakauru.
He tino whai hua nga RBFN mo nga ahuatanga he uaua nga taunekeneke whakauru-putanga, a tera pea ka whakaakona ma te whakamahi i te whānuitanga o nga tikanga, tae atu ki nga akoranga e maataki ana, e kore e tirotirohia. Kua whakamahia mo nga mea katoa mai i nga matapae putea ki te pikitia me te whai korero ki nga whakamatautau rongoa.
Whakaarohia nga RBFN hei punaha GPS e whakamahi ana i nga raupapa punga ki te rapu huarahi puta noa i nga whenua uaua. Ko te putanga o te whatunga he huinga o nga punga o nga punga, e tu ana mo nga mahi turanga radial.
Ka taea e tatou te tirotiro i nga korero uaua me te whakaputa matapae tika mo te ahuatanga o tetahi ahuatanga ma te whakamahi i nga RBFN.
11. Whakataki Paparangamaha (MLPs)
Ko te ahua angamaheni o te whatunga neural e kiia ana ko te multilayer perceptron (MLP) ka whakamahia mo nga mahi ako maataki penei i te whakarōpūtanga me te whakahekenga. Ka mahi ratou ma te whakahiato i nga paparanga maha o nga node hono, nga neurons ranei, me ia paparanga ka huri i nga raraunga taumai.
I roto i te MLP, ka uru mai ia neurons mai i nga neurons i te paparanga o raro, ka tuku tohu ki nga neurons i te paparanga o runga. Ka whakatauhia nga putanga o ia neuron ma te whakamahi i te mahi whakahohenga, e kore ai te whatunga.
E kaha ana ratou ki te ako i nga whakaaturanga maamaa o nga raraunga whakauru na te mea he maha nga paparanga huna.
Kua whakamahia nga MLP ki nga momo mahi, penei i te tātari kare-a-roto, te rapu tinihanga, me te mohiotanga reo me te pikitia. Ka whakatauritea pea nga MLP ki tetahi roopu kaitirotiro e mahi tahi ana ki te tarai i tetahi keehi uaua.
Ka taea e raua te whakakotahi i nga korero me te whakaoti i te hara ahakoa te mea he waahi motuhake to ia tangata.
12. Whatunga Neural Convolutional (CNNs)
Ka tukatukahia nga whakaahua me nga ataata ma te whakamahi i nga whatunga neural convolutional (CNNs), he ahua o te whatunga neural. Ka mahi ratou ma te whakamahi i te huinga whiriwhiringa ako, nga kakano ranei, hei tango i nga ahuatanga nui mai i nga raraunga whakauru.
Ko nga whiriwhiringa ka rere ki runga i te pikitia whakauru, ka mahia nga huringa ki te hanga i tetahi mahere ahua e hopu ana i nga waahanga nui o te ahua.
I te mea e kaha ana nga CNN ki te ako i nga tohu o nga ahuatanga pikitia, he tino awhina mo nga ahuatanga e pa ana ki te nui o nga raraunga ataata. He maha nga tono kua whakamahia, penei i te kitenga ahanoa, te whakarōpū pikitia, me te kitenga kanohi.
Whakaarohia nga CNN hei kaipeita e whakamahi ana i nga paraihe maha hei hanga i tetahi mahi toi. Ko ia paraihe he kakano, ka taea e te kaitoi te hanga i tetahi ahua uaua, tino pono ma te whakaranu i nga kakano maha. Ka taea e taatau te tango i nga ahuatanga nui mai i nga whakaahua me te whakamahi ki te matapae tika i nga ihirangi o te ahua ma te whakamahi i nga CNN.
13. Whatunga Whakapono Hohonu (DBNs)
Ko nga DBN he ahua o te whatunga neural e whakamahia ana mo nga mahi ako kaore i te tirotirohia penei i te whakahekenga inenga me te ako ahuatanga. Ka mahi ratou ma te whakahiato i nga paparanga maha o nga Miihini Boltzmann Restricted (RBMs), he whatunga neural rua-papa e kaha ana ki te ako ki te whakahou i nga raraunga whakauru.
He tino painga nga DBN mo nga take raraunga rahi-nui na te mea ka taea e ratou te ako i te ahua kiato me te pai o te whakaurunga. Kua whakamahia mo nga mea katoa mai i te mohiotanga reo ki te whakarōpū pikitia ki te kitenga tarukino.
Hei tauira, i mahi nga kairangahau i te DBN ki te whakatau tata i te hononga hono o nga kaitono rongoa ki te kaiwhakawhiwhi estrogen. I whakangunguhia te DBN mo te kohinga o nga ahuatanga matū me nga hononga hono, a ka taea e ia te matapae tika i te hononga hono o nga kaitono tarukino hou.
Ka whakanui tenei i te whakamahinga o nga DBN i roto i te whanaketanga tarukino me etahi atu tono raraunga teitei.
14. KaitukuAunoa
Ko nga Autoencoders he whatunga neural e whakamahia ana mo nga mahi ako kaore i te tirotirohia. Ko te tikanga ki te hanga ano i nga raraunga whakaurunga, e kii ana ka ako ratou ki te whakawaehere i nga korero ki roto i te ahua kiato katahi ka wetewete ano ki te whakauru taketake.
He tino whai hua nga Kaiwhakawaehere Aunoa mo te kopiri raraunga, te tango haruru, me te rapu anomaly. Ka taea hoki te whakamahi mo te ako ahuatanga, i reira ka whangaihia te ahua kiato o te autoencoder ki tetahi mahi ako e maataki ana.
Whakaarohia nga autoencoders hei akonga tuhi tuhipoka i roto i te akomanga. Ka whakarongo te tauira ki te kauhau me te tuhi i nga waahanga e tino whai kiko ana i roto i te ahua poto me te whai hua.
I muri mai, ka taea e te akonga te ako me te mahara ki te akoranga ma te whakamahi i ana tuhipoka. Ko te autoencoder, i tetahi taha, ka whakawaehere i nga raraunga whakauru ki roto i te ahua kiato ka whakamahia pea mo nga kaupapa rereke penei i te kitenga anomaly, te taapiri raraunga ranei.
15. Miihini Boltzmann Rahui( RBMs)
Ko nga RBM (Nga Miihini Boltzmann kua herea) he momo whatunga neural whakahiato e whakamahia ana mo nga mahi ako kaore i te tirotirohia. He paparanga kitea me tetahi paparanga huna, me nga neurons i ia paparanga, e hono ana engari kaore i roto i te paparanga kotahi.
Ka whakangunguhia nga RBM ma te whakamahi i tetahi tikanga e kiia nei ko te rereke rereke, e huri ana i nga taumahatanga i waenga i nga paparanga kitea me nga papa huna kia pai ai te tupono o nga raraunga whakangungu. Ka taea e nga RBM te hanga raraunga hou i muri i te whakangungu ma te tauira mai i te tohatoha ako.
Ko te whakamohiotanga ahua me te whaikorero, te tātari mahi tahi, me te rapu anomaly ko nga tono katoa kua whakamahi i nga RBM. Kua whakamahia ano hoki ki roto i nga punaha taunakitanga ki te hanga i nga taunakitanga kua whakaritea ma te ako i nga tauira mai i te whanonga kaiwhakamahi.
Kua whakamahia ano nga RBM i roto i nga akoranga ahuatanga hei hanga i te ahua kiato me te pai o nga raraunga ahu-nui.
Ko nga Whakawhanaketanga Taputapu me te Whakapaipai i runga i te Horizon
Ko nga tikanga ako hohonu, penei i te Convolutional Neural Networks (CNNs) me te Recurrent Neural Networks (RNNs), kei roto i nga huarahi mohio mohio. Kua huri nga CNN i te pikitia me te whakamohiotanga oro, i te mea kua tino anga whakamua nga RNN ki te tukatuka reo maori me te tātari raraunga raupapa.
Ko te mahi e whai ake nei i roto i te whanaketanga o enei huarahi ka aro ki te whakapai ake i to raatau kakama me te tauineine, ka taea e ratou te tātari i nga huingararaunga nui ake me te uaua ake, me te whakarei ake i o raatau whakamaarama me te kaha ki te ako mai i nga raraunga iti kua tapaina.
Ka taea e te ako hohonu te tuku i nga mahi pakaru i roto i nga mara penei i te hauora, putea, me nga punaha motuhake i a ia e anga whakamua ana.
Waiho i te Reply