Ripanga o Ihirangi[Huna][Whakaatu]
He rite te roro ki nga whatunga neural. Koinei te whakataurite e whakamahia ana hei awhina i te tangata hou ki te kaupapa kia mohio ki nga whakaaro kei muri i te ako miihini me nga whatunga neural artificial.
Na te mea he maha nga papahanga o te tatauranga pangarau me te tatauranga e haere ana i muri i nga whakaaturanga, ko te tautuhi i enei whatunga hei mahi pangarau he tikanga matatau ake.
Ma te hunga e tino hiahia ana ki te ako miihini me te hiahia ki te kite me pehea te tuhi i te waehere whatunga neural Python.
I roto i tenei tuhinga, ka whakaatu maatau me pehea te hanga i tetahi whatunga neural hohonu (DNN) hono katoa mai i te wahanga nānati 3.
He Tirohanga mo te Hanganga Kōnae mo To Tatou Waehere Whatunga Neural Python
E toru nga konae ka hangaia ki konei. Ko te tuatahi ko te konae nn.py ngawari, ka korerohia i roto i te "Whakaritea Nga Mahi Kaiawhina" me te "Hanga i te Whatunga Neural mai i te Scratch."
Ka whiwhi ano matou i tetahi konae ko mnist loader.py hei uta i nga raraunga whakamatautau, pera i te korero i roto i te "Utaina Raraunga MNIST."
Ka mutu, ka whiwhi tatou i tetahi konae ko te test.py ka whakarewahia ki te tauranga hei whakamatautau i to tatou whatunga neural.
Kei te whakaahuahia tenei konae i roto i te "Whakamatautau Whakahaere."
tāutanga
Me tango te whare pukapuka NumPy Python hei whai i tenei akoranga. Ka taea e koe te whakatutuki i tenei ma te whakamahi i te whakahau e whai ake nei i runga i te tauranga:
Te kawemai i nga waahanga me te whakarite i te mahi Kaiawhina
Ko nga whare pukapuka e rua anake e hiahia ana matou he matapōkere me te NumPy, ka kawea mai e matou i tenei wa tonu. Mo nga taumahatanga tuatahi o to tatou whatunga neural, ka riwhi tatou ma te whakamahi i te whare pukapuka matapōkere.
Hei tere ake i a maatau tatauranga, ka whakamahia e matou a NumPy, np ranei (ma te tikanga, he mea kawemai hei np). Ka mahia a maatau mahi kaiawhina i muri i a maatau kawemai. E rua nga mahi sigmoid: kotahi me te pirimia sigmoid.
Ka whakarōpūhia te raraunga ma te whakamahi i te taumahi sigmoid, ko te whakahuringa ka tatau i te delta me te rōnaki ma te whakamahi i te mahi matua sigmoid.
Waihanga Karaehe Whatunga
Ko te hanga i tetahi whatunga neural hono katoa te kaupapa o tenei waahanga. Ko te karaehe whatunga ka uru ki nga mahi katoa ka whai ake. Ko te mahi Ahanoa() { [waehere taketake] } ka hangaia i te tuatahi i roto i ta maatau akomanga whatunga.
Kotahi tohenga, rahinga, e hiahiatia ana e te mahi Ahanoa() { [waehere taketake] }. Ko te taurangi rahi he kohinga uara tau e tohu ana i te maha o nga pona whakauru kei roto i ia paparanga o to tatou whatunga neural.
Ka arawhitia e wha nga ahuatanga i roto i ta maatau tikanga __init__. Ko nga taurangi whakauru, nga rahi, ka whakamahia hei whakatakoto i te rarangi o nga rahi o te paparanga me te maha o nga paparanga, nga paparanga nama, ia.
Ko te mahi tuatahi ko te tautapa matapōkeretia i ngā rītaha tuatahi o tā mātou whatunga ki ia paparanga e whai ana i te apa tāuru.
Ka mutu, ko ia hononga i waenga i nga paparanga whakauru me nga papaa whakaputa he mea hanga matapōkeretia ona taumahatanga. Np.Random.Randn() he tauira matapōkere i tangohia mai i te tohatoha noa mo te horopaki.
Whangai Whakamua Mahi
I roto i te whatunga neural, ka tukuna atu nga korero ma te mahi whangai whakamua. Kotahi tohenga, a, e tohu ana i te vector whakahohenga o naianei, ka hiahiatia e tenei mahi.
Ko tenei mahi e whakatau tata ana i nga whakahohenga i ia paparanga ma te huri haere i nga paanui me nga taumahatanga katoa o te whatunga. Ko te whakautu i homai ko te matapae, ko nga mahi o te paparanga whakamutunga.
Whakaheke Rōnaki-iti
Ko te mahi a to matou akomanga Whatunga ko te Descent Descent. I roto i tenei putanga, ka whakamahia e matou te whakaheke-iti (stochastic) te hekenga rōnaki, he rerekētanga whakarerekētanga o te heke rōnaki.
E tohu ana tenei ka whakamahia he kohinga iti o nga tohu raraunga hei whakahou i to maatau tauira. E wha e hiahiatia ana, kotahi te tohenga whiriwhiri ka tukuna ki tenei tikanga. Ko nga taurangi e wha e hiahiatia ana ko te huinga raraunga whakangungu, te maha o nga waa, te rahi o nga puranga paku, me te reeti ako (eta).
Kei te waatea nga raraunga whakamatautau i runga i te tono. Ka tukuna e matou he raraunga whakamatautau ka arotakehia e matou tenei whatunga. Ko te maha o nga tauira i roto i tenei mahi ka whakatauhia ki te roa o te rarangi ka huri nga raraunga whakangungu hei momo rarangi.
He rite ano ta matou mahi ki te whakamatautau i nga raraunga ka tukuna mai. Ko tenei na te mea kaore i te whakahokia mai ki a matou hei rarangi ingoa, he kotui tena o nga rarangi. Ina utaina e matou nga tauira raraunga MNIST a muri ake nei, ka ako ano matou mo tenei.
Mena ka taea e matou te whakarite ka tukuna e matou nga momo raraunga e rua hei rarangi, karekau tenei momo makanga i te mea tino nui.
Ina whiwhi tatou i nga raraunga, ka haere tatou ki runga i nga waa whakangungu i roto i te kopikopiko. Ko te wa whakangungu he kotahi noa te rauna whakangungu whatunga neural. I te tuatahi ka riwhi i nga raraunga i ia wa ki te whakarite matapōkere i mua i te hanga i te rarangi o nga puranga paku.
Ko te mahi whakamohoatanga mini puranga, e korerohia ana i raro nei, ka karangahia mo ia puranga paku. Ka whakahokia ano te tika o te whakamatautau mena kei te waatea nga raraunga whakamatautau.
Te mahi kaiawhina utu
Me whakawhanake he mahi kaiawhina e kiia nei ko te utu pärönaki i te tuatahi i mua i te tino hanga i te waehere whakahuri. Ki te he tatou i roto i to tatou paparanga putanga, ka whakaatu te mahi pärönaki utu.
E rua nga whakaurunga e hiahiatia ana: ko te rarangi whakahohenga whakaputa me nga taunga-y o nga uara whakaputa e tumanakohia ana.
Te mahi whakamuri
Ko ta tatou vector whakahohenga o naianei, te whakahohenga, me era atu vectors whakahohenga, whakahohenga, me te z-vectors, zs, me mahara katoa. Ko te paparanga e kiia nei ko te apa whakauru ka whakahohe i te tuatahi.
Ka huri tatou i ia rītaha me te taumaha i muri i te whakatakoto. Kei ia kowhiti te tatau i te vector z hei hua ira o nga taumahatanga me te whakahohenga, me te taapiri ki te rarangi o nga zs, te tatau ano i te whakahohenga, me te taapiri i te whakahohenga whakahou ki te rarangi o nga whakahohenga.
Ka mutu, ko te pangarau. Ko te delta, he rite ki te hapa mai i te paparanga o mua kua whakareatia ki te pirimia sigmoid o te huānga whakamutunga o nga vectors zs, ka tatauhia i mua i te tiimata i to maatau whakawhiti whakamuri.
Ko te paparanga whakamutunga o te nabla b kua tautuhia ko te delta, ko te paparanga whakamutunga o te nabla w kua whakaritea hei hua ira o te delta me te paparanga tuarua-ki-te-mutunga o nga whakahohenga (kua hurihia kia taea ai e tatou te mahi pangarau) .
Ka haere tonu i mua, ka timata ki te paparanga tuarua ka mutu ki te paparanga whakamutunga, ka whakahoki ano i te mahi i muri i te whakaoti i enei paparanga whakamutunga. Ka whakahokia nga nablas hei tuple.
Kei te whakahōu i te hekenga rōnaki-iti
Ko ta maatau tikanga SGD (whakahekenga stochastic gradient descent) mai i mua i te whakauru i te whakahōu-puranga paku. I te mea e whakamahia ana i roto i te SGD engari e hiahia ana hoki ki te tuara, i tautohetohe ahau ki hea e tuu ai tenei mahi.
Ka mutu, ka whakatau ahau ki te whakairi ki konei. Ka timata ma te whakaputa 0 vectors o nga rītaha' me te taumaha' nablas, pera i ta maatau mahi backprop.
Me whai te puranga-iti me te reiti ako eta hei whakaurunga e rua. I roto i te puranga-iti, ka whakamahi tatou i te mahi backprop ki te tiki i te delta o ia huinga nabla mo ia whakauru, x, me te putanga, y. Ko nga rarangi nabla ka whakahoutia me enei waahanga.
Ka mutu, ka whakamahia e matou te reiti ako me te nablas ki te whakahou i nga taumahatanga me nga paanui o te whatunga. Ka whakahōuhia ia uara ki te uara hou, iti ake te reeti ako, whakareatia ki te rahi o te puranga iti, ka taapiri atu ki te uara nabla.
Te arotake i te mahi
Ko te mahi arotake te mea whakamutunga me tuhi. Ko nga raraunga whakamatautau anake te whakauru mo tenei mahi. I roto i tenei mahi, ka whakataurite noa tatou i nga putanga o te whatunga me te hua e tumanakohia ana, y. Ma te whangai i te whakauru, x, whakamua, ka whakatauhia nga putanga o te whatunga.
Waehere Whakaotia
Ina whakakotahi tatou i nga waehere katoa, ka penei te ahua.
Whakamatau Whatunga Neural
Uta ana i nga raraunga MNIST
te Raraunga MNIST kei te whakatakotoranga .pkl.gz, ka whakatuwheratia ma te whakamahi GZIP ka utaina ki te pikara. Me tuhi he tikanga tere ki te uta i enei raraunga hei tuple o te rahi toru, ka wehea ki te whakangungu, te whakamana, me te raraunga whakamatautau.
Kia ngawari ake te whakahaere i o maatau raraunga, ka tuhia e matou tetahi atu mahi hei whakawaehere i te y ki roto i te huranga 10-tuemi. Ko te huinga ka 0 katoa engari mo te 1 e rite ana ki te mati tika o te atahanga.
Ka whakamahia e matou nga raraunga kawenga taketake me tetahi tikanga whakawaehere wera hei uta i a maatau raraunga ki te whakatakotoranga panui. Ka tuhia tetahi atu mahi hei huri i a tatou uara x ki te rarangi o te rahi 784, e rite ana ki nga pika 784 o te ahua, me o tatou uara y ki roto i te ahua o te ahua weawere wera kotahi.
Na ka whakakotahi tatou i nga uara x me te y kia rite ai tetahi tohu ki tetahi. Ka pa tenei ki te whakangungu, te whakamana, me nga huinga raraunga whakamatautau. Ka whakahokia e matou nga raraunga kua whakarereketia.
Nga Whakamatau Whakahaere
Ka mahia e matou he konae hou e kiia nei ko te "mnist loader" ka kawemai i te whatunga neural i whakapumautia i mua (ngawari nn) me te MNIST huinga huinga utauta i mua i te tiimata o te whakamatautau.
I roto i tenei konae, ko nga mea katoa e tika ana kia mahia ko te kawemai i nga raraunga, hanga he whatunga me te rahi o te paparanga whakauru o 784 me te rahi o te paparanga putanga o te 10, whakahaere i te mahi SGD o te whatunga i runga i nga raraunga whakangungu, ka whakamatau ma te whakamahi i nga raraunga whakamatautau.
Kia maumahara mo ta matou rarangi o nga paparanga whakaurunga, kaore he rereketanga o nga tau kei waenga i te 784 me te 10. Ka taea e tatou te whakarereke i etahi atu paparanga ahakoa te pai ki a tatou; ko nga rahinga whakauru me nga rahi whakaputa kua whakaritea.
E toru nga papahanga kaore e tika ana; e wha, e rima, e rua noa ranei. Kia harikoa ki te whakamatautau.
Opaniraa
I konei, ma te whakamahi i te Python 3, ka hangaia he whatunga neural mai i te wahanga. I te taha o te pangarau taumata-tiketike, i korero ano matou mo nga ahuatanga o te whakatinanatanga.
I timata ma te whakatinana i nga mahi kaiawhina. Mo nga neurons ki te mahi, he mea nui nga mahi matua sigmoid me sigmoid. Na ka whakatinanahia e matou te mahi whangai whakamua, koinei te tikanga matua mo te whangai raraunga ki te whatunga neural.
I muri mai, i hangaia e matou te mahi whakaheke rōnaki i roto i te Python, te miihini e pana ana i to maatau whatunga neural. Hei kimi i te "minima rohe" me te arotau i o raatau taumahatanga me o raatau taumahatanga, ka whakamahia e ta maatau whatunga neural te hekenga reiti. I hangahia e matou te mahi backpropagation ma te whakamahi heke rōnaki.
Ma te tuku whakamohoatanga ka kore e rite nga putanga ki nga tapanga tika, ma tenei mahi ka taea e te whatunga neural te "ako."
Ka mutu, ka tukuna e matou to maatau Python hou te whatunga taiao ki te whakamatautau ma te whakamahi i te huinga raraunga MNIST. I pai nga mea katoa.
Ka Huri Waehere!
Waiho i te Reply