Atọka akoonu[Fipamọ][Ifihan]
Awọn imọ-ẹrọ ikẹkọ ti o jinlẹ ti a mọ si “awọn nẹtiwọọki nkankikan ayaworan” (GNNs) ṣiṣẹ ni agbegbe iyaya. Awọn nẹtiwọọki wọnyi ti rii lilo laipẹ ni ọpọlọpọ awọn aaye, pẹlu iran kọnputa, awọn eto oludamoran, ati iṣapeye apapọ, lati lorukọ diẹ.
Ni afikun, awọn nẹtiwọọki wọnyi le ṣee lo lati ṣe aṣoju awọn eto idiju, pẹlu awọn nẹtiwọọki awujọ, awọn nẹtiwọọki ibaraenisepo amuaradagba-amuaradagba, awọn aworan imọ, ati awọn miiran ni awọn aaye ikẹkọ pupọ.
Awọn aaye ti kii-euclidean ni ibi ti awọn aworan data ṣiṣẹ, ni idakeji si awọn iru data miiran bi awọn aworan. Lati le ṣe iyatọ awọn apa, asọtẹlẹ awọn ọna asopọ, ati data iṣupọ, a lo itupalẹ awọn aworan.
Ninu nkan yii, a yoo ṣe ayẹwo Aworan naa nkankikan Network ni apejuwe awọn, awọn oniwe-orisi, bi daradara bi pese ilowo apeere lilo PyTorch.
Nitorina, kini Graph?
Aworan kan jẹ iru igbekalẹ data ti o ni awọn apa ati awọn inaro. Awọn asopọ laarin awọn orisirisi apa ti wa ni ṣiṣe nipasẹ awọn vertices. Ti o ba ti itọsọna ti wa ni itọkasi ni awọn apa, awonya ti wa ni wi lati wa ni directed; bibẹkọ ti, o jẹ undirected.
Ohun elo ti o dara ti awọn aworan jẹ apẹrẹ awọn ibatan laarin ọpọlọpọ awọn eniyan ni a awujo nẹtiwọki. Nigbati o ba n ba awọn ipo idiju ṣe, gẹgẹbi awọn ọna asopọ ati awọn paṣipaarọ, awọn aworan ṣe iranlọwọ pupọ.
Wọn gba iṣẹ nipasẹ awọn eto iṣeduro, itupalẹ atunmọ, itupalẹ nẹtiwọọki awujọ, ati idanimọ ilana
. Ṣiṣẹda awọn ojutu ti o da lori ayaworan jẹ aaye ami iyasọtọ tuntun ti o funni ni oye oye ti eka ati data ibatan.
Awon nkankikan Network
Awọn nẹtiwọọki nkankikan ayaworan jẹ awọn iru nẹtiwọọki amọja ti o le ṣiṣẹ lori ọna kika data iyaya kan. Ifisinu aworan ati awọn nẹtiwọọki nkankikan (CNNs) ni ipa pataki lori wọn.
Awọn Nẹtiwọọki Neural Graph ti wa ni iṣẹ ni awọn iṣẹ ṣiṣe ti o pẹlu awọn apa asọtẹlẹ, awọn egbegbe, ati awọn aworan.
- CNN ti wa ni lo lati ṣe lẹtọ awọn aworan. Bakanna, lati ṣe asọtẹlẹ kilaasi kan, awọn GNN ni a lo si akoj piksẹli ti o ṣojuuṣe igbekalẹ ayaworan naa.
- Isọsọ ọrọ nipa lilo awọn nẹtiwọọki eleredi. Awọn GNN tun lo pẹlu awọn ayaworan ayaworan nibiti ọrọ kọọkan ninu gbolohun ọrọ jẹ ipade kan.
Lati le ṣe asọtẹlẹ awọn apa, awọn egbegbe, tabi awọn aworan kikun, awọn nẹtiwọọki nkankikan ni a lo lati ṣẹda awọn GNN. Asọtẹlẹ ni ipele ipade, fun apẹẹrẹ, le yanju iṣoro kan bii wiwa àwúrúju.
Asọtẹlẹ ọna asopọ jẹ ọran aṣoju ni awọn eto alatilẹyin ati pe o le jẹ apẹẹrẹ ti iṣoro asọtẹlẹ eti-eti.
Awọn oriṣi Nẹtiwọọki Nẹtiwọọki Aworan
Ọpọlọpọ awọn oriṣi nẹtiwọọki nkankikan wa, ati Awọn Nẹtiwọọki Neural Convolutional wa ninu pupọ julọ wọn. A yoo kọ ẹkọ nipa awọn GNN ti o mọ julọ ni apakan yii.
Awọn Nẹtiwọọki Convolutional Aworan (GCNs)
Wọn jẹ afiwera si awọn CNN Ayebaye. O gba awọn abuda nipasẹ wiwo awọn apa ti o wa nitosi. Iṣẹ imuṣiṣẹ jẹ lilo nipasẹ awọn GNNs lati ṣafikun aiṣe-ila-ila lẹhin ti o ṣajọpọ awọn aarọ node ati fifiranṣẹ abajade si ipele ipon.
O jẹ ti convolution Graph, Layer laini, ati iṣẹ imuṣiṣẹ ti kii ṣe olukọ, ni pataki. Awọn GCN wa ni awọn oriṣi akọkọ meji: Spectral Convolutional Networks ati Spatial Convolutional Networks.
Awọn Nẹtiwọọki Ayipada Aifọwọyi
O nlo kooduopo kan lati kọ ẹkọ bi o ṣe le ṣe aṣoju awọn aworan ati oluyipada kan lati gbiyanju lati tun awọn aworan titẹ sii. Layer igo kan wa ti o so kooduopo ati oluyipada.
Niwọn bi awọn oluyipada-laifọwọyi ṣe iṣẹ ti o tayọ ti mimu iwọntunwọnsi kilasi mu, wọn lo nigbagbogbo ni asọtẹlẹ ọna asopọ.
Awọn Nẹtiwọọki Neural Aworan Loorekoore (RGNNs)
Ni awọn nẹtiwọọki ti o ni ibatan pupọ, nibiti ipade kan ti ni ọpọlọpọ awọn ibatan, o kọ ẹkọ ilana itọka ti aipe ati pe o le ṣakoso awọn aworan naa. Lati le mu irọrun pọ si ati dinku isọdi-pipe, awọn oluṣeto deede ni a lo ni ọna yii ti nẹtiwọọki nkankikan ayaworan.
Lati le gba awọn abajade to dara julọ, awọn RGNN nilo agbara sisẹ diẹ. Wọn lo fun iran ọrọ, idanimọ ọrọ, itumọ ẹrọ, apejuwe aworan, fifi aami si fidio, ati akopọ ọrọ.
Awọn Nẹtiwọọki ayaworan Neural Gated (GGNNs)
Nigba ti o ba de si awọn iṣẹ-ṣiṣe ti o gbẹkẹle igba pipẹ, wọn ṣe ju awọn RGNN lọ. Nipa pẹlu ipade, eti, ati awọn ẹnu-ọna akoko lori awọn igbẹkẹle igba pipẹ, awọn nẹtiwọọki nkankikan ayaworan gated mu awọn nẹtiwọọki alayaworan loorekoore pọ si.
Awọn ẹnu-bode naa n ṣiṣẹ bakannaa si Awọn Iwọn Loorekoore Gated (GRUs) ni pe wọn lo lati ṣe iranti ati gbagbe data ni awọn ipele pupọ.
Ṣiṣe Nẹtiwọọki Neural Ayaya nipa lilo Pytorch
Ọrọ kan pato ti a yoo dojukọ rẹ jẹ ọran isọri ipade ti o wọpọ. A ni a sizable awujo nẹtiwọki ti a npe ni musae-github, eyiti a ṣe akojọpọ lati API ṣiṣi, fun awọn olupilẹṣẹ GitHub.
Awọn egbegbe ṣe afihan awọn ibatan ọmọlẹyin laarin awọn apa, eyiti o jẹ aṣoju awọn olupilẹṣẹ (awọn olumulo Syeed) ti o ti ṣe irawọ ni o kere ju awọn ibi ipamọ 10 (akiyesi pe ọrọ ifowosowopo tọkasi ibatan ti ko ni itọsọna).
Da lori ipo ipade naa, awọn ibi ipamọ ti o ni irawọ, agbanisiṣẹ, ati adirẹsi imeeli, awọn abuda oju ipade ni a gba pada. Asọtẹlẹ ti olumulo GitHub kan jẹ oludasilẹ wẹẹbu tabi a ẹrọ eko developer jẹ iṣẹ-ṣiṣe wa.
Akọle iṣẹ ti olumulo kọọkan ṣiṣẹ bi ipilẹ fun iṣẹ ibi-afẹde yii.
Fifi PyTorch sori ẹrọ
Lati bẹrẹ, a nilo akọkọ lati fi sori ẹrọ PyTorch. O le tunto rẹ ni ibamu si ẹrọ rẹ lati Nibi. temi niyi:
Awọn modulu agbewọle
Bayi, a gbe wọle awọn pataki modulu
Gbigbe wọle ati ṣawari data naa
Igbesẹ atẹle ni lati ka data naa ki o gbero awọn ori ila marun akọkọ ati awọn ila marun ti o kẹhin lati faili awọn aami.
Nikan meji ninu awọn ọwọn mẹrin-id node's (ie, olumulo) ati ml_target, eyiti o jẹ 1 ti olumulo ba jẹ ọmọ ẹgbẹ ti agbegbe ikẹkọ ẹrọ ati 0 bibẹẹkọ — ṣe pataki si wa ni ipo yii.
Funni pe awọn kilasi meji nikan lo wa, a le ni idaniloju bayi pe iṣẹ-ṣiṣe wa jẹ ọran isọdi alakomeji.
Bi abajade ti awọn aiṣedeede kilasi pataki, classifier le kan ro pe kilasi wo ni o pọ julọ ju ki o ṣe iṣiro kilasi ti a ko fi han, ṣiṣe iwọntunwọnsi kilasi ifosiwewe pataki miiran lati gbero.
Ṣiṣeto histogram (pinpin igbohunsafẹfẹ) ṣe afihan aiṣedeede diẹ nitori pe awọn kilasi diẹ wa lati ẹkọ ẹrọ (aami=1) ju lati awọn kilasi miiran.
Ifaminsi ẹya-ara
Awọn abuda awọn apa sọfun wa ti ẹya ti o ni nkan ṣe pẹlu ipade kọọkan. Nipa imuse ọna wa lati fi data koodu pamọ, a le fi koodu koodu pamọ lesekese wọnyẹn.
A fẹ lati lo ọna yii lati ṣafikun apakan kekere ti nẹtiwọọki (sọ, awọn apa 60) fun ifihan. Awọn koodu ti wa ni akojọ si nibi.
Apẹrẹ ati ifihan awọn aworan
A yoo lo ògùṣọ geometric. data lati kọ wa awonya.
Lati ṣe awoṣe aworan kan pẹlu awọn ohun-ini oriṣiriṣi (aṣayan), data ti o jẹ ohun elo Python rọrun ni a lo. Nípa lílo kíláàsì yìí àti àwọn àbùdá wọ̀nyí—gbogbo èyí tí ó jẹ́ àmúró ògùṣọ̀—a ó ṣẹ̀dá ohun àwòrán wa.
Fọọmu ti iye x, eyiti yoo pin si awọn ẹya ara ẹrọ ipade ti koodu, jẹ [nọmba awọn apa, nọmba awọn ẹya].
Apẹrẹ ti y jẹ [nọmba awọn apa], ati pe yoo lo si awọn aami ipade.
atọka eti: Lati le ṣe apejuwe awọn aworan ti a ko ni itọsọna, a nilo lati faagun awọn atọka eti atilẹba lati le gba aye ti awọn egbegbe itọka pato meji ti o sopọ awọn apa meji kanna ṣugbọn tọka si awọn ọna idakeji.
Awọn egbegbe meji kan, ọkan ti o tọka lati ipade 100 si 200 ati ekeji lati 200 si 100, ni a nilo, fun apẹẹrẹ, laarin awọn apa 100 ati 200. Ti o ba pese awọn atọka eti, lẹhinna eyi ni bii ayaworan ti ko ni itọsọna le ṣe aṣoju. [2,2*nọmba awọn egbegbe atilẹba] yoo jẹ fọọmu tensor.
A ṣẹda ọna iyaworan iyaworan wa lati ṣafihan iyaya kan. Igbesẹ akọkọ ni lati yi nẹtiwọọki isokan wa pada si aworan NetworkX kan, eyiti o le fa ni lilo NetworkX.draw.
Ṣe awoṣe GNN wa ki o kọ ọ
A bẹrẹ nipa fifi koodu padi gbogbo ṣeto ti data nipa ṣiṣiṣẹ data koodu pẹlu ina=Eke ati lẹhinna pipe aworan itumọ pẹlu ina=Iro lati kọ gbogbo awọnyaya naa. A kii yoo gbiyanju lati ya aworan nla yii nitori Mo ro pe o nlo ẹrọ agbegbe ti o ni awọn orisun to lopin.
Awọn iboju iparada, eyiti o jẹ awọn alakomeji alakomeji ti o ṣe idanimọ iru awọn apa ti o jẹ ti iboju-boju kọọkan pato nipa lilo awọn nọmba 0 ati 1, le ṣee lo lati fi to ọ leti ipele ikẹkọ eyiti awọn apa yẹ ki o wa lakoko ikẹkọ ati lati sọ fun apakan inference eyiti awọn apa jẹ data idanwo naa. Ògùṣọ geometric.transforms.
Pipin-ipele ipade le ṣe afikun ni lilo iboju-boju ikẹkọ, iboju val, ati awọn ohun-ini boju-boju idanwo ti kilasi AddTrainValTestMask, eyiti o le ṣee lo lati ya aworan kan ati ki o jẹ ki a ṣe pato bi a ṣe fẹ ki awọn iboju iparada wa ni itumọ.
A kan lo 10% fun ikẹkọ ati lo 60% ti data bi ṣeto idanwo lakoko lilo 30% bi eto afọwọsi.
Bayi, a yoo ṣe akopọ awọn ipele GCNConv meji, akọkọ eyiti o ni kika ẹya iṣẹjade ti iyẹn jẹ dọgba si nọmba awọn ẹya ninu ayaworan wa bi awọn ẹya titẹ sii.
Ninu ipele keji, eyiti o ni awọn apa idajade ti o dọgba si nọmba awọn kilasi wa, a lo iṣẹ imuṣiṣẹ relu ati pese awọn ẹya wiwakọ.
Atọka eti ati iwuwo eti jẹ meji ninu ọpọlọpọ awọn aṣayan x ti GCNConv le gba ni iṣẹ iwaju, ṣugbọn ni ipo wa, a nilo awọn oniyipada meji akọkọ nikan.
Paapaa otitọ pe awoṣe wa yoo ni anfani lati ṣe asọtẹlẹ kilasi ti gbogbo oju ipade ninu ayaworan, a tun nilo lati pinnu deede ati pipadanu fun ṣeto kọọkan lọtọ da lori ipele naa.
Fun apẹẹrẹ, lakoko ikẹkọ, a fẹ lati lo eto ikẹkọ lati pinnu deede ati pipadanu ikẹkọ, ati nitorinaa eyi ni ibiti awọn iboju iparada wa ni ọwọ.
Lati ṣe iṣiro ipadanu ti o yẹ ati deede, a yoo ṣalaye awọn iṣẹ ti pipadanu boju-boju ati deede ti o boju-boju.
Ikẹkọ awoṣe
Ni bayi ti a ti ṣalaye idi ikẹkọ fun eyiti a yoo lo ògùṣọ naa. Adam ni a titunto si optimizer.
A yoo ṣe ikẹkọ fun nọmba kan ti awọn epochs lakoko ti o tọju oju lori deede afọwọsi.
A tun ṣe ipinnu awọn adanu ikẹkọ ati awọn iṣedede jakejado awọn akoko oriṣiriṣi.
Awọn alailanfani ti Nẹtiwọọki Neural Graph
Lilo awọn GNN ni awọn alailanfani diẹ. Nigbawo lati gba GNna ati bii o ṣe le mu iṣẹ ṣiṣe ti awọn awoṣe ikẹkọ ẹrọ wa yoo jẹ ki awọn mejeeji han gbangba si wa lẹhin ti a ni oye ti o dara julọ nipa wọn.
- Lakoko ti awọn GNN jẹ awọn nẹtiwọọki aijinile, ni igbagbogbo pẹlu awọn fẹlẹfẹlẹ mẹta, pupọ julọ awọn nẹtiwọọki nkankikan le lọ jin lati mu iṣẹ ṣiṣe dara si. A ko lagbara lati ṣe ni eti gige lori awọn ipilẹ data nla nitori aropin yii.
- O nira diẹ sii lati ṣe ikẹkọ awoṣe lori awọn aworan, nitori awọn agbara igbekalẹ wọn jẹ agbara.
- Nitori awọn idiyele iṣiro giga ti awọn nẹtiwọọki wọnyi, iwọn awoṣe fun iṣelọpọ ṣafihan awọn italaya. Gidiwọn awọn GNNs fun iṣelọpọ yoo jẹ nija ti eto ayaworan rẹ ba tobi ati idiju.
ipari
Ni awọn ọdun diẹ sẹhin, awọn GNN ti ni idagbasoke si awọn irinṣẹ ti o lagbara ati ti o munadoko fun awọn ọran ikẹkọ ẹrọ ni agbegbe ayaworan. Akopọ ipilẹ ti awọn nẹtiwọọki alayaworan ni a fun ni nkan yii.
Lẹhin iyẹn, o le bẹrẹ ṣiṣẹda dataset ti yoo lo lati ṣe ikẹkọ ati idanwo awoṣe. Lati loye bii o ṣe n ṣiṣẹ ati ohun ti o lagbara, o tun le lọ siwaju pupọ ki o kọ ọ ni lilo iru dataset oriṣiriṣi.
Dun ifaminsi!
Fi a Reply