Tafole ea likateng[Pata][Bontša]
Li-GPU tsa Cloud li batloa haholo ha ho hlaha mahlale a macha a kang ho ithuta ka botebo, AI le ho ithuta ka mochini.
Li-GPU (Lisebelisoa tsa Ts'ebetso ea Graphics) ke li-processor tse khethehileng tse etselitsoeng ho sebetsana le lihlopha tse ngata tsa data le lipalo tse rarahaneng tse hlokahalang bakeng sa mesebetsi e kang litšoantšo tsa k'homphieutha le lipapali. Hona joale li bohlokoa bakeng sa tšimo ea bohlale ba maiketsetso (AI) hape, leha ho le joalo, joalo ka morao tjena.
Li-CPU tsa setso (Central Processing Units) ha li khone ho khotsofatsa tlhoko kaha mefuta ea AI e hloka matla a mangata a khomphutha ho koetlisa le ho sebetsa.
Ka lehlakoreng le leng, kaha li hahiloe ho ts'ehetsa ts'ebetso e ts'oanang, li-GPU li sebetsa hantle ho laola bongata bo boholo ba data le lipalo tse rarahaneng tse hlokahalang bakeng sa ts'ebetso ea AI.
Haeba u le theknoloji, e tlameha ebe u utloile ka lits'ebeletso tsa cloud GPU. Ho bao, ba ke keng ba latela.
Ts'ebeletso e thehiloeng marung e fang basebelisi phihlello ea marang-rang ho lisebelisoa tse matla tsa GPU e tsejoa e le tšebeletso ea cloud GPU bakeng sa AI. Sebakeng sa ho hloka ho reka le ho boloka lisebelisoa tsa bona tsa GPU, lits'ebeletso tsena li thusa bareki ho hira lisebelisoa tsa GPU ha ho hlokahala.
Sena se etsa hore ho khonehe hore batho le mekhatlo ba sebelise bokhoni ba ho sebetsa ba GPU ntle le ho etsa letsete le leholo kapa ho lefa litefiso tse tsoelang pele tsa tlhokomelo.
Bongata ba lits'ebeletso tsa cloud GPU bakeng sa AI li fana ka mefuta e mengata e fapaneng ea likhetho tsa GPU, ho kenyeletsoa mefuta e mengata le litlhophiso le ho feto-fetoha ha maemo ho nyoloha kapa ho theoha ha ho hlokahala. Hona joale o ka khetha lisebelisoa tse loketseng tsa GPU bakeng sa litlhoko tsa bona tse ikhethang le merero ka lebaka la ts'ebeletso ena.
Ntle le moo, lits'ebeletso hangata li tla le bokhoni bo bong ho kenyelletsa marang-rang, polokelo, le lisebelisoa tsa software ho thusa bareki mererong ea bona ea AI. Ka poso ena, re tla sheba lits'ebeletso tse holimo tsa leru tsa GPU bakeng sa AI.
1. Linode
Linode e fana ka li-GPU mabapi le tlhoko ea mesebetsi e mengata joalo ka ts'ebetso ea video, khomphutha ea mahlale, ho ithuta mochine, bohlale ba maiketsetso, le tse ling.
E fana ka mechini e ntlafalitsoeng ea GPU-optimized virtual (VMs) e sebetsang ho NVIDIA Quadro RTX 6000, Tensor, le RT cores mme e sebelisa bokhoni ba CUDA ho etsa. thuto e tebileng, ray tracing meroalo ea mosebetsi, le lipalo tse rarahaneng.
Ka ho fetola litšenyehelo tsa hau tsa chelete e le litšenyehelo tsa ts'ebetso, u ka sebelisa bokhoni ba GPU ba Linode GPU le boleng ba 'nete ba maru.
Ho feta moo, Linode e u lokolla hore u se ke ua tšoenyeha ka lisebelisoa tsa lisebelisoa hore u tsebe ho tsepamisa mohopolo ho bokhoni ba hau bo matla.
Ka Linode GPUs, joale ho khonahala ho li sebelisa bakeng sa lits'ebetso tse tsoetseng pele joalo ka phallo ea video, bohlale ba maiketsetso, le ho ithuta ka mochini.
Ntle le moo, ho latela boholo ba matla a ho sebetsa a hlokahalang bakeng sa mojaro o lebelletsoeng oa mosebetsi, o ka fumana likarete tse fihlang ho tse 4 bakeng sa ketsahalo ka 'ngoe.
ditheko
Theko e qala ho $1.5/hora bakeng sa leano le inehetseng la RTX6000 GPU. Qala ka Linode mahala.
2. AI e kholo
Vast AI ke 'maraka oa lefats'e moo basebelisi ba ka hirang li-GPU tse theko e tlaase bakeng sa tšebeliso ea likhomphutha tse sebetsang hantle haholo.
Ba fokotsa litšenyehelo tsa mesebetsi e boima ka ho lumella ba amohelang mabotho ho hira lisebelisoa tsa bona tsa GPU, ho nolofalletsa basebelisi ho sebelisa sesebelisoa sa bona sa ho batla marang-rang ho fumana litheko tse tlase tsa komporo ho latela litlhoko tsa bona le ho etsa litaelo kapa ho qala likhokahano tsa SSH.
Ba fana ka maemo a SSH, maemo a Jupyter le Jupyter GUI, kapa mehlala ea litaelo feela, 'me ba fana ka lintlha tse hlakileng. sebopeho sa mosebedisi.
Ho boetse ho fanoe ka ts'ebetso e tebileng ea ts'ebetso ea ho ithuta (DLPerf), e bolelang esale pele ts'ebetso e hakanyetsoang e tebileng ea ho ithuta.
Sistimi e sebelisoang ke Vast AI e thehiloe ho Ubuntu mme ha e fane ka li-desktop tse hole. Ba boetse ba sebelisa maemo a fumanehang ha ho hlokahala tefiso e itseng e thehiloeng ke mong'a moamoheli.
ditheko
Theko e qala ho $0.80/hora bakeng sa 4x RTX A6000.
3. AWS & NVIDIA
Ka kopanelo, AWS le NVIDIA li lula li fana ka litharollo tse thehiloeng ho GPU tse theko e tlaase, tse tenyetsehang, le tse matla.
E kenyelletsa maemo le lits'ebeletso tsa Amazon EC2 tse tsamaisoang ke NVIDIA GPU tse kang AWS IoT Greengrass e kenyang ka li-module tsa NVIDIA Jetson Nano.
Bakeng sa lits'ebetso tse sebetsang hantle, ho ithuta ka mochini (ML), lits'ebeletso tsa Marang-rang a Lintho (IoT), le komporo e sebetsang hantle haholo, basebelisi ba sebelisa AWS le NVIDIA. Ts'ebetso e tsitsitseng e fanoa ke li-GPU tsa NVIDIA tse matlafatsang maemo a Amazon EC2.
Ntle le moo, sebelisa AWS IoT Greengrass ho hokahanya lisebelisoa tse thehiloeng ho NVIDIA le lits'ebeletso tsa leru la AWS.
Maemo a Amazon EC2 P4d a tsamaisoa ke NVIDIA A100 Tensor Core GPUs, e fanang ka marang-rang a tlase ka ho fetesisa a indasteri le ts'ebetso e phahameng ka ho fetisisa.
Joalo ka sena, ho na le maemo a mang a fapaneng a fumanehang bakeng sa maemo a itseng, joalo ka Amazon EC2 P3, Amazon EC2 G4, jj.
ditheko
U ka etsa kopo ea teko ea mahala mme ka kopo ikopanye le morekisi bakeng sa litheko tsa eona.
4. Sebaka sa lipampiri CORE
A CORE ke sethala sa GPU se laoloang ka botlalo se entsoeng ke Paperspace se fanang ka khomphutha e otlolohileng, e theko e tlaase, le e potlakileng bakeng sa lits'ebetso tse fapaneng.
Sebelisa lisebelisoa tsa komporo tse potlakileng tse fanoeng ke Paperspace CORE ho potlakisa lits'ebetso tsa mokhatlo. Bakeng sa ho kena ka potlako, lisebelisoa tse sebelisanang, le lits'ebetso tsa komporo ea Mac, Linux, le Windows, e fana ka sebopeho se bonolo sa basebelisi le se sa rarahanang.
E sebelise ho etsa mananeo a boima ka bongata bo sa feleng ba matla a ho sebetsa. CORE e fana ka marang-rang a potlakileng haholo, tokisetso e potlakileng, tšehetso bakeng sa lits'ebetso tsa 3D, le API e felletseng ea phihlello ea mananeo.
Ka GUI e bonolo ho e sebelisa le e hlakileng, fumana setšoantšo se felletseng sa lisebelisoa tsa hau sebakeng se le seng.
Ntle le moo, fumana taolo e ntle ka lebaka la sebopeho sa tsamaiso sa CORE, se fanang ka lisebelisoa tse matla le ho u thusa ho sefa, ho hlophisa, ho hokela kapa ho theha mechini, marang-rang le basebelisi.
ditheko
Theko e qala ho $0.45/hora bakeng sa M4000 GPU e inehetseng.
5. Tšebeletso ea Alibaba Elastic GPU
Alibaba Elastic GPU Service (EGS) e sebelisa theknoloji ea GPU ho fana ka bokhoni bo tšoanang le bo matla ba ho sebetsa. Lisebelisoa tse ngata, tse kenyelletsang ts'ebetso ea video, pono, khomphutha ea mahlale, le ho ithuta ho tebileng, li e loketse hantle.
EGS e sebelisa li-GPU tse 'maloa, ho kenyelletsa AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4, le NVIDIA Tesla P100.
U tla ba le monyetla oa ho fumana melemo ho kenyelletsa inthaneteng litšebeletso tse tebileng tsa boithuto le lithupelo, boitsebiso ba litaba, setšoantšo le temoho ea lentsoe, khouto ea mecha ea litaba ea HD, seboka sa video, ho tsosolosa filimi ea mohloli, le 4K / 8K HD e phelang.
Fumana mekhoa e meng e kang ho fana ka livideo, lichelete tsa khomphutha, ho lepa boemo ba leholimo, ketsiso ea ho thulana, boenjineri ba liphatsa tsa lefutso, tokiso e sa lekanyetsoang, lits'ebetso tsa thuto e hole, le moralo oa boenjiniere.
ditheko
E fana ka teko ea mahala le leano la ho ngolisa ha u ntse u tsamaea, ho bolelang hore u sebelisa maemo kapa li-GPU feela tseo u li sebelisang.
6. Leru la Genese
Genesis Cloud e fana ka sethala sa GPU sa maru se theko e phahameng haholo. Ba sebetsa ka kopanelo le litsi tse 'maloa tse sebetsang tsa data lefatšeng ka bophara ho fana ka mefuta e mengata ea lits'ebetso.
Genesis Cloud e fana ka mefuta e mengata ea lisebelisoa tsa bohlokoa ntle le litšenyehelo tse ling, ho kenyelletsa le linepe bakeng sa ho boloka mosebetsi oa hau, lihlopha tsa ts'ireletso bakeng sa sephethephethe sa marang-rang, palo ea polokelo ea lisebelisoa tse kholo tsa data, FastAI, PyTorch, litšoantšo tse seng li setiloe, le TensorFlow API ea sechaba.
Ba potlakisa komporo ka thuso ea NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti, le mahlale a GTX 1080 Ti maemong a bona a leru la GPU.
U ka sebelisa matla a komporo ea GPU ho hlahisa lifilimi kapa terene marangrang a neural.
ditheko
Theko e qala ho $1.30/hora bakeng sa NVIDIA® GeForce™ RTX 3090.
7. Google Cloud GPU
Google Cloud Platform (GCP) e fana ka maemo a 'maloa a GPU a ka sebelisoang ho potlakisa ts'ebetso joalo ka ho ithuta ka mochini, ho ithuta ka botebo, le komporo e sebetsang hantle haholo (HPC).
Ka maemo ana a GPU, a tšehelitsoeng ke NVIDIA, AMD, le Intel GPUs, hoa khoneha ho fihlella lilaebraring tsa CUDA le cuDNN, tse sebelisoang khafetsa bakeng sa komporo e potlakileng ea GPU.
Ka lebaka la liphetoho tsa mochini, litheko tse feto-fetohang, le mefuta e mengata ea menyetla ea GPU, HPC e ka hlahisa litholoana tse ngata.
Ho feta moo, e ka u thusa ho fokotsa mosebetsi oa hau. Har'a li-GPU tseo ba fanang ka tsona ke NVIDIA K80, P4, V100, A100, T4, le P100. Ke palo e nyane feela ea libaka tse hasantsoeng libakeng tse fapaneng tse nang le phihlello ea li-GPU.
ditheko
Litsenyehelo li tla fapana ho latela sebaka, GPU eo u e khethang, le mofuta oa mochini. Bakeng sa NVIDIA A100, litheko li qala ho $3.93 ka GPU.
8. NVIDIA GPU Cloud
NVIDIA GPU Cloud (NGC) ke sethala se thehiloeng marung se fang basebelisi monyetla oa ho fumana mefuta e fapaneng ea lisebelisoa tse potlakileng tsa GPU, joalo ka lisebelisoa tsa pono, mananeo a HPC, le thuto e tebileng moralo.
Bahlahisi, bo-rasaense ba data, 'me joale bafuputsi ba ka sebelisa matla a khomphutha a NVIDIA GPUs marung ntle le ho tšoenyeha ka meaho ea motheo kapa tlhokomelo e hlokahalang ho sebelisa lisebelisoa tsa bona ka lebaka la NGC.
Laeborari ea li-container tsa software tse lokiselitsoeng esale pele e kenyelelitsoe le NGC mme e ka romelloa kapele ho tse ngata. leru dikhomphiutha meaho, ho kenyeletsoa Amazon Web Services, Google Cloud Platform, le Microsoft Azure.
Phihlello ea NGC e boetse e fa basebelisi monyetla oa ho fumana sethala sa thuto se tebileng sa NVIDIA, se tlang ka mananeo le lisebelisoa tse ngata bakeng sa ho theha le ho kenya ts'ebetsong mefuta e tebileng ea ho ithuta, ho kenyeletsoa TensorRT, cuDNN, le CUDA-X AI.
ditheko
Ho ipapisitse le lits'ebeletso tse ikhethileng le lisebelisoa tseo u li sebelisang, litheko tsa NVIDIA GPU Cloud's (NGC) lia fetoha. Leha lits'ebeletso tse ling tsa NGC, joalo ka sephutheloana sa software e tebileng ea ho ithuta, li lokolohile ho sebelisoa, tse ling, joalo ka lijana tsa ts'ebeliso ea HPC, li ka lefisa theko. Ka kopo, sheba lethathamo la NGC.
9. Lambda GPU Cloud
Lambda e fana ka mehlala ea cloud GPU bakeng sa koetliso e tebileng ea mohlala oa ho ithuta le scalability ho tloha khomphuteng e le 'ngoe ea' mele ho ea ho mechine e mengata ea sebele.
Ho tswa ho dashboard, hang-hang fumana mochine o mong le o mong o khethehileng Buka ea Jupyter tikoloho ea mananeo. Bakeng sa phihlello e tobileng, sebelisa SSH ka kotloloho ka e 'ngoe ea linotlolo tsa SSH kapa ikopanye ka Seteishene sa Webo ho dashboard ea leru.
Boholo ba 10 Gbps ba khokahanyo ea li-inter-node bo tšehetsoa ke ketsahalo ka 'ngoe, ho lumella koetliso e ajoang ho sebelisoa meralo e kang Horovod.
Ho eketsa palo ea li-GPU ketsahalong e le 'ngoe kapa tse' maloa ho ka thusa ho potlakisa ts'ebetso ea mohlala. Sethala se ts'ehetsa maemo a GPU ho tsoa ho NVIDIA RTX 6000, Quadro RTX 6000, le Tesla V100s.
ditheko
Theko e qala ho $1.10/hora bakeng sa NVIDIA A100.
10. IBM Cloud GPU
IBM Cloud GPU e sebelisa marang-rang a hasaneng lefatšeng ka bophara a litsi tsa data ho fana ka lits'ebetso tse feto-fetohang tsa khetho ea li-server le khokahano e bonolo le boqapi ba maru ba IBM, li-API le lits'ebetso.
Ka maemo a Intel Xeon 4210, Xeon 5218, le Xeon 6248 GPU, e fana ka khetho e se nang tšepe ea Server GPU.
O ka etsa meroalo e mengata ea ts'ebetso e phahameng, e sa tsotelleng, e ikhethang, le e tloaelehileng ka kotloloho ho lisebelisoa tsa seva u sebelisa liketsahalo tse se nang tšepe, joalo ka ha li ka etsa ka li-GPU tse ka pele.
Bakeng sa khetho ea bona ea seva ea tšepe e se nang letho, ba boetse ba fana ka mehlala ka li-processor tsa NVIDIA T4 GPU le Intel Xeon tse nang le li-cores tse fihlang ho 40, hammoho le mehlala ea mekhoa e meng ea seva e nang le mefuta ea NVIDIA V100 le P100.
ditheko
Theko e qala ho $514 / khoeli bakeng sa Intel Xeon4110.
fihlela qeto e
Qetellong, lits'ebeletso tse ntle ka ho fetisisa tsa leru tsa GPU bakeng sa AI ke tse fanang ka lisebelisoa tse matla tsa GPU, likhetho tsa litheko tse feto-fetohang, le sekala se bonolo.
Likhamphani tsohle tse fanang ka maemo a GPU bakeng sa mesebetsi e mengata ea AI-AWS, NVIDIA, IBM, le GCP-li na le mela e metle ea lihlahisoa mabapi le ts'ebetso le ts'ebetso.
Khetho e ntle ka ho fetesisa e khethoa ke litlhoko tsa hau tse ikhethang, mathata a lichelete, lisebelisoa tse seng li ntse li le teng, le likhetho tsa barekisi.
Leave a Reply