Cloud GPUs e manaʻomia tele ona o tekonolosi fou e pei o le loloto o le aʻoaʻoina, AI, ma le aʻoaʻoina o masini.
GPU (Graphics Processing Units) o masini faʻapitoa e faʻatautaia le tele o faʻamaumauga o faʻamaumauga ma faʻatusatusaga lavelave e manaʻomia mo gaioiga e pei o komepiuta ata ma taaloga. Ua taua tele nei mo le fanua o Atamai fa'apitoa (AI) faʻapea foi, e ui i lea, talu ai nei.
O PPU masani (Central Processing Units) e le mafai ona faʻamalieina le manaʻoga talu ai faʻataʻitaʻiga AI e manaʻomia se aofaʻi tele o le malosi faʻakomepiuta e toleni ma tamoʻe.
I le isi itu, talu ai o loʻo fausia e lagolago ai faʻagasologa tutusa, GPU e sili atu le aoga i le puleaina o le tele o voluma o faʻamaumauga ma faʻatusatusaga lavelave e manaʻomia mo galuega AI.
Afai o oe i tekinolosi, masalo na e faʻalogo e uiga i le cloud GPU auaunaga. Mo i latou, e le mulimuli i ai.
O se 'au'aunaga fa'avae ao e tu'uina atu i tagata fa'aoga i luga ole laiga le avanoa i puna'oa malosi GPU ua ta'ua o le cloud GPU auaunaga mo AI. Nai lo le manaʻomia e faʻatau ma tausia a latou lava masini GPU, o nei 'auʻaunaga e mafai ai e tagata faʻatau ona mautotogi punaoa GPU pe a manaʻomia.
O le mea lea e mafai ai e tagata ma faʻalapotopotoga ona faʻaogaina le gafatia o le GPU e aunoa ma le faia o se tupe faʻaalu muamua pe totogi totogi faʻaauau.
Ole tele ole cloud GPU auaunaga mo AI e maua ai le tele o filifiliga GPU, e aofia ai le tele o faʻataʻitaʻiga ma fetuutuunaiga ma le fetuutuunai e faʻalautele pe lalo pe a manaʻomia. E mafai nei ona e filifilia punaoa GPU lelei mo o latou manaoga tulaga ese ma galuega faatino faafetai i lenei auaunaga.
E le gata i lea, o auaunaga e masani ona sau ma isi gafatia e aofia ai fesoʻotaʻiga, teuina, ma meafaigaluega faʻapipiʻi e fesoasoani ai i tagata faʻatau i a latou poloketi AI. I lenei pou, o le a tatou vaʻavaʻai i luga ole cloud GPU auaunaga mo AI.
1. Linode
Linode ofo atu GPU i luga ole manaʻoga mo galuega mamafa e pei o le gaosiga o vitio, faʻamatalaga faasaienisi, masini suʻesuʻe, atamai faafoliga, ma isi.
O loʻo tuʻuina atu ai masini komepiuta (VMs) e sili atu le GPU o loʻo taʻavale i luga o le NVIDIA Quadro RTX 6000, Tensor, ma le RT cores ma faʻaaoga le CUDA gafatia e fai. loloto aʻoaʻoga, ave o ave galuega mamafa, ma fa'atusatusaga lavelave.
I le fa'aliliuina o au tupe fa'aalu tupe fa'aalu i se tupe fa'aalu, e mafai ona e fa'aogaina le gafatia o le GPU o Linode GPU ma le tau moni o le ao.
E le gata i lea, e faʻasaʻolotoina oe e Linode mai le popole e uiga i meafaigaluega ina ia mafai ai ona e taulai atu i ou tomai sili ona malosi.
Faatasi ai ma Linode GPUs, ua mafai nei ona faʻaogaina mo faʻamatalaga faʻapitoa e pei o le faʻafefe o vitio, atamai faʻapitoa, ma le aʻoaʻoina o masini.
E le gata i lea, e faʻatatau i le aofaʻi o le gaosiga o le mana e manaʻomia mo galuega faʻamoemoeina, e mafai ona e mauaina e oʻo atu i le 4 kata mo faʻataʻitaʻiga taʻitasi.
tau
E amata le tau ile $1.5/itula mo le fuafuaga fa'apitoa RTX6000 GPU. Amata ile Linode e leai se totogi.
2. AI tele
O le Vast AI o se maketi i le lalolagi atoa e mafai ai e tagata fa'aoga ona mautotogi GPU taugofie mo le fa'aogaina i le fa'aogaina o komepiuta.
Latou te faʻaitiitia le tau o galuega mamafa faʻatusatusa e ala i le faʻatagaina o au e lisi a latou masini GPU, faʻatagaina tagata faʻaoga e faʻaoga a latou meafaigaluega suʻesuʻe i luga ole laiga e suʻe ai tau sili ona taugofie mo le komipiuta e tusa ai ma o latou manaʻoga ma faʻatino poloaiga pe faʻalauiloa fesoʻotaʻiga SSH.
Latou te tuʻuina atu faʻataʻitaʻiga SSH, faʻataʻitaʻiga Jupyter ma le Jupyter GUI, poʻo faʻatonu-naʻo taimi, ma faʻaalia se saʻo. Ofisa o tagata e faaaogāina.
O lo'o tu'uina atu fo'i se galuega fa'atino a'oa'oga loloto (DLPerf), lea e va'ai ai se fa'atinoga o galuega a'oa'oga loloto.
O faiga fa'aoga e Vast AI o lo'o fa'avae i le Ubuntu ma e le ofoina atu ni komipiuta mamao. Latou te faʻatinoina foʻi faʻataʻitaʻiga e avanoa pe a manaʻomia mo se totogi faʻapitoa na faʻatuina e le talimalo.
tau
E amata le tau ile $0.80/itula mo le 4x RTX A6000.
3. AWS & NVIDIA
Faʻatasi, AWS ma NVIDIA o loʻo tuʻuina atu i taimi uma fofo faʻavae GPU e taugofie, fetuutuunai, ma mamana.
E aofia ai le NVIDIA GPU-powered Amazon EC2 faʻataʻitaʻiga ma auaunaga e pei o le AWS IoT Greengrass e faʻapipiʻi ma NVIDIA Jetson Nano modules.
Mo galuega fa'akomepiuta, masini a'oa'oga (ML), Initaneti o Mea (IoT) 'au'aunaga, ma komipiuta maualuga, fa'aoga e fa'aoga le AWS ma le NVIDIA. Ole fa'atinoina ole fa'atinoga e tu'uina mai e le NVIDIA GPU e fa'amalosia ai fa'ata'ita'iga Amazon EC2.
E le gata i lea, faʻaaoga le AWS IoT Greengrass e faʻafesoʻotaʻi masini faʻavae NVIDIA i le AWS cloud services.
Amazon EC2 P4d fa'ata'ita'iga o lo'o fa'amalosia e NVIDIA A100 Tensor Core GPUs, lea e maua ai feso'ota'iga sili ona maualalo a le alamanuia ma le maualuga o le gaosiga.
E tutusa ma lenei, o loʻo i ai isi tulaga eseese e avanoa mo nisi tulaga, pei ole Amazon EC2 P3, Amazon EC2 G4, ma isi.
tau
E mafai ona e talosaga mo se su'ega fua ma fa'amolemole fa'afeso'ota'i le tagata fa'atau mo lona tau.
4. Pepa avanoa CORE
O le CORE o se fa'atonuga GPU fa'atonu atoatoa na faia e Paperspace lea e tu'u sa'o, taugofie, ma fa'avavevave fa'akomepiuta mo le tele o talosaga.
Fa'aoga le fa'aogaina o atina'e fa'akomepiuta fa'avavevave ua saunia e Paperspace CORE e fa'avavevave ai faiga fa'alapotopotoga. Mo le vave i luga o le laupapa, meafaigaluega galulue faatasi, ma talosaga i luga o le komepiuta mo Mac, Linux, ma Windows, e ofoina atu se faʻaoga faʻaoga-faʻaoga ma le faʻalavelave.
Fa'aaogā e fa'atino ai polokalame fa'atonu i se aofa'iga e le gata o le mana fa'agaioiga. O le CORE o loʻo ofoina atu se fesoʻotaʻiga sili-vave, saunia vave, lagolago mo polokalame 3D, ma se API atoatoa mo avanoa faʻapipiʻi.
Faatasi ai ma se GUI faigofie-faʻaoga ma faʻaogaina, maua se ata atoatoa o au atinaʻe i le tasi nofoaga.
E le gata i lea, maua le fa'atonuga lelei fa'afetai ile CORE's administration interface, lea e ofoina atu meafaigaluega mamana ma mafai ai e oe ona fa'amama, fa'avasega, fa'afeso'ota'i, pe fai masini, feso'otaiga, ma tagata fa'aoga.
tau
O le tau e amata ile $0.45/itula mo le M4000 GPU tuuto.
5. Alibaba Elastic GPU Auaunaga
O le Alibaba Elastic GPU Service (EGS) e faʻaogaina le tekonolosi GPU e tuʻuina atu ai le tutusa ma le mamana gaioiga gafatia. Le tele o talosaga, e aofia ai ata vitio, faʻaaliga, faʻamatalaga faasaienisi, ma aʻoaʻoga loloto, e fetaui lelei mo ia.
E fa'aogaina e EGS le tele o GPU, e aofia ai le AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4, ma le NVIDIA Tesla P100.
O le ae maua avanoa i mea lelei e aofia ai luga ole initaneti 'au'aunaga fa'aa'oa'oga loloto ma a'oa'oga, fa'amatalaga o mea, fa'ailoa ata ma leo, fa'ailoga fa'asalalauga HD, fa'asalalauga vitiō, toe fa'afo'isia ata tifaga, ma 4K/8K HD ola.
Maua isi mea e pei o le fa'aliliuina o ata vitio, fa'atupe fa'akomepiuta, va'aiga o le tau, fa'ata'ita'iga feto'aiga, fa'ainisinia fa'ainisinia, fa'atonuga e le o laina laina, talosaga a'oa'oga mamao, ma fa'ainisinia, fa'apea fo'i.
tau
E ofoina atu se faʻataʻitaʻiga e leai se totogi ma totogi-as-you-go saofaga fuafuaga, o lona uiga o oe naʻo mea poʻo GPU e te faʻaaogaina.
6. Kenese Ao
O loʻo ofoina mai e Genesis Cloud se faʻauluuluga GPU ao maualuga le tau. O loʻo latou galulue faʻatasi ma le tele o nofoaga autu faʻamaumauga lelei i le lalolagi atoa e tuʻuina atu ai le tele o ituaiga o talosaga.
Kenese Cloud e maua ai le tele o mea aoga e aunoa ma se tau faaopoopo, e aofia ai ata mo le lagolagoina o lau galuega, vaega saogalemu mo fefaʻatauaiga o fesoʻotaʻiga, voluma teuina mo seti faʻamaumauga tetele, FastAI, PyTorch, ata faʻatulagaina, ma le lautele TensorFlow API.
Latou te faʻavaveina faʻatusatusaga ma le fesoasoani a NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti, ma GTX 1080 Ti tekinolosi i latou faʻasologa GPU ao.
E mafai ona e faʻaogaina le malosi o le GPU komepiuta e gaosia ai ata tifaga poʻo nofoaafi fesoʻotaiga i tua.
tau
E amata le tau ile $1.30/itula mo NVIDIA® GeForce™ RTX 3090.
7. Google Cloud GPU
Google Cloud Platform (GCP) e ofoina atu le tele o faʻataʻitaʻiga GPU e mafai ona faʻaogaina e faʻavaveina ai gaioiga e pei o le aʻoaʻoina o masini, aʻoaʻoga loloto, ma le faʻaogaina o komepiuta (HPC).
E ala i nei faʻataʻitaʻiga GPU, lea e lagolagoina e NVIDIA, AMD, ma Intel GPU, e mafai ona maua le faletusi CUDA ma cuDNN, lea e masani ona faʻaaogaina mo le GPU-faʻavaveina komepiuta.
Ona o suiga ole masini, tau fetuutuunai, ma le tele o avanoa GPU, e mafai ona sili atu ona aoga le HPC.
E le gata i lea, e mafai ona fesoasoani ia te oe e faʻamama ai lau galuega. Faatasi ai ma GPU latou te saunia o le NVIDIA K80, P4, V100, A100, T4, ma le P100. Na'o ni nai vaega to'aitiiti o sone ta'ape i nofoaga eseese e mafai ona maua le GPU.
tau
Ole tau ole a eseese ile itulagi, GPU e te filifilia, ma le ituaiga masini. Mo le NVIDIA A100, tau amata ile $3.93 ile GPU.
8. NVIDIA GPU Ao
O le NVIDIA GPU Cloud (NGC) o se faʻavae faʻavae e tuʻuina atu i tagata faʻaoga avanoa i le tele o polokalama faʻavavevave a le GPU, e pei o meafaigaluega faʻaaliga, polokalame HPC, ma loloto aʻoaʻoga fausaga.
Atina'e, saienitisi faʻamaumauga, ma ua mafai nei e le au suʻesuʻe ona faigofie ona faʻaogaina le malosi faʻakomepiuta o NVIDIA GPU i le ao e aunoa ma le popole i mea tetele poʻo le tausiga e manaʻomia e faʻaogaina ai a latou polokalama faʻafetai i le NGC.
O se faletusi o koneteina polokalama fa'apipi'i muamua o lo'o aofia ai ma le NGC ma e mafai ona fa'apipi'i vave i luga o le tele o fuafuaina ao mea tetele, e aofia ai Amazon Web Services, Google Cloud Platform, ma Microsoft Azure.
Avanoa i le NGC e maua ai foʻi e tagata faʻaoga le avanoa i le NVIDIA's deep learning platform, lea e sau ma le tele o polokalame ma punaoa mo le fatuina ma le faʻatinoina o faʻataʻitaʻiga loloto, e aofia ai TensorRT, cuDNN, ma CUDA-X AI.
tau
Fa'alagolago i au'aunaga fa'apitoa ma punaoa o lo'o e fa'aogaina, ole suiga ole tau ole NVIDIA GPU Cloud (NGC). E ui o nisi auaunaga a le NGC, e pei o le fa'aputuga o polokalama faakomepiuta loloto a'oa'oga, e leai se totogi e fa'aoga, o isi, e pei o pusa talosaga a le HPC, e ono totogia se tau. Fa'amolemole va'ai ile fa'amaumauga a le NGC.
9. Lambda GPU Ao
Lambda o lo'o tu'uina atu fa'ata'ita'iga GPU ao mo a'oa'oga fa'ata'ita'iga loloto a'oa'oga ma fa'alautele mai se komepiuta fa'aletino e tasi i le tele o masini fa'apitoa.
Mai le dashboard, fa'afeso'ota'i vave i masini fa'apitoa ta'itasi Tusigāmanatu Jupyter siosiomaga polokalame. Mo le fa'aoga sa'o, fa'aoga sa'o le SSH ma se tasi o ki SSH pe fa'afeso'ota'i e ala i le Upega Tafa'ilagi i luga o le dashboard ao.
Ole maualuga ole 10 Gbps ole feso'ota'iga i totonu ole node o lo'o lagolagoina e fa'ata'ita'iga ta'itasi, fa'atagaina a'oa'oga fa'asoa e fa'aoga fa'avae pei o Horovod.
Ole fa'ateleina ole numera o GPU ile tasi po'o le tele o taimi e mafai ona fesoasoani ile fa'avaveina o fa'ata'ita'iga. O loʻo lagolagoina e le faʻavae GPU faʻataʻitaʻiga mai NVIDIA RTX 6000, Quadro RTX 6000, ma Tesla V100s.
tau
O le tau e amata ile $1.10/itula mo NVIDIA A100.
10. IBM Cloud GPU
O le IBM Cloud GPU e fa'aogaina se feso'ota'iga fa'asalalau fa'asalalauina o nofoaga autu fa'amaumauga e ofo atu ai faiga fetu'utu'una'i filifiliga a le 'au'aunaga ma feso'ota'iga lelei ma le IBM cloud architecture, APIs, ma talosaga.
Faatasi ai ma le Intel Xeon 4210, Xeon 5218, ma le Xeon 6248 GPU faʻataʻitaʻiga, e ofoina atu le filifiliga GPU Server e leai ni uamea.
E mafai ona e fa'atinoina galuega fa'atino maualuga, fa'aletonu, fa'apitoa, ma fa'aleaganu'u tu'u sa'o i luga o masini fa'aoga e fa'aaoga ai fa'ata'ita'iga e leai ni u'amea, e pei lava ona latou mafaia i GPU i luga ole fale.
Mo a latou filifiliga faʻapipiʻi uʻamea, latou te tuʻuina atu foʻi faʻataʻitaʻiga ma NVIDIA T4 GPUs ma Intel Xeon processors e oʻo atu i le 40 cores, faʻapea foʻi ma faʻataʻitaʻiga mo a latou mea faʻapipiʻi masini faʻatasi ma NVIDIA V100 ma P100 faʻataʻitaʻiga.
tau
Tau amata ile $514/masina mo Intel Xeon4110.
iʻuga
Ma le mea mulimuli, o auaunaga sili ona lelei o le GPU mo AI o i latou ia e ofoina atu punaoa GPU malosi, filifiliga tau fetuutuunai, ma faigofie fua.
O kamupani uma o loʻo tuʻuina atu faʻataʻitaʻiga GPU mo galuega a AI-AWS, NVIDIA, IBM, ma le GCP-o loʻo i ai laina sili ona lelei i tulaga o faʻatinoga ma galuega.
O le filifiliga sili e fa'ai'uina mulimuli ane i ou mana'oga tulaga ese, fa'agata tau tupe, atina'e ua uma ona fa'atulagaina, ma mea e te mana'o ai fa'atau.
Tuua se tali