Debesijos GPU yra labai paklausūs, nes atsiranda naujų technologijų, tokių kaip gilusis mokymasis, AI ir mašininis mokymasis.
GPU (Graphics Processing Units) yra specializuoti procesoriai, skirti apdoroti didžiulius duomenų rinkinius ir sudėtingus skaičiavimus, reikalingus tokiai veiklai kaip kompiuterinė grafika ir žaidimai. Dabar jie yra labai svarbūs sričiai dirbtinis intelektas (AI) taip pat, tačiau pastaruoju metu.
Tradiciniai centriniai procesoriai (centriniai procesoriai) negali patenkinti poreikių, nes dirbtinio intelekto modeliams reikia daug skaičiavimo galios, kad būtų galima apmokyti ir paleisti.
Kita vertus, kadangi jie sukurti palaikyti lygiagrečiam apdorojimui, GPU efektyviau valdo didžiulius duomenų kiekius ir sudėtingus skaičiavimus, reikalingus dirbtinio intelekto operacijoms.
Jei esate technologijų srityje, turite būti girdėję apie debesies GPU paslaugas. Tiems, kurie neseka kartu.
Debesis pagrįsta paslauga, suteikianti vartotojams internetinę prieigą prie galingų GPU išteklių, žinoma kaip AI debesies GPU paslauga. Užuot tekę pirkti ir prižiūrėti savo GPU aparatinę įrangą, šios paslaugos suteikia klientams galimybę prireikus išsinuomoti GPU resursus.
Tai leidžia žmonėms ir organizacijoms naudotis GPU apdorojimo pajėgumais nereikalaujant didelių pradinių investicijų ar nemokant nuolatinių priežiūros mokesčių.
Dauguma debesies GPU paslaugų, skirtų dirbtiniam intelektui, teikia daugybę GPU parinkčių, įskaitant kelis modelius ir konfigūracijas bei lankstumą prireikus padidinti arba sumažinti. Šios paslaugos dėka dabar galite pasirinkti idealius GPU išteklius pagal jų unikalius reikalavimus ir projektus.
Be to, paslaugos dažnai pateikiamos su kitomis galimybėmis, įskaitant tinklų kūrimą, saugojimą ir programinės įrangos įrankius, padedančius klientams vykdyti AI projektus. Šiame įraše apžvelgsime populiariausias AI debesies GPU paslaugas.
1. Linodas
Linode siūlo GPU pagal poreikį tokiems darbo krūviams kaip vaizdo apdorojimas, mokslinis skaičiavimas, mašininis mokymasis, dirbtinis intelektas ir kt.
Tai teikia GPU optimizuotas virtualias mašinas (VM), kurios veikia NVIDIA Quadro RTX 6000, Tensor ir RT branduoliuose ir naudoja CUDA galimybes. gilus mokymasis, spindulių sekimo darbo krūviai ir sudėtingi skaičiavimai.
Kapitalo išlaidas paversdami veiklos sąnaudomis, galėsite pasinaudoti Linode GPU GPU galimybėmis ir realia debesies verte.
Be to, „Linode“ neleidžia nerimauti dėl aparatinės įrangos, kad galėtumėte sutelkti dėmesį į savo stipriausius įgūdžius.
Su Linode GPU dabar galima juos naudoti sudėtingoms programoms, pvz., vaizdo transliacijai, dirbtiniam intelektui ir mašininiam mokymuisi.
Be to, priklausomai nuo apdorojimo galios, reikalingos numatomam darbo krūviui, kiekvienam atvejui galite gauti iki 4 kortelių.
Kainos
Specialaus RTX1.5 GPU plano kaina prasideda nuo 6000 USD per valandą. Pradėkite naudotis Linode nemokamai.
2. Didžiulis AI
„Vast AI“ yra pasaulinė rinka, kurioje vartotojai gali išsinuomoti nebrangius GPU, skirtus naudoti didelio našumo kompiuteriams.
Jie sumažina sudėtingų skaičiavimo užduočių sąnaudas, leisdami pagrindiniams kompiuteriams išsinuomoti savo GPU aparatinę įrangą, o naudotojai gali naudoti savo internetinės paieškos įrankį, kad surastų pigiausias skaičiavimo kainas pagal savo poreikius ir vykdytų komandas arba paleiskite SSH ryšius.
Jie teikia SSH egzempliorius, Jupyter egzempliorius su Jupyter GUI arba tik komandų egzempliorius ir turi paprastą vartotojo sąsaja.
Taip pat pateikiama gilaus mokymosi našumo funkcija (DLPerf), kuri prognozuoja numatomą gilaus mokymosi užduoties našumą.
„Vast AI“ naudojamos sistemos yra pagrįstos „Ubuntu“ ir nesiūlo nuotolinių stalinių kompiuterių. Jie taip pat valdo atvejus, kurie yra prieinami pagal pareikalavimą už konkretų pagrindinio kompiuterio nustatytą mokestį.
Kainos
0.80x RTX A4 kaina prasideda nuo 6000 USD per valandą.
3. AWS ir NVIDIA
Kartu AWS ir NVIDIA nuolat tiekia GPU pagrįstus sprendimus, kurie yra prieinami, pritaikomi ir galingi.
Tai apima NVIDIA GPU maitinamus „Amazon EC2“ egzempliorius ir tokias paslaugas kaip „AWS IoT Greengrass“, kurios įdiegiamos su NVIDIA Jetson Nano moduliais.
Virtualioms darbo stotims, mašininiam mokymuisi (ML), daiktų interneto (IoT) paslaugoms ir didelio našumo kompiuteriams naudotojai naudoja AWS ir NVIDIA. Keičiamą našumą užtikrina NVIDIA GPU, maitinantys „Amazon EC2“ egzempliorius.
Be to, naudokite AWS IoT Greengrass, kad prijungtumėte NVIDIA pagrindu veikiančius kraštus įrenginius prie AWS debesies paslaugų.
„Amazon EC2 P4d“ egzemplioriai maitinami NVIDIA A100 Tensor Core GPU, užtikrinančiu mažiausią pramonės vėlavimo laiką ir didžiausią pralaidumą.
Panašiai yra ir kitų skirtingų atvejų tam tikroms aplinkybėms, pvz., Amazon EC2 P3, Amazon EC2 G4 ir kt.
Kainos
Galite kreiptis dėl nemokamos bandomosios versijos ir susisiekite su pardavėju dėl jo kainų.
4. Paperspace CORE
CORE yra visiškai valdoma debesies GPU platforma, sukurta Paperspace, kuri suteikia paprastą, ekonomišką ir pagreitintą skaičiavimą įvairioms programoms.
Pasinaudokite pažangiausia pagreitinto skaičiavimo infrastruktūra, kurią teikia Paperspace CORE, kad paspartintumėte organizacinius procesus. Greitam prisijungimui, bendradarbiavimo įrankiams ir darbalaukio programoms, skirtoms „Mac“, „Linux“ ir „Windows“, siūlo patogią ir nesudėtingą sąsają.
Naudokite jį sudėtingoms programoms vykdyti su begaline apdorojimo galia. CORE siūlo itin greitą tinklą, greitą aprūpinimą, 3D programų palaikymą ir visą API programinei prieigai.
Naudodami lengvai naudojamą ir intuityvią GUI, vienoje vietoje gaukite išsamų savo infrastruktūros vaizdą.
Be to, įgykite puikų valdymą dėl CORE administravimo sąsajos, kuri siūlo galingus įrankius ir leidžia filtruoti, rūšiuoti, prisijungti arba kurti įrenginius, tinklus ir vartotojus.
Kainos
Specialaus M0.45 GPU kaina prasideda nuo 4000 USD per valandą.
5. Alibaba Elastic GPU paslauga
„Alibaba Elastic GPU Service“ (EGS) naudoja GPU technologiją, kad būtų užtikrintos lygiagrečios ir galingos apdorojimo galimybės. Tam puikiai tinka daugelis programų, įskaitant vaizdo apdorojimą, vizualizaciją, mokslinį skaičiavimą ir gilųjį mokymąsi.
EGS naudoja daugybę GPU, įskaitant AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 ir NVIDIA Tesla P100.
Turėsite prieigą prie privalumų, įskaitant internetą gilaus mokymosi išvadų paslaugos ir mokymai, turinio identifikavimas, vaizdo ir balso atpažinimas, HD medijos kodavimas, vaizdo konferencijos, šaltinio filmo atkūrimas ir 4K/8K HD tiesioginė raiška.
Taip pat gaukite alternatyvų, pvz., vaizdo įrašų atvaizdavimą, skaičiavimo finansavimą, klimato prognozavimą, susidūrimų modeliavimą, genų inžineriją, nelinijinį redagavimą, nuotolinio mokymo programas ir inžinerinį projektavimą.
Kainos
Jis siūlo nemokamą bandomąjį laikotarpį ir mokamą prenumeratos planą, o tai reiškia, kad jūs tik naudojate egzempliorius ar GPU.
6. Genezės debesis
„Genesis Cloud“ siūlo labai ekonomišką debesies GPU platformą. Jie bendradarbiauja su keliais efektyviais duomenų centrais visame pasaulyje, kad galėtų teikti platų programų pasirinkimą.
„Genesis Cloud“ siūlo daugybę naudingų funkcijų be papildomų mokesčių, įskaitant momentines kopijas, skirtas jūsų darbo atsarginėms kopijoms kurti, tinklo srauto saugos grupes, didelių duomenų rinkinių saugojimo apimtis, „FastAI“, „PyTorch“, iš anksto nustatytas nuotraukas ir viešą „TensorFlow“ API.
Jie pagreitina skaičiavimą naudodami NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti ir GTX 1080 Ti technologijas savo debesies GPU egzemplioriuose.
Galite panaudoti GPU skaičiavimo galią kurdami animacinius filmus ar mokydamiesi neuroniniai tinklai.
Kainos
NVIDIA® GeForce™ RTX 1.30 kaina prasideda nuo 3090 USD per valandą.
7. Google Cloud GPU
„Google Cloud Platform“ (GCP) siūlo daugybę GPU egzempliorių, kuriuos galima naudoti norint pagreitinti tokius procesus kaip mašininis mokymasis, gilus mokymasis ir didelio našumo kompiuterija (HPC).
Per šiuos GPU egzempliorius, kuriuos palaiko NVIDIA, AMD ir Intel GPU, galima pasiekti CUDA ir cuDNN bibliotekas, kurios dažnai naudojamos GPU pagreitintam skaičiavimui.
Dėl mašinų modifikacijų, lanksčios kainodaros ir daugybės GPU galimybių HPC gali būti produktyvesnis.
Be to, tai gali padėti sumažinti darbo krūvį. Tarp jų teikiamų GPU yra NVIDIA K80, P4, V100, A100, T4 ir P100. Tik nedaugelis zonų, išsibarsčiusių skirtingose vietose, turi prieigą prie GPU.
Kainos
Kaina skirsis priklausomai nuo regiono, pasirinkto GPU ir įrenginio tipo. NVIDIA A100 kainos prasideda nuo 3.93 USD už GPU.
8. NVIDIA GPU debesis
NVIDIA GPU Cloud (NGC) yra debesies pagrindu sukurta platforma, suteikianti vartotojams prieigą prie įvairios GPU pagreitintos programinės įrangos, pvz., vizualizacijos įrankių, HPC programų ir gilus mokymasis rėmus.
Kūrėjai, duomenų mokslininkai, o dabar mokslininkai gali lengvai išnaudoti NVIDIA GPU skaičiavimo galią debesyje, nesijaudindami dėl infrastruktūros ar priežiūros, reikalingos jų programoms valdyti dėl NGC.
Iš anksto sukonfigūruotų programinės įrangos konteinerių biblioteka yra įtraukta į NGC ir gali būti greitai įdiegta daugelyje Debesis kompiuterija infrastruktūros, įskaitant „Amazon Web Services“, „Google Cloud Platform“ ir „Microsoft Azure“.
Prieiga prie NGC taip pat suteikia vartotojams prieigą prie NVIDIA gilaus mokymosi platformos, kurioje yra daug programų ir išteklių, skirtų kurti ir įdiegti giluminio mokymosi modelius, įskaitant TensorRT, cuDNN ir CUDA-X AI.
Kainos
Atsižvelgiant į konkrečias jūsų naudojamas paslaugas ir išteklius, NVIDIA GPU Cloud (NGC) kaina keičiasi. Nors tam tikromis NGC paslaugomis, pvz., giluminio mokymosi programinės įrangos kaminu, galima naudotis nemokamai, o kitomis, pvz., HPC taikomųjų programų konteineriais, gali būti taikoma kaina. Žiūrėkite NGC katalogą.
9. Lambda GPU debesis
„Lambda“ teikia debesies GPU egzempliorius, skirtus gilaus mokymosi modelio mokymui ir mastelio iš vieno fizinio kompiuterio į daugelį virtualių mašinų.
Iš prietaisų skydelio iš karto pasiekite kiekvienos mašinos specializuotą informaciją „Jupyter“ užrašų knygelė programavimo aplinka. Norėdami pasiekti tiesioginę prieigą, naudokite SSH tiesiogiai naudodami vieną iš SSH raktų arba prisijunkite per žiniatinklio terminalą debesies prietaisų skydelyje.
Kiekvienas egzempliorius palaiko ne daugiau kaip 10 Gbps tarpmazgų ryšį, leidžiantį paskirstyti mokymus naudojant tokias sistemas kaip Horovod.
GPU skaičiaus padidinimas viename ar keliuose egzemplioriuose gali padėti paspartinti modelio optimizavimą. Platforma palaiko GPU egzempliorius iš NVIDIA RTX 6000, Quadro RTX 6000 ir Tesla V100s.
Kainos
NVIDIA A1.10 kaina prasideda nuo 100 USD per valandą.
10. IBM debesies GPU
„IBM Cloud GPU“ naudoja visame pasaulyje išsklaidytą duomenų centrų tinklą, kad pasiūlytų lanksčias serverio pasirinkimo procedūras ir sklandų ryšį su IBM debesies architektūra, API ir programomis.
Su „Intel Xeon 4210“, „Xeon 5218“ ir „Xeon 6248“ GPU egzemplioriais jis siūlo „bemetal“ serverio GPU parinktį.
Galite vykdyti didelio našumo, delsos jautrius, specializuotus ir įprastinius darbo krūvius tiesiogiai serverio aparatinėje įrangoje, naudodami grynus metalinius egzempliorius, kaip tai galėtų padaryti naudojant vietinius GPU.
Be metalo serverio parinktis, jie taip pat pateikia egzempliorius su NVIDIA T4 GPU ir Intel Xeon procesoriais su iki 40 branduolių, taip pat egzempliorius savo virtualių serverių alternatyvoms su NVIDIA V100 ir P100 modeliais.
Kainos
„Intel Xeon514“ kaina prasideda nuo 4110 USD per mėnesį.
Išvada
Galiausiai, geriausios AI debesies GPU paslaugos yra tos, kurios siūlo stiprius GPU išteklius, pritaikomą kainų pasirinkimą ir paprastą mastelio keitimą.
Visos įmonės, teikiančios GPU egzempliorius AI darbo krūviams – AWS, NVIDIA, IBM ir GCP – turi puikias produktų linijas našumo ir funkcionalumo požiūriu.
Geriausias pasirinkimas galiausiai nustatomas pagal jūsų unikalius reikalavimus, finansinius suvaržymus, jau sukurtą infrastruktūrą ir pardavėjo pageidavimus.
Palikti atsakymą