Po grafičnih procesorjih v oblaku je veliko povpraševanje, saj se pojavljajo nove tehnologije, kot so globoko učenje, umetna inteligenca in strojno učenje.
GPU-ji (grafične procesne enote) so specializirani procesorji, izdelani za obdelavo ogromnih naborov podatkov in zapletenih izračunov, potrebnih za dejavnosti, kot so računalniška grafika in igre. Zdaj so ključni za področje Umetna inteligenca (AI), čeprav v zadnjem času.
Tradicionalni procesorji (centralne procesne enote) ne morejo zadovoljiti povpraševanja, saj modeli AI zahtevajo precejšnjo količino računalniške moči za usposabljanje in delovanje.
Po drugi strani pa so grafični procesorji učinkovitejši pri upravljanju ogromnih količin podatkov in zapletenih izračunov, potrebnih za operacije umetne inteligence, ker so zgrajeni za podporo vzporedne obdelave.
Če se ukvarjate s tehnologijo, ste zagotovo že slišali za storitve GPU v oblaku. Za tiste, ki ne bodo sledili.
Storitev v oblaku, ki uporabnikom omogoča spletni dostop do močnih virov GPE, je znana kot storitev GPU v oblaku za AI. Namesto da bi morali kupovati in vzdrževati lastno strojno opremo GPE, te storitve strankam omogočajo najem virov GPU po potrebi.
To omogoča ljudem in organizacijam, da uporabljajo zmogljivost obdelave grafičnih procesorjev, ne da bi morali narediti precejšnjo začetno naložbo ali plačevati stalne stroške vzdrževanja.
Večina storitev GPU v oblaku za umetno inteligenco ponuja široko paleto možnosti GPE, vključno z več modeli in konfiguracijami ter prilagodljivostjo povečanja ali zmanjšanja po potrebi. Zahvaljujoč tej storitvi lahko zdaj izberete idealne vire GPE za njihove edinstvene zahteve in projekte.
Poleg tega so storitve pogosto opremljene z drugimi zmogljivostmi, vključno z omrežnimi povezavami, shranjevanjem in programskimi orodji za pomoč strankam pri njihovih projektih AI. V tej objavi si bomo ogledali najboljše storitve GPE v oblaku za AI.
1. Linode
Linode ponuja grafične procesorje na zahtevo za delovne obremenitve, kot so obdelava videa, znanstveno računalništvo, strojno učenje, umetna inteligenca in drugi.
Zagotavlja virtualne stroje (VM), optimizirane za GPU, ki delujejo na jedrih NVIDIA Quadro RTX 6000, Tensor in RT ter uporabljajo zmogljivost CUDA za globoko učenje, delovne obremenitve sledenja žarkom in zapleteni izračuni.
Če svoje kapitalske izdatke spremenite v operativne stroške, lahko izkoristite zmogljivosti GPU Linode GPU in resnično vrednost oblaka.
Poleg tega vas Linode osvobodi skrbi glede strojne opreme, tako da se lahko osredotočite na svoje najmočnejše sposobnosti.
Z grafičnimi procesorji Linode jih je zdaj mogoče uporabiti za sofisticirane aplikacije, kot so pretakanje videa, umetna inteligenca in strojno učenje.
Poleg tega lahko glede na količino procesorske moči, ki je potrebna za pričakovane delovne obremenitve, prejmete do 4 kartice za vsako instanco.
Cenitev
Cene se začnejo pri 1.5 USD/uro za namenski paket GPU RTX6000. Začnite uporabljati Linode brezplačno.
2. Ogromen AI
Vast AI je globalna tržnica, kjer lahko uporabniki najamejo poceni grafične procesorje za uporabo v visoko zmogljivem računalništvu.
Zmanjšajo stroške računalniško težkih nalog, tako da gostiteljem omogočijo zakup njihove strojne opreme GPU, uporabnikom pa omogočijo, da uporabijo njihovo spletno iskalno orodje, da poiščejo najcenejše cene za računalništvo v skladu s svojimi potrebami in izvajajo ukaze ali zaženejo povezave SSH.
Zagotavljajo primerke SSH, primerke Jupyter z grafičnim uporabniškim vmesnikom Jupyter ali primerke samo z ukazi in imajo preprosto Uporabniški vmesnik.
Na voljo je tudi funkcija zmogljivosti globokega učenja (DLPerf), ki napove ocenjeno uspešnost naloge globokega učenja.
Sistemi, ki jih uporablja Vast AI, temeljijo na Ubuntuju in ne ponujajo oddaljenih namizij. Upravljajo tudi primerke, ki so na voljo na zahtevo za posebno plačilo, ki ga določi gostitelj.
Cenitev
Cene se začnejo pri 0.80 $/uro za 4x RTX A6000.
3. AWS & NVIDIA
AWS in NVIDIA skupaj dosledno zagotavljata rešitve, ki temeljijo na grafičnih procesorjih, ki so cenovno dostopne, prilagodljive in zmogljive.
Vključuje instance Amazon EC2, ki jih poganja NVIDIA GPU, in storitve, kot je AWS IoT Greengrass, ki se namesti z moduli NVIDIA Jetson Nano.
Za virtualne delovne postaje, strojno učenje (ML), storitve interneta stvari (IoT) in visoko zmogljivo računalništvo uporabniki uporabljajo AWS in NVIDIA. Razširljivo zmogljivost zagotavljajo grafični procesorji NVIDIA, ki poganjajo primerke Amazon EC2.
Poleg tega uporabite AWS IoT Greengrass za povezavo robnih naprav, ki temeljijo na NVIDIA, s storitvami v oblaku AWS.
Primerke Amazon EC2 P4d poganjajo grafični procesorji NVIDIA A100 Tensor Core, ki zagotavljajo omrežje z najnižjo zakasnitvijo v industriji in najvišjo prepustnost.
Podobno temu so za določene okoliščine na voljo drugi različni primerki, na primer Amazon EC2 P3, Amazon EC2 G4 itd.
Cenitev
Prijavite se lahko za brezplačno preskusno različico in se za ceno obrnite na prodajalca.
4. Paperspace CORE
CORE je popolnoma upravljana platforma GPU v oblaku, ki jo je ustvaril Paperspace in zagotavlja preprosto, stroškovno učinkovito in pospešeno računalništvo za različne aplikacije.
Uporabite najsodobnejšo pospešeno računalniško infrastrukturo, ki jo ponuja Paperspace CORE, da pospešite organizacijske procese. Za hitro vkrcanje, orodja za sodelovanje in namizne aplikacije za Mac, Linux in Windows ponuja uporabniku prijazen in nezapleten vmesnik.
Uporabite ga za izvajanje zahtevnih programov z neskončno količino procesorske moči. CORE ponuja izjemno hitro omrežje, hitro zagotavljanje, podporo za 3D aplikacije in popoln API za programski dostop.
Z intuitivnim grafičnim uporabniškim vmesnikom, ki je enostaven za uporabo, pridobite celovito sliko svoje infrastrukture na enem mestu.
Poleg tega pridobite odličen nadzor zahvaljujoč skrbniškemu vmesniku CORE, ki ponuja zmogljiva orodja in vam omogoča filtriranje, razvrščanje, povezovanje ali ustvarjanje strojev, omrežij in uporabnikov.
Cenitev
Cene se začnejo pri 0.45 USD/uro za namenski GPE M4000.
5. Storitev Alibaba Elastic GPU
Alibaba Elastic GPU Service (EGS) uporablja tehnologijo GPU za zagotavljanje vzporednih in zmogljivih zmogljivosti obdelave. Številne aplikacije, vključno z video obdelavo, vizualizacijo, znanstvenim računalništvom in globokim učenjem, so zelo primerne za to.
EGS uporablja številne grafične procesorje, vključno z AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 in NVIDIA Tesla P100.
Imeli boste dostop do prednosti, tudi na spletu Storitve sklepanja in usposabljanje globokega učenja, identifikacija vsebine, prepoznavanje slike in glasu, kodiranje medijev HD, videokonference, obnova izvornega filma in 4K/8K HD v živo.
Pridobite tudi alternative, kot so upodabljanje videa, računalniško financiranje, podnebna napoved, simulacija trkov, genski inženiring, nelinearno urejanje, aplikacije za izobraževanje na daljavo in inženirsko načrtovanje.
Cenitev
Ponuja brezplačno preskusno različico in naročniški načrt s plačilom po uporabi, kar pomeni, da imate samo tiste primerke ali grafične procesorje, ki jih uporabljate.
6. Genesis Cloud
Genesis Cloud ponuja zelo stroškovno učinkovito platformo GPU v oblaku. Sodelujejo v partnerstvu z več učinkovitimi podatkovnimi centri po vsem svetu, da bi zagotovili široko paleto aplikacij.
Genesis Cloud ponuja široko paleto uporabnih funkcij brez dodatnih stroškov, vključno s posnetki za varnostno kopiranje vašega dela, varnostnimi skupinami za omrežni promet, prostorninami za shranjevanje velikih naborov podatkov, FastAI, PyTorch, prednastavljenimi slikami in javnim API-jem TensorFlow.
Pospešujejo računanje s pomočjo tehnologij NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti in GTX 1080 Ti v svojih instancah GPU v oblaku.
Moč računalništva GPE lahko uporabite za izdelavo animiranih filmov ali vlakov nevronske mreže.
Cenitev
Cene se začnejo pri 1.30 $/uro za NVIDIA® GeForce™ RTX 3090.
7. Google Cloud GPE
Google Cloud Platform (GCP) ponuja številne primerke GPE, ki jih je mogoče uporabiti za pospešitev procesov, kot so strojno učenje, globoko učenje in visokozmogljivo računalništvo (HPC).
Prek teh primerkov GPE, ki jih podpirajo GPE NVIDIA, AMD in Intel, je mogoče dostopati do knjižnic CUDA in cuDNN, ki se pogosto uporabljajo za računalništvo, pospešeno z GPU.
Zaradi strojnih modifikacij, prilagodljivega oblikovanja cen in velikega nabora možnosti GPE bi lahko bil HPC bolj produktiven.
Poleg tega vam lahko pomaga olajšati delovno obremenitev. Med grafičnimi procesorji, ki jih ponujajo, so NVIDIA K80, P4, V100, A100, T4 in P100. Samo majhno število območij, razpršenih po različnih krajih, ima dostop do grafičnih procesorjev.
Cenitev
Cena se bo razlikovala glede na regijo, GPE, ki ga izberete, in vrsto stroja. Za NVIDIA A100 se cene začnejo pri 3.93 USD na GPU.
8. NVIDIA GPU oblak
NVIDIA GPU Cloud (NGC) je platforma v oblaku, ki uporabnikom omogoča dostop do različne programske opreme, pospešene z GPU, kot so orodja za vizualizacijo, programi HPC in globoko učenje okvirov.
Razvijalci, podatkovni znanstveniki, raziskovalci pa lahko zdaj preprosto uporabljajo računalniško moč grafičnih procesorjev NVIDIA v oblaku, ne da bi jim bilo treba skrbeti za infrastrukturo ali vzdrževanje, potrebno za delovanje njihovih aplikacij, zahvaljujoč NGC.
Knjižnica vnaprej konfiguriranih vsebnikov programske opreme je vključena v NGC in jo je mogoče hitro namestiti v več računalništvo v oblaku infrastrukture, vključno s spletnimi storitvami Amazon, Google Cloud Platform in Microsoft Azure.
Dostop do NGC uporabnikom omogoča tudi dostop do platforme za globoko učenje NVIDIA, ki je opremljena s številnimi programi in viri za ustvarjanje in implementacijo modelov globokega učenja, vključno s TensorRT, cuDNN in CUDA-X AI.
Cenitev
Odvisno od posebnih storitev in virov, ki jih uporabljate, se cena NVIDIA GPU Cloud (NGC) spreminja. Medtem ko so nekatere storitve NGC, kot je sklad programske opreme za globoko učenje, brezplačne za uporabo, lahko druge, kot so vsebniki aplikacij HPC, zaračunajo ceno. Oglejte si katalog NGC.
9. Lambda GPU oblak
Lambda zagotavlja primerke GPU v oblaku za usposabljanje modelov globokega učenja in razširljivost iz enega fizičnega računalnika v številne virtualne stroje.
Z nadzorne plošče takoj dostopajte do specializiranih strojev Jupyter Notebook programsko okolje. Za neposreden dostop uporabite SSH neposredno z enim od ključev SSH ali se povežite prek spletnega terminala na nadzorni plošči v oblaku.
Vsaka instanca podpira največ 10 Gbps povezljivosti med vozlišči, kar omogoča porazdeljeno usposabljanje z uporabo ogrodij, kot je Horovod.
Povečanje števila grafičnih procesorjev na enem ali več primerkih lahko pomaga pospešiti optimizacijo modela. Platforma podpira primerke GPU iz NVIDIA RTX 6000, Quadro RTX 6000 in Tesla V100s.
Cenitev
Cene se začnejo pri 1.10 $/uro za NVIDIA A100.
10. IBM Cloud GPE
IBM Cloud GPU uporablja globalno razpršeno omrežje podatkovnih centrov, da ponudi prilagodljive postopke izbire strežnika in gladko povezljivost z IBM-ovo arhitekturo v oblaku, API-ji in aplikacijami.
Z instancami grafičnih procesorjev Intel Xeon 4210, Xeon 5218 in Xeon 6248 ponuja možnost golega strežniškega grafičnega procesorja.
Izvajate lahko visoko zmogljive, na zakasnitve občutljive, specializirane in običajne delovne obremenitve neposredno na strojni opremi strežnika z golimi instancami, tako kot bi lahko z lokalnimi grafičnimi procesorji.
Za svojo možnost golega strežnika ponujajo tudi primerke z grafičnimi procesorji NVIDIA T4 in procesorji Intel Xeon z do 40 jedri, kot tudi primerke za njihove alternative virtualnega strežnika z modeli NVIDIA V100 in P100.
Cenitev
Cene se začnejo pri 514 $/mesec za Intel Xeon4110.
zaključek
Nazadnje, najboljše storitve GPU v oblaku za AI so tiste, ki ponujajo močne vire GPE, prilagodljive izbire cen in preprosto skaliranje.
Vsa podjetja, ki zagotavljajo primerke GPE za delovne obremenitve AI – AWS, NVIDIA, IBM in GCP – imajo odlične linije izdelkov v smislu zmogljivosti in funkcionalnosti.
Najboljšo možnost na koncu določijo vaše posebne zahteve, finančne omejitve, že vzpostavljena infrastruktura in želje prodajalca.
Pustite Odgovori