Les GPU al núvol tenen una gran demanda a mesura que sorgeixen noves tecnologies com ara l'aprenentatge profund, l'IA i l'aprenentatge automàtic.
Les GPU (Unitats de processament gràfic) són processadors especialitzats fets per gestionar els enormes conjunts de dades i els càlculs complexos necessaris per a activitats com els gràfics per ordinador i els jocs. Ara són crucials per al camp de intel·ligència artificial (AI) també, però, últimament.
Les CPU tradicionals (unitats centrals de processament) no poden satisfer la demanda, ja que els models d'IA requereixen una quantitat significativa de potència de càlcul per entrenar i executar-se.
D'altra banda, com que estan construïdes per suportar el processament paral·lel, les GPU són més efectives per gestionar els volums massius de dades i els càlculs complexos necessaris per a les operacions d'IA.
Si esteu en tecnologia, haureu d'haver sentit a parlar dels serveis de GPU al núvol. Per a aquells que no els seguiran.
Un servei basat en núvol que ofereix als usuaris accés en línia a recursos potents de GPU es coneix com a servei de GPU al núvol per a IA. En lloc de necessitar comprar i mantenir el seu propi maquinari de GPU, aquests serveis permeten als clients llogar recursos de GPU segons sigui necessari.
Això fa que sigui factible que les persones i les organitzacions utilitzin la capacitat de processament de les GPU sense haver de fer una inversió inicial important o pagar despeses de manteniment contínues.
La majoria dels serveis de GPU al núvol per a IA ofereixen una àmplia varietat d'opcions de GPU, inclosos diversos models i configuracions i la flexibilitat per augmentar o reduir segons sigui necessari. Ara podeu seleccionar els recursos de GPU ideals per als seus requisits i projectes únics gràcies a aquest servei.
A més, els serveis sovint inclouen altres capacitats, com ara eines de xarxa, emmagatzematge i programari per ajudar els clients en els seus projectes d'IA. En aquesta publicació, veurem els principals serveis de GPU al núvol per a IA.
1. Linode
Linode ofereix GPU sota demanda per a càrregues de treball com el processament de vídeo, la informàtica científica, màquina d'aprenentatge, intel·ligència artificial i altres.
Proporciona màquines virtuals (VM) optimitzades per a GPU que s'executen amb nuclis NVIDIA Quadro RTX 6000, Tensor i RT i utilitza la capacitat CUDA per fer-ho. aprenentatge profund, càrregues de treball de traçat de raigs i càlculs complexos.
En convertir la vostra despesa de capital en una despesa operativa, podeu utilitzar la capacitat de GPU de Linode GPU i el valor real del núvol.
A més, Linode us allibera de preocupar-vos pel maquinari perquè pugueu concentrar-vos en les vostres habilitats més fortes.
Amb les GPU Linode, ara és possible utilitzar-les per a aplicacions sofisticades com la transmissió de vídeo, la intel·ligència artificial i l'aprenentatge automàtic.
A més, depenent de la quantitat de potència de processament necessària per a les càrregues de treball previstes, podeu rebre fins a 4 targetes per a cada instància.
Preus
El preu comença a 1.5 dòlars l'hora per al pla dedicat de GPU RTX6000. Comença amb Linode de forma gratuïta.
2. Gran IA
Vast AI és un mercat global on els usuaris poden llogar GPU barates per utilitzar-les en informàtica d'alt rendiment.
Redueixen el cost de les tasques computacionalment pesades permetent als amfitrions llogar el seu maquinari GPU, permetent als usuaris utilitzar la seva eina de cerca en línia per localitzar els preus més barats per a la informàtica d'acord amb les seves necessitats i executar ordres o iniciar connexions SSH.
Proporcionen instàncies SSH, instàncies de Jupyter amb la GUI de Jupyter o instàncies només d'ordres, i inclouen una interfície d'usuari.
També es proporciona una funció de rendiment d'aprenentatge profund (DLPerf), que preveu un rendiment estimat de la tasca d'aprenentatge profund.
Els sistemes utilitzats per Vast AI estan basats en Ubuntu i no ofereixen escriptoris remots. També operen instàncies que estan disponibles sota demanda per una tarifa específica establerta per l'amfitrió.
Preus
El preu comença a 0.80 $/hora per a 4x RTX A6000.
3. AWS i NVIDIA
Junts, AWS i NVIDIA ofereixen constantment solucions basades en GPU que són assequibles, adaptables i potents.
Inclou instàncies i serveis Amazon EC2 alimentats per GPU de NVIDIA com AWS IoT Greengrass que s'instal·la amb mòduls NVIDIA Jetson Nano.
Per a estacions de treball virtuals, aprenentatge automàtic (ML), serveis d'Internet de les coses (IoT) i informàtica d'alt rendiment, els usuaris utilitzen AWS i NVIDIA. Les GPU NVIDIA que alimenten les instàncies Amazon EC2 proporcionen un rendiment escalable.
A més, utilitzeu AWS IoT Greengrass per connectar dispositius de punta basats en NVIDIA als serveis al núvol d'AWS.
Les instàncies d'Amazon EC2 P4d funcionen amb les GPU NVIDIA A100 Tensor Core, que proporcionen la xarxa de latència més baixa i el rendiment més alt del sector.
De manera semblant a això, hi ha altres instàncies diferents disponibles per a determinades circumstàncies, com ara Amazon EC2 P3, Amazon EC2 G4, etc.
Preus
Podeu sol·licitar una prova gratuïta i poseu-vos en contacte amb el venedor per conèixer el preu.
4. Paperspace CORE
A CORE és una plataforma de GPU al núvol totalment gestionada creada per Paperspace que proporciona una informàtica senzilla, rendible i accelerada per a una varietat d'aplicacions.
Utilitzeu la infraestructura informàtica accelerada d'avantguarda proporcionada per Paperspace CORE per accelerar els processos organitzatius. Per a una incorporació ràpida, eines de col·laboració i aplicacions d'escriptori per a Mac, Linux i Windows, ofereix una interfície fàcil d'utilitzar i sense complicacions.
Utilitzeu-lo per executar programes exigents amb una potència de processament infinita. CORE ofereix una xarxa súper ràpida, subministrament ràpid, suport per a aplicacions 3D i una API completa per a l'accés programàtic.
Amb una GUI fàcil d'utilitzar i intuïtiva, obteniu una imatge completa de la vostra infraestructura en un sol lloc.
A més, obteniu un control excel·lent gràcies a la interfície d'administració del CORE, que ofereix eines potents i us permet filtrar, ordenar, connectar o crear màquines, xarxes i usuaris.
Preus
El preu comença a 0.45 $/hora per a la GPU dedicada M4000.
5. Servei d'Alibaba Elastic GPU
Alibaba Elastic GPU Service (EGS) aprofita la tecnologia GPU per oferir capacitats de processament potents i paral·leles. Moltes aplicacions, com ara el processament de vídeo, la visualització, la informàtica científica i l'aprenentatge profund, són molt adequades per a això.
EGS fa ús de diverses GPU, com ara AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 i NVIDIA Tesla P100.
Tindràs accés a avantatges inclòs en línia serveis i formació d'aprenentatge profund d'inferència, identificació de contingut, reconeixement d'imatges i veu, codificació multimèdia HD, videoconferència, restauració de pel·lícules font i 4K/8K HD en directe.
Obteniu alternatives com la representació de vídeo, les finances computacionals, la predicció del clima, la simulació de col·lisions, l'enginyeria genètica, l'edició no lineal, les aplicacions d'educació a distància i el disseny d'enginyeria.
Preus
Ofereix una prova gratuïta i un pla de subscripció de pagament, la qual cosa significa que només teniu quines instàncies o GPU feu servir.
6. Núvol de Gènesi
Genesis Cloud ofereix una plataforma de GPU al núvol molt rendible. Estan treballant en col·laboració amb diversos centres de dades efectius arreu del món per oferir una gran varietat d'aplicacions.
Genesis Cloud ofereix una àmplia gamma de funcions útils sense cap cost addicional, com ara instantànies per fer còpies de seguretat del vostre treball, grups de seguretat per al trànsit de xarxa, volums d'emmagatzematge per a grans conjunts de dades, FastAI, PyTorch, imatges predefinides i una API pública de TensorFlow.
Aceleren el càlcul amb l'ajuda de les tecnologies NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti i GTX 1080 Ti a les seves instàncies de GPU al núvol.
Podeu utilitzar la potència de la informàtica GPU per produir pel·lícules animades o entrenar xarxes neuronals.
Preus
El preu comença a partir d'1.30 $/hora per a NVIDIA® GeForce™ RTX 3090.
7. GPU de Google Cloud
Google Cloud Platform (GCP) ofereix una sèrie d'instàncies de GPU que es poden utilitzar per accelerar processos com l'aprenentatge automàtic, l'aprenentatge profund i la informàtica d'alt rendiment (HPC).
A través d'aquestes instàncies de GPU, que són compatibles amb les GPU de NVIDIA, AMD i Intel, és possible accedir a les biblioteques CUDA i cuDNN, que s'utilitzen sovint per a la informàtica accelerada per GPU.
A causa de les modificacions de la màquina, els preus flexibles i una àmplia gamma de possibilitats de GPU, HPC podria ser més productiu.
A més, us podria ajudar a alleugerir la vostra càrrega de treball. Entre les GPU que proporcionen es troben les NVIDIA K80, P4, V100, A100, T4 i P100. Només un petit nombre de zones disperses per diferents llocs tenen accés a les GPU.
Preus
El cost variarà en funció de la regió, la GPU que seleccioneu i el tipus de màquina. Per a la NVIDIA A100, els preus comencen a partir de 3.93 dòlars per GPU.
8. NVIDIA GPU Cloud
NVIDIA GPU Cloud (NGC) és una plataforma basada en núvol que ofereix als usuaris accés a una varietat de programari accelerat per GPU, com ara eines de visualització, programes HPC i aprenentatge profund marcs.
Desenvolupadors, científics de dades, i els investigadors ara poden utilitzar fàcilment la potència de càlcul de les GPU de NVIDIA al núvol sense haver de preocupar-se per la infraestructura o el manteniment necessaris per fer funcionar les seves aplicacions gràcies a NGC.
Amb NGC s'inclou una biblioteca de contenidors de programari preconfigurats que es poden desplegar ràpidament en diversos cloud computing infraestructures, com Amazon Web Services, Google Cloud Platform i Microsoft Azure.
L'accés a NGC també ofereix als usuaris accés a la plataforma d'aprenentatge profund de NVIDIA, que inclou una sèrie de programes i recursos per crear i implementar models d'aprenentatge profund, com ara TensorRT, cuDNN i CUDA-X AI.
Preus
En funció dels serveis i recursos específics que utilitzeu, el preu de NVIDIA GPU Cloud (NGC) canvia. Tot i que alguns serveis de NGC, com la pila de programari d'aprenentatge profund, són gratuïts, d'altres, com els contenidors d'aplicacions HPC, poden cobrar un preu. Consulteu el catàleg de NGC.
9. Lambda GPU Cloud
Lambda ofereix instàncies de GPU al núvol per a l'entrenament i l'escalabilitat de models d'aprenentatge profund des d'un sol ordinador físic a moltes màquines virtuals.
Des del tauler, accediu immediatament a l'especialitat de cada màquina Jupyter Llibreta entorn de programació. Per accedir directament, utilitzeu SSH directament amb una de les claus SSH o connecteu-vos mitjançant el terminal web al tauler de control del núvol.
Cada instància admet un màxim de 10 Gbps de connectivitat entre nodes, cosa que permet una formació distribuïda mitjançant marcs com Horovod.
Augmentar el nombre de GPU en una o diverses instàncies pot ajudar a accelerar l'optimització del model. La plataforma admet instàncies de GPU de NVIDIA RTX 6000, Quadro RTX 6000 i Tesla V100s.
Preus
El preu comença a 1.10 $/hora per a NVIDIA A100.
10. GPU IBM Cloud
La GPU IBM Cloud utilitza una xarxa global de centres de dades dispersos per oferir procediments de selecció de servidors flexibles i una connectivitat fluida amb l'arquitectura, les API i les aplicacions del núvol d'IBM.
Amb les instàncies de GPU Intel Xeon 4210, Xeon 5218 i Xeon 6248, ofereix l'opció de GPU de servidor nua.
Podeu executar càrregues de treball d'alt rendiment, sensibles a la latència, especialitzades i convencionals directament al maquinari del servidor mitjançant instàncies de metall nu, igual que ho farien amb les GPU locals.
Per a la seva opció de servidor de metall nu, també proporcionen instàncies amb GPU NVIDIA T4 i processadors Intel Xeon amb fins a 40 nuclis, així com instàncies per a les seves alternatives de servidor virtual amb models NVIDIA V100 i P100.
Preus
El preu comença a partir de 514 dòlars al mes per a Intel Xeon4110.
Conclusió
Finalment, els millors serveis de GPU al núvol per a IA són els que ofereixen recursos GPU potents, opcions de preus adaptables i escalat senzill.
Totes les empreses que proporcionen instàncies de GPU per a càrregues de treball d'IA (AWS, NVIDIA, IBM i GCP) tenen línies de productes excel·lents en termes de rendiment i funcionalitat.
La millor opció es determina en última instància pels vostres requisits únics, les limitacions financeres, la infraestructura ja existent i les preferències del proveïdor.
Deixa un comentari