Бұлтты GPU үлкен сұранысқа ие, өйткені терең оқыту, AI және машиналық оқыту сияқты жаңа технологиялар пайда болады.
GPU (Графикалық өңдеу блоктары) – компьютерлік графика мен ойын ойнау сияқты әрекеттерге қажетті үлкен деректер жиынын және күрделі есептеулерді өңдеуге арналған арнайы процессорлар. Олар енді осы сала үшін маңызды жасанды интеллект (AI) сондай-ақ, дегенмен, соңғы кезде.
Дәстүрлі процессорлар (Орталық өңдеу блоктары) сұранысты қанағаттандыра алмайды, өйткені AI үлгілері жаттығу және жұмыс істеу үшін айтарлықтай есептеу қуатын қажет етеді.
Екінші жағынан, олар параллель өңдеуді қолдау үшін жасалғандықтан, графикалық процессорлар AI операцияларына қажетті деректердің үлкен көлемін және күрделі есептеулерді басқаруда тиімдірек.
Егер сіз технологияда болсаңыз, бұлтты GPU қызметтері туралы естіген болуыңыз керек. Ары қарай жүрмейтіндер үшін.
Пайдаланушыларға қуатты GPU ресурстарына онлайн қатынасуға мүмкіндік беретін бұлтқа негізделген қызмет AI үшін бұлттық GPU қызметі ретінде белгілі. Жеке GPU жабдығын сатып алу және оған қызмет көрсету қажеттілігінің орнына бұл қызметтер тұтынушыларға GPU ресурстарын қажет болған жағдайда жалға алуға мүмкіндік береді.
Бұл адамдар мен ұйымдарға үлкен бастапқы инвестиция жасамай немесе үздіксіз техникалық қызмет көрсету ақысын төлемей GPU өңдеу мүмкіндіктерін пайдалануға мүмкіндік береді.
Жасанды интеллектке арналған бұлттық GPU қызметтерінің көпшілігі GPU опцияларының кең таңдауын, соның ішінде бірнеше үлгілер мен конфигурацияларды және қажет болған жағдайда масштабтау немесе кішірейту икемділігін қамтамасыз етеді. Енді осы қызметтің арқасында бірегей талаптары мен жобалары үшін тамаша GPU ресурстарын таңдауға болады.
Бұған қоса, қызметтер тұтынушыларға AI жобаларында көмектесу үшін желі, сақтау және бағдарламалық құралдарды қоса алғанда, басқа мүмкіндіктермен жиі келеді. Бұл мақалада біз AI үшін ең жақсы бұлттық GPU қызметтерін қарастырамыз.
1. Linode
Linode бейне өңдеу, ғылыми есептеулер сияқты жұмыс жүктемелеріне сұраныс бойынша GPU ұсынады. машина оқыту, жасанды интеллект және т.б.
Ол NVIDIA Quadro RTX 6000, Tensor және RT ядроларында жұмыс істейтін және орындау үшін CUDA мүмкіндігін пайдаланатын GPU оңтайландырылған виртуалды машиналарды (VM) ұсынады. терең білім алу, сәулелік бақылау жұмыс жүктемелері және күрделі есептеулер.
Күрделі шығындарды операциялық шығындарға айналдыру арқылы сіз Linode GPU GPU мүмкіндігін және бұлттың нақты құнын пайдалана аласыз.
Сонымен қатар, Linode сізді аппараттық құралдар туралы алаңдатудан босатады, осылайша сіз өзіңіздің ең күшті дағдыларыңызға назар аудара аласыз.
Linode GPU көмегімен енді оларды бейне ағыны, жасанды интеллект және машиналық оқыту сияқты күрделі қолданбалар үшін пайдалануға болады.
Бұған қоса, күтілетін жұмыс жүктемелері үшін қажетті өңдеу қуатының көлеміне байланысты әрбір данаға 4 картаға дейін алуға болады.
Баға
Арнайы RTX1.5 GPU жоспары үшін баға сағатына 6000 доллардан басталады. Linode қолданбасын тегін бастаңыз.
2. Үлкен AI
Үлкен AI - бұл пайдаланушылар өнімділігі жоғары есептеулерде пайдалану үшін арзан графикалық процессорларды жалға алатын ғаламдық нарық.
Олар хосттарға GPU жабдығын жалға алуға мүмкіндік беріп, пайдаланушыларға өздерінің қажеттіліктеріне сәйкес есептеулерге арналған ең арзан бағаларды табу және пәрмендерді орындау немесе SSH қосылымдарын іске қосу үшін онлайн іздеу құралын пайдалануға мүмкіндік беру арқылы есептеу қиын тапсырмалардың құнын төмендетеді.
Олар SSH даналарын, Jupyter GUI-мен Jupyter даналарын немесе тек пәрменді даналарды қамтамасыз етеді және қарапайым мүмкіндік береді. Қолданушы интерфейсі.
Сондай-ақ терең оқыту тапсырмасының болжамды өнімділігін болжайтын терең оқыту өнімділігі функциясы (DLPerf) қамтамасыз етілген.
Vast AI пайдаланатын жүйелер Ubuntu негізіндегі және қашықтағы жұмыс үстелдерін ұсынбайды. Олар сондай-ақ хост белгілеген белгілі бір ақыға сұраныс бойынша қолжетімді даналарды басқарады.
Баға
Бағасы 0.80x RTX A4 үшін $6000/сағаттан басталады.
3. AWS және NVIDIA
AWS және NVIDIA бірге қол жетімді, бейімделгіш және қуатты GPU негізіндегі шешімдерді дәйекті түрде ұсынады.
Ол NVIDIA GPU-мен жұмыс істейтін Amazon EC2 даналарын және NVIDIA Jetson Nano модульдерімен орнатылатын AWS IoT Greengrass сияқты қызметтерді қамтиды.
Виртуалды жұмыс станциялары, машиналық оқыту (ML), Интернет заттары (IoT) қызметтері және өнімділігі жоғары есептеулер үшін пайдаланушылар AWS және NVIDIA пайдаланады. Масштабталатын өнімділікті Amazon EC2 даналарына қуат беретін NVIDIA графикалық процессорлары қамтамасыз етеді.
Сонымен қатар, NVIDIA негізіндегі шеткі құрылғыларды AWS бұлттық қызметтеріне қосу үшін AWS IoT Greengrass пайдаланыңыз.
Amazon EC2 P4d инстанциялары NVIDIA A100 Tensor Core графикалық процессорларымен жұмыс істейді, олар саладағы ең аз кешіктірілген желіні және ең жоғары өткізу қабілеттілігін қамтамасыз етеді.
Осыған ұқсас, Amazon EC2 P3, Amazon EC2 G4 және т.б. сияқты белгілі бір жағдайлар үшін қол жетімді басқа да әртүрлі инстанциялар бар.
Баға
Сіз тегін сынақ нұсқасына өтініш бере аласыз және оның бағасын білу үшін жеткізушіге хабарласыңыз.
4. Қағаз кеңістігі CORE
CORE — Paperspace жасаған толық басқарылатын бұлттық GPU платформасы, ол әртүрлі қолданбалар үшін қарапайым, үнемді және жеделдетілген есептеулерді қамтамасыз етеді.
Ұйымдастыру процестерін жылдамдату үшін Paperspace CORE ұсынған озық жеделдетілген есептеу инфрақұрылымын пайдаланыңыз. Mac, Linux және Windows жүйесіне арналған жылдам қосу, бірлескен құралдар және жұмыс үстелі қолданбалары үшін ол пайдаланушыға ыңғайлы және қарапайым интерфейсті ұсынады.
Оны шексіз көлемдегі өңдеу қуатымен талап етілетін бағдарламаларды орындау үшін пайдаланыңыз. CORE өте жылдам желіні, жылдам қамтамасыз етуді, 3D қолданбаларын қолдауды және бағдарламалық қатынас үшін толық API ұсынады.
Пайдалануға оңай және интуитивті графикалық интерфейс арқылы бір жерде инфрақұрылымыңыздың толық суретін алыңыз.
Оған қоса, қуатты құралдарды ұсынатын және машиналарды, желілерді және пайдаланушыларды сүзуге, сұрыптауға, қосуға немесе жасауға мүмкіндік беретін CORE басқару интерфейсі арқасында тамаша басқаруға ие болыңыз.
Баға
Арнайы M0.45 графикалық процессоры үшін баға сағатына $4000 басталады.
5. Alibaba Elastic GPU қызметі
Alibaba Elastic GPU Service (EGS) параллель және қуатты өңдеу мүмкіндіктерін жеткізу үшін GPU технологиясын пайдаланады. Ол үшін көптеген қолданбалар, соның ішінде бейне өңдеу, визуализация, ғылыми есептеулер және терең оқыту өте қолайлы.
EGS бірқатар графикалық процессорларды пайдаланады, соның ішінде AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 және NVIDIA Tesla P100.
Сіз артықшылықтарға қол жеткізе аласыз, соның ішінде онлайн терең оқыту бойынша қорытынды қызметтер мен оқыту, мазмұнды анықтау, сурет пен дауысты тану, HD медиа кодтау, бейне конференция, бастапқы фильмді қалпына келтіру және 4K/8K HD тікелей.
Бейне көрсету, есептеу қаржысы, климатты болжау, соқтығысты модельдеу, гендік инженерия, сызықты емес өңдеу, қашықтықтан білім беру қолданбалары және инженерлік дизайн сияқты баламаларды алыңыз.
Баға
Ол тегін сынақ нұсқасын және пайдаланған сайын төлейтін жазылым жоспарын ұсынады, яғни сіз тек қандай даналарды немесе GPU қолданатыныңызды білдіреді.
6. Жаратылыс бұлты
Genesis Cloud жоғары үнемді бұлттық GPU платформасын ұсынады. Олар кең ауқымды қолданбаларды қамтамасыз ету үшін бүкіл әлем бойынша бірнеше тиімді деректер орталықтарымен серіктестікте жұмыс істейді.
Genesis Cloud қосымша ақысыз пайдалы мүмкіндіктердің кең ауқымын қамтамасыз етеді, соның ішінде жұмыстың сақтық көшірмесін жасауға арналған суреттер, желі трафигі үшін қауіпсіздік топтары, үлкен деректер жинақтары үшін сақтау көлемдері, FastAI, PyTorch, алдын ала орнатылған суреттер және жалпыға қолжетімді TensorFlow API.
Олар бұлттық GPU даналарында NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti және GTX 1080 Ti технологияларының көмегімен есептеуді жылдамдатады.
Анимациялық фильмдер шығару немесе жаттығу үшін графикалық процессорды есептеу мүмкіндігін пайдалануға болады нейрондық желілер.
Баға
NVIDIA® GeForce™ RTX 1.30 бағасы сағатына $3090-дан басталады.
7. Google Cloud GPU
Google Cloud Platform (GCP) машиналық оқыту, терең оқыту және өнімділігі жоғары есептеулер (HPC) сияқты процестерді жылдамдату үшін пайдалануға болатын бірнеше GPU даналарын ұсынады.
NVIDIA, AMD және Intel GPU қолдайтын осы GPU даналары арқылы GPU жеделдетілген есептеулер үшін жиі қолданылатын CUDA және cuDNN кітапханаларына қол жеткізуге болады.
Машина модификациялары, икемді баға және GPU мүмкіндіктерінің кең ауқымы арқасында HPC өнімдірек болуы мүмкін.
Сонымен қатар, бұл сіздің жұмыс жүктемеңізді жеңілдетуге көмектеседі. Олар ұсынатын GPU арасында NVIDIA K80, P4, V100, A100, T4 және P100 бар. GPU құрылғыларына әр түрлі жерлерге бөлінген аймақтардың аз ғана саны қол жеткізе алады.
Баға
Құны аймаққа, сіз таңдаған графикалық процессорға және құрылғы түріне байланысты өзгереді. NVIDIA A100 үшін баға бір GPU үшін 3.93 доллардан басталады.
8. NVIDIA GPU бұлты
NVIDIA GPU Cloud (NGC) бұлтқа негізделген платформа болып табылады, ол пайдаланушыларға визуализация құралдары, HPC бағдарламалары және сияқты GPU жылдамдатылған бағдарламалық қамтамасыз етудің әртүрлі түрлеріне қол жеткізуге мүмкіндік береді. терең білім алу шеңберлер.
Әзірлеушілер, деректер ғалымдары, және зерттеушілер енді NGC арқасында өз қолданбаларын пайдалану үшін қажетті инфрақұрылым немесе жөндеу туралы алаңдамай NVIDIA GPU компьютерлерінің есептеу қуатын бұлтта оңай пайдалана алады.
Алдын ала конфигурацияланған бағдарламалық жасақтама контейнерлерінің кітапханасы NGC құрамына кіреді және оны бірнеше жерде жылдам орналастыруға болады. бұлтты есептеу инфрақұрылымдар, соның ішінде Amazon Web Services, Google Cloud Platform және Microsoft Azure.
NGC қол жеткізу сонымен қатар пайдаланушыларға NVIDIA терең оқыту платформасына қол жеткізуге мүмкіндік береді, ол TensorRT, cuDNN және CUDA-X AI қоса, терең оқыту үлгілерін жасауға және енгізуге арналған бірқатар бағдарламалар мен ресурстармен бірге келеді.
Баға
Сіз пайдаланатын арнайы қызметтер мен ресурстарға байланысты NVIDIA GPU Cloud (NGC) бағасы өзгереді. Кейбір NGC қызметтері, мысалы, тереңдетіп оқыту бағдарламалық құралын пайдалану тегін болғанымен, HPC қолданбасы контейнерлері сияқты басқалары ақы алуы мүмкін. NGC каталогын қараңыз.
9. Lambda GPU бұлты
Lambda бір физикалық компьютерден көптеген виртуалды машиналарға дейін терең үйрену үлгісін оқыту және масштабтауға арналған бұлттық GPU даналарын ұсынады.
Бақылау тақтасынан әр машинаның мамандандырылғанына дереу қол жеткізіңіз Jupyter Notebook бағдарламалау ортасы. Тікелей қол жеткізу үшін SSH пернелерінің бірімен тікелей SSH пайдаланыңыз немесе бұлттық бақылау тақтасындағы веб-терминал арқылы қосылыңыз.
Әр данада ең көбі 10 Гбит/с түйін аралық қосылымға қолдау көрсетіледі, бұл Horovod сияқты фреймворктерді пайдаланып бөлінген оқытуға мүмкіндік береді.
Бір немесе бірнеше данада GPU санын ұлғайту үлгіні оңтайландыруды жылдамдатуға көмектеседі. Платформа NVIDIA RTX 6000, Quadro RTX 6000 және Tesla V100s GPU даналарын қолдайды.
Баға
NVIDIA A1.10 үшін баға сағатына $100 басталады.
10. IBM Cloud GPU
IBM Cloud GPU икемді серверді таңдау процедураларын және IBM бұлттық архитектурасы, API интерфейстері және қолданбаларымен біркелкі қосылымды ұсыну үшін деректер орталықтарының жаһандық дисперсті желісін пайдаланады.
Intel Xeon 4210, Xeon 5218 және Xeon 6248 GPU даналарымен ол жалаң металл серверінің GPU опциясын ұсынады.
Сіз жергілікті графикалық процессорлар сияқты жалаң металл даналарды пайдалана отырып, өнімділігі жоғары, кідіріске сезімтал, мамандандырылған және әдеттегі жұмыс жүктемелерін тікелей серверлік жабдықта орындай аласыз.
Жалаңаш металл сервер опциясы үшін олар NVIDIA T4 GPU және 40 ядроға дейін Intel Xeon процессорлары бар даналарды, сондай-ақ NVIDIA V100 және P100 үлгілері бар виртуалды сервер баламаларының даналарын ұсынады.
Баға
Intel Xeon514 үшін баға айына $4110 басталады.
қорытынды
Ақырында, AI үшін ең жақсы бұлттық GPU қызметтері күшті GPU ресурстарын, бейімделетін баға таңдауларын және қарапайым масштабтауды ұсынатын қызметтер болып табылады.
AI жұмыс жүктемелері үшін GPU даналарын ұсынатын барлық компаниялардың (AWS, NVIDIA, IBM және GCP) өнімділігі мен функционалдығы бойынша тамаша өнім желілері бар.
Ең жақсы нұсқа сайып келгенде бірегей талаптарыңызбен, қаржылық шектеулеріңізбен, бар инфрақұрылыммен және жеткізушінің қалауымен анықталады.
пікір қалдыру