Воблачныя графічныя працэсары карыстаюцца вялікім попытам, паколькі з'яўляюцца новыя тэхналогіі, такія як глыбокае навучанне, штучны інтэлект і машыннае навучанне.
Графічныя працэсары (блокі апрацоўкі графікі) - гэта спецыялізаваныя працэсары, створаныя для апрацоўкі велізарных набораў даных і складаных вылічэнняў, неабходных для такіх дзеянняў, як камп'ютэрная графіка і гульні. Яны зараз маюць вырашальнае значэнне для вобласці штучны інтэлект (AI) таксама, праўда, у апошні час.
Традыцыйныя працэсары (цэнтральныя працэсары) не ў стане задаволіць попыт, паколькі мадэлі AI патрабуюць значнай колькасці вылічальнай магутнасці для навучання і працы.
З іншага боку, паколькі яны створаны для падтрымкі паралельнай апрацоўкі, графічныя працэсары больш эфектыўныя ў кіраванні велізарнымі аб'ёмамі даных і складанымі вылічэннямі, неабходнымі для аперацый штучнага інтэлекту.
Калі вы займаецеся тэхналогіямі, вы напэўна чулі пра воблачныя сэрвісы GPU. Для тых, хто не пойдзе за намі.
Воблачны сэрвіс, які дае карыстальнікам анлайн-доступ да магутных рэсурсаў GPU, вядомы як воблачны сэрвіс GPU для штучнага інтэлекту. Замест таго, каб купляць і абслугоўваць уласнае абсталяванне GPU, гэтыя паслугі дазваляюць кліентам арандаваць рэсурсы GPU па меры неабходнасці.
Гэта робіць магчымым для людзей і арганізацый выкарыстоўваць вылічальныя магчымасці графічных працэсараў без неабходнасці рабіць значныя першапачатковыя інвестыцыі або плаціць плату за пастаяннае абслугоўванне.
Большасць воблачных сэрвісаў графічных працэсараў для штучнага інтэлекту забяспечваюць шырокі выбар варыянтаў графічных працэсараў, уключаючы некалькі мадэляў і канфігурацый, а таксама гібкасць для павелічэння або памяншэння маштабу пры неабходнасці. Цяпер вы можаце выбраць ідэальныя рэсурсы графічных працэсараў для іх унікальных патрабаванняў і праектаў дзякуючы гэтаму сэрвісу.
Акрамя таго, паслугі часта пастаўляюцца з іншымі магчымасцямі, уключаючы сеткавыя прылады, сховішча і праграмныя інструменты, якія дапамагаюць кліентам у іх праектах штучнага інтэлекту. У гэтай публікацыі мы разгледзім лепшыя воблачныя сэрвісы GPU для штучнага інтэлекту.
1. Linode
Linode прапануе графічныя працэсары па патрабаванні для такіх працоўных нагрузак, як апрацоўка відэа, навуковыя вылічэнні, навучанне з дапамогай машыны, штучны інтэлект і іншыя.
Ён забяспечвае аптымізаваныя для GPU віртуальныя машыны (ВМ), якія працуюць на ядрах NVIDIA Quadro RTX 6000, Tensor і RT і выкарыстоўваюць магчымасці CUDA для выканання глыбокае вывучэнне, нагрузкі па трасіроўцы прамянёў і складаныя разлікі.
Ператварыўшы свае капітальныя выдаткі ў аперацыйныя выдаткі, вы можаце выкарыстоўваць магчымасці GPU Linode GPU і рэальную каштоўнасць воблака.
Акрамя таго, Linode вызваляе вас ад неабходнасці турбавацца аб апаратным забеспячэнні, так што вы можаце сканцэнтравацца на сваіх самых моцных навыках.
З графічнымі працэсарамі Linode цяпер можна выкарыстоўваць іх для такіх складаных прыкладанняў, як струменевае відэа, штучны інтэлект і машыннае навучанне.
Акрамя таго, у залежнасці ад колькасці вылічальнай магутнасці, неабходнай для чаканых нагрузак, вы можаце атрымаць да 4 карт для кожнага асобніка.
Цэннiк
Цэны пачынаюцца ад 1.5 долараў за гадзіну для спецыяльнага плана GPU RTX6000. Пачніце з Linode бясплатна.
2. Шырокі AI
Vast AI - гэта глабальны рынак, дзе карыстальнікі могуць арандаваць недарагія графічныя працэсары для выкарыстання ў высокапрадукцыйных вылічэннях.
Яны зніжаюць кошт цяжкіх вылічальных задач, дазваляючы хастам здаваць у арэнду сваё абсталяванне графічнага працэсара, дазваляючы карыстальнікам выкарыстоўваць свой інструмент пошуку ў Інтэрнэце, каб знайсці самыя танныя цэны на вылічэнні ў адпаведнасці са сваімі патрэбамі і выконваць каманды або запускаць злучэнні SSH.
Яны забяспечваюць экзэмпляры SSH, экзэмпляры Jupyter з графічным інтэрфейсам Jupyter або асобнікі толькі з камандай і адрозніваюцца простай інтэрфейс карыстальніка.
Таксама прадугледжана функцыя прадукцыйнасці глыбокага навучання (DLPerf), якая прагназуе прыблізную прадукцыйнасць задачы глыбокага навучання.
Сістэмы, якія выкарыстоўвае Vast AI, заснаваныя на Ubuntu і не прапануюць аддаленых працоўных сталоў. Яны таксама кіруюць асобнікамі, якія даступныя па запыце за пэўную плату, устаноўленую хостам.
Цэннiк
Цэны пачынаюцца з 0.80 долараў за гадзіну за 4x RTX A6000.
3. AWS і NVIDIA
Разам AWS і NVIDIA паслядоўна пастаўляюць рашэнні на аснове GPU, якія з'яўляюцца даступнымі, адаптаванымі і магутнымі.
Ён уключае ў сябе асобнікі Amazon EC2 з графічным працэсарам NVIDIA і такія сэрвісы, як AWS IoT Greengrass, які ўсталёўваецца з модулямі NVIDIA Jetson Nano.
Для віртуальных працоўных станцый, машыннага навучання (ML), паслуг Інтэрнэту рэчаў (IoT) і высокапрадукцыйных вылічэнняў карыстальнікі выкарыстоўваюць AWS і NVIDIA. Маштабуемая прадукцыйнасць забяспечваецца графічнымі працэсарамі NVIDIA, якія працуюць на асобніках Amazon EC2.
Акрамя таго, выкарыстоўвайце AWS IoT Greengrass для падлучэння краявых прылад на базе NVIDIA да воблачных сэрвісаў AWS.
Экземпляры Amazon EC2 P4d працуюць на аснове графічных працэсараў NVIDIA A100 Tensor Core, якія забяспечваюць самую нізкую затрымку ў сетцы і самую высокую прапускную здольнасць.
Падобна гэтаму, для пэўных абставінаў даступныя іншыя асобнікі, такія як Amazon EC2 P3, Amazon EC2 G4 і г.д.
Цэннiк
Вы можаце падаць заяўку на бясплатную пробную версію і звязацца з пастаўшчыком, каб даведацца пра цэны.
4. Paperspace CORE
CORE - гэта цалкам кіраваная воблачная платформа GPU, створаная Paperspace, якая забяспечвае простыя, эканамічна эфектыўныя і паскораныя вылічэнні для розных прыкладанняў.
Выкарыстоўвайце перадавую паскораную вылічальную інфраструктуру, прадстаўленую Paperspace CORE, каб паскорыць арганізацыйныя працэсы. Для хуткай адаптацыі, інструментаў для сумеснай працы і настольных праграм для Mac, Linux і Windows ён прапануе зручны і нескладаны інтэрфейс.
Выкарыстоўвайце яго для выканання патрабавальных праграм з бясконцай колькасцю вылічальнай магутнасці. CORE прапануе звышхуткую сетку, хуткую падрыхтоўку, падтрымку 3D-прыкладанняў і поўны API для праграмнага доступу.
З простым у выкарыстанні і інтуітыўна зразумелым графічным інтэрфейсам вы атрымаеце поўную карціну вашай інфраструктуры ў адным месцы.
Акрамя таго, атрымайце выдатны кантроль дзякуючы інтэрфейсу адміністравання CORE, які прапануе магутныя інструменты і дазваляе фільтраваць, сартаваць, падключаць або ствараць машыны, сеткі і карыстальнікаў.
Цэннiк
Цэны пачынаюцца ад 0.45 долараў ЗША за гадзіну за спецыяльны графічны працэсар M4000.
5. Сэрвіс Alibaba Elastic GPU
Alibaba Elastic GPU Service (EGS) выкарыстоўвае тэхналогію GPU для забеспячэння паралельных і магутных магчымасцей апрацоўкі. Многія прыкладанні, уключаючы апрацоўку відэа, візуалізацыю, навуковыя вылічэнні і глыбокае навучанне, добра падыходзяць для гэтага.
EGS выкарыстоўвае шэраг графічных працэсараў, у тым ліку AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 і NVIDIA Tesla P100.
Вы атрымаеце доступ да пераваг, у тым ліку онлайн паслугі вываду і навучанне глыбокага навучання, ідэнтыфікацыя змесціва, распазнаванне выявы і голасу, кадаванне HD-мультымедыя, відэаканферэнцыі, аднаўленне зыходнага фільма і 4K/8K HD у прамым эфіры.
Таксама атрымайце такія альтэрнатывы, як рэндэрынг відэа, вылічальнае фінансаванне, прагназаванне клімату, мадэляванне сутыкненняў, генная інжынерыя, нелінейнае рэдагаванне, праграмы дыстанцыйнай адукацыі і інжынернае праектаванне.
Цэннiк
Ён прапануе бясплатную пробную версію і план падпіскі з аплатай па меры выкарыстання, што азначае, што вы карыстаецеся толькі тымі экземплярамі або графічнымі працэсарамі.
6. Воблака Быцця
Genesis Cloud прапануе вельмі рэнтабельную воблачную платформу GPU. Яны працуюць у партнёрстве з некалькімі эфектыўнымі цэнтрамі апрацоўкі дадзеных па ўсім свеце, каб забяспечыць шырокі спектр прыкладанняў.
Genesis Cloud забяспечвае шырокі спектр карысных функцый без дадатковых выдаткаў, уключаючы здымкі для рэзервовага капіравання вашай працы, групы бяспекі для сеткавага трафіку, аб'ёмы захоўвання для вялікіх набораў даных, FastAI, PyTorch, прадусталяваныя выявы і агульнадаступны API TensorFlow.
Яны паскараюць вылічэнні з дапамогай тэхналогій NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti і GTX 1080 Ti у сваіх воблачных экземплярах GPU.
Вы можаце выкарыстоўваць магутнасць GPU для стварэння анімацыйных фільмаў або цягнікоў нейронавыя сеткі.
Цэннiк
Кошт NVIDIA® GeForce™ RTX 1.30 пачынаецца ад 3090 долараў за гадзіну.
7. Графічны працэсар Google Cloud
Google Cloud Platform (GCP) прапануе шэраг асобнікаў GPU, якія можна выкарыстоўваць для паскарэння такіх працэсаў, як машыннае навучанне, глыбокае навучанне і высокапрадукцыйныя вылічэнні (HPC).
З дапамогай гэтых асобнікаў GPU, якія падтрымліваюцца графічнымі працэсарамі NVIDIA, AMD і Intel, можна атрымаць доступ да бібліятэк CUDA і cuDNN, якія часта выкарыстоўваюцца для вылічэнняў з паскораным GPU.
З-за мадыфікацый машыны, гнуткай цаны і шырокага дыяпазону магчымасцей GPU HPC можа быць больш прадукцыйным.
Акрамя таго, гэта можа дапамагчы вам палегчыць вашу працоўную нагрузку. Сярод графічных працэсараў, якія яны прадстаўляюць, NVIDIA K80, P4, V100, A100, T4 і P100. Толькі невялікая колькасць зон, раскіданых па розных месцах, мае доступ да графічных працэсараў.
Цэннiк
Кошт будзе адрознівацца ў залежнасці ад рэгіёна, графічнага працэсара, які вы выбіраеце, і тыпу машыны. Цэны на NVIDIA A100 пачынаюцца ад 3.93 долараў за графічны працэсар.
8. Воблака графічнага працэсара NVIDIA
NVIDIA GPU Cloud (NGC) - гэта воблачная платформа, якая дае карыстальнікам доступ да рознага праграмнага забеспячэння з паскораным графічным працэсарам, напрыклад да інструментаў візуалізацыі, праграм HPC і глыбокае вывучэнне рамкі
Распрацоўшчыкі, навукоўцы дадзеных, і цяпер даследчыкі могуць лёгка выкарыстоўваць вылічальную магутнасць графічных працэсараў NVIDIA ў воблаку, не клапоцячыся пра інфраструктуру або абслугоўванне, неабходныя для працы іх праграм дзякуючы NGC.
Бібліятэка папярэдне сканфігураваных праграмных кантэйнераў уключана ў NGC і можа быць хутка разгорнута на шэрагу хмарных вылічэнняў інфраструктуры, уключаючы Amazon Web Services, Google Cloud Platform і Microsoft Azure.
Доступ да NGC таксама дае карыстальнікам доступ да платформы глыбокага навучання NVIDIA, якая пастаўляецца з шэрагам праграм і рэсурсаў для стварэння і ўкаранення мадэляў глыбокага навучання, уключаючы TensorRT, cuDNN і CUDA-X AI.
Цэннiк
У залежнасці ад канкрэтных паслуг і рэсурсаў, якімі вы карыстаецеся, цана NVIDIA GPU Cloud (NGC) змяняецца. У той час як пэўныя паслугі NGC, такія як стэк праграмнага забеспячэння для глыбокага навучання, можна выкарыстоўваць бясплатна, іншыя, такія як кантэйнеры прыкладанняў HPC, могуць спаганяць плату. Калі ласка, звярніцеся да каталога NGC.
9. Воблака лямбда-графічнага працэсара
Lambda забяспечвае воблачныя асобнікі GPU для навучання мадэлі глыбокага навучання і маштабаванасці ад аднаго фізічнага кампутара да мноства віртуальных машын.
Ад прыборнай панэлі неадкладна атрымайце доступ да спецыялізаваных праграм кожнай машыны Jupyter наўтбукаў асяроддзе праграмавання. Для прамога доступу выкарыстоўвайце SSH непасрэдна з адным з ключоў SSH або падключыцеся праз вэб-тэрмінал на воблачнай прыборнай панэлі.
Кожны асобнік падтрымлівае максімум 10 Гбіт/с міжвузловага злучэння, што дазваляе размеркаванае навучанне з выкарыстаннем фрэймворкаў, такіх як Horovod.
Павелічэнне колькасці графічных працэсараў у адным або некалькіх экземплярах можа дапамагчы паскорыць аптымізацыю мадэлі. Платформа падтрымлівае асобнікі GPU ад NVIDIA RTX 6000, Quadro RTX 6000 і Tesla V100s.
Цэннiк
Кошт NVIDIA A1.10 пачынаецца з 100 долараў за гадзіну.
10. Графічны працэсар IBM Cloud
Графічны працэсар IBM Cloud выкарыстоўвае глабальна рассеяную сетку цэнтраў апрацоўкі дадзеных, каб прапанаваць гнуткія працэдуры выбару сервера і бесперабойнае падключэнне да воблачнай архітэктуры, API і прыкладанняў IBM.
З асобнікамі графічных працэсараў Intel Xeon 4210, Xeon 5218 і Xeon 6248 ён прапануе варыянт сервернага графічнага працэсара без металу.
Вы можаце выконваць высокапрадукцыйныя, адчувальныя да затрымкі, спецыялізаваныя і звычайныя працоўныя нагрузкі непасрэдна на серверным абсталяванні з выкарыстаннем голых металічных асобнікаў, гэтак жа, як яны маглі б з лакальнымі графічнымі працэсарамі.
Для свайго сервернага варыянту яны таксама прадастаўляюць асобнікі з графічнымі працэсарамі NVIDIA T4 і працэсарамі Intel Xeon з да 40 ядрамі, а таксама асобнікі для сваіх альтэрнатыў віртуальнага сервера з мадэлямі NVIDIA V100 і P100.
Цэннiк
Цэны на Intel Xeon514 пачынаюцца з 4110 долараў у месяц.
заключэнне
Нарэшце, найлепшыя воблачныя GPU-сэрвісы для штучнага інтэлекту - гэта тыя, якія прапануюць моцныя GPU-рэсурсы, адаптыўную цану і простае маштабаванне.
Усе кампаніі, якія прадастаўляюць асобнікі GPU для працоўных нагрузак штучнага інтэлекту — AWS, NVIDIA, IBM і GCP — маюць выдатныя лінейкі прадуктаў з пункту гледжання прадукцыйнасці і функцыянальнасці.
Найлепшы варыянт у канчатковым выніку вызначаецца вашымі унікальнымі патрабаваннямі, фінансавымі абмежаваннямі, ужо наяўнай інфраструктурай і перавагамі пастаўшчыка.
Пакінуць каментар