Терең үйрөнүү, AI жана машина үйрөнүү сыяктуу жаңы технологиялар пайда болгондон кийин булуттагы GPU'лар чоң суроо-талапка ээ.
GPU (Graphics Processing Units) - бул компьютердик графика жана оюн сыяктуу иш-аракеттер үчүн зарыл болгон чоң маалымат топтомун жана татаал эсептөөлөрдү иштетүү үчүн жасалган атайын процессорлор. Алар азыр талаа үчүн чечүүчү болуп саналат Жасалма интеллект (AI) ошондой болсо да, акыркы убакта.
Салттуу процессорлор (Борбордук иштетүү бирдиктери) суроо-талапты канааттандыра албайт, анткени AI моделдери окутуу жана иштетүү үчүн бир топ эсептөө күчүн талап кылат.
Башка жагынан алганда, алар параллелдүү иштетүүнү колдоо үчүн курулгандыктан, GPU'лар AI операциялары үчүн зарыл болгон маалыматтардын чоң көлөмүн жана татаал эсептөөлөрдү башкарууда натыйжалуураак.
Эгер сиз технологияда болсоңуз, булут GPU кызматтары жөнүндө уккан болушуңуз керек. ээрчибей тургандар үчүн.
Колдонуучуларга күчтүү GPU ресурстарына онлайн мүмкүнчүлүк берген булутка негизделген кызмат AI үчүн булут GPU кызматы катары белгилүү. Өзүнүн GPU жабдыктарын сатып алуунун жана тейлөөнүн ордуна, бул кызматтар кардарларга GPU ресурстарын керектүү учурда ижарага алууга мүмкүнчүлүк берет.
Бул адамдар жана уюмдар үчүн GPU'нун иштетүү жөндөмдүүлүгүн олуттуу баштапкы инвестициясыз же үзгүлтүксүз тейлөө акысын төлөбөстөн колдонууга мүмкүндүк берет.
AI үчүн булуттагы GPU кызматтарынын көпчүлүгү GPU тандоолорунун кеңири түрүн, анын ичинде бир нече моделдерди жана конфигурацияларды жана зарылчылыкка жараша масштабды көбөйтүү же азайтуу үчүн ийкемдүүлүктү камсыз кылат. Эми бул кызматтын аркасында алардын уникалдуу талаптары жана долбоорлору үчүн идеалдуу GPU ресурстарын тандай аласыз.
Кошумчалай кетсек, кызматтар көп учурда кардарларга AI долбоорлоруна жардам берүү үчүн тармактык, сактоо жана программалык куралдарды камтыган башка мүмкүнчүлүктөр менен келет. Бул постто биз AI үчүн эң мыкты булут GPU кызматтарын карап чыгабыз.
1. Linode
Linode видео иштетүү, илимий эсептөө, машина үйрөнүү, жасалма интеллект жана башкалар.
Ал NVIDIA Quadro RTX 6000, Tensor жана RT өзөктөрүндө иштеген GPU үчүн оптималдаштырылган виртуалдык машиналарды (VM) камсыз кылат жана бул үчүн CUDA мүмкүнчүлүгүн колдонот. терең билим алуу, нурлануу иш жүгү жана татаал эсептөөлөр.
Капиталдык чыгымдарыңызды операциялык чыгашага айландыруу менен, сиз Linode GPU'нун GPU мүмкүнчүлүгүн жана булуттун чыныгы баасын колдоно аласыз.
Кошумчалай кетсек, Linode сизди жабдыктар жөнүндө тынчсыздануудан бошотот, андыктан сиз эң күчтүү жөндөмдөрүңүзгө көңүл бура аласыз.
Linode GPU'лары менен азыр аларды видео агым, жасалма интеллект жана машина үйрөнүү сыяктуу татаал колдонмолор үчүн колдонууга болот.
Мындан тышкары, күтүлгөн жүктөмдөр үчүн талап кылынган иштетүү кубаттуулугунун көлөмүнө жараша ар бир инстанция үчүн 4 картага чейин ала аласыз.
баа
Баасы атайын RTX1.5 GPU планы үчүн саатына 6000 доллардан башталат. Linode менен бекер баштаңыз.
2. Кеңири AI
Vast AI - бул дүйнөлүк базар, анда колдонуучулар жогорку өндүрүмдүүлүктөгү эсептөөдө колдонуу үчүн арзан GPUларды ижарага алышат.
Алар хостторго GPU жабдыктарын ижарага берүү аркылуу эсептөөчү оор иштердин баасын төмөндөтүп, колдонуучуларга өздөрүнүн муктаждыктарына ылайык эсептөө үчүн эң арзан бааларды табуу жана буйруктарды аткаруу же SSH байланыштарын ишке киргизүү үчүн онлайн издөө куралын колдонууга мүмкүнчүлүк берет.
Алар SSH инстанцияларын, Jupyter инстанцияларын Jupyter GUI менен же командалык гана инстанцияларды камсыздайт жана түз өзгөчөлүктөргө ээ. колдонуучу.
Терең үйрөнүү тапшырмасынын болжолдуу аткарылышын болжолдоочу терең үйрөнүү функциясы (DLPerf) да камсыздалган.
Vast AI колдонгон системалар Ubuntu негизделген жана алыскы иш такталарын сунуштабайт. Алар ошондой эле хост тарабынан белгиленген белгилүү бир акы үчүн талап боюнча жеткиликтүү болгон учурларды иштетишет.
баа
Баасы 0.80x RTX A4 үчүн $6000/сааттан башталат.
3. AWS & NVIDIA
AWS жана NVIDIA биргелешип ырааттуу GPU негизиндеги чечимдерди жеткирип турушат, алар арзан, ийкемдүү жана күчтүү.
Ал NVIDIA GPU менен иштеген Amazon EC2 инстанцияларын жана NVIDIA Jetson Nano модулдары менен орнотулган AWS IoT Greengrass сыяктуу кызматтарды камтыйт.
Виртуалдык иш станциялары, машинаны үйрөнүү (ML), нерселердин интернети (IoT) кызматтары жана жогорку өндүрүмдүү эсептөөлөр үчүн колдонуучулар AWS жана NVIDIA колдонушат. Масштабдуу аткарууну Amazon EC2 инстанцияларын иштеткен NVIDIA GPUлары камсыз кылат.
Андан тышкары, NVIDIA негизиндеги четки түзмөктөрдү AWS булут кызматтарына туташтыруу үчүн AWS IoT Greengrass колдонуңуз.
Amazon EC2 P4d инстанциялары NVIDIA A100 Tensor Core GPU'лары менен кубатталган, алар тармактын эң төмөнкү кечигүү убактысын жана эң жогорку өткөрүү жөндөмдүүлүгүн камсыз кылат.
Ушуга окшош, белгилүү бир жагдайлар үчүн жеткиликтүү башка ар кандай инстанциялар бар, мисалы, Amazon EC2 P3, Amazon EC2 G4, ж.б.
баа
Сиз акысыз сыноо үчүн кайрыла аласыз жана анын баасын билүү үчүн сатуучу менен байланышыңыз.
4. Paperspace CORE
CORE – бул Paperspace тарабынан түзүлгөн, ар кандай тиркемелер үчүн түз, үнөмдүү жана тездетилген эсептөөнү камсыз кылган толук башкарылуучу булут GPU платформасы.
Уюштуруу процесстерин тездетүү үчүн Paperspace CORE тарабынан берилген эң алдыңкы тездетилген эсептөө инфраструктурасын колдонуңуз. Mac, Linux жана Windows үчүн тез иштөө, биргелешкен куралдар жана рабочий тиркемелер үчүн, ал колдонуучуга ыңгайлуу жана жөнөкөй интерфейсти сунуштайт.
Аны чексиз кубаттуулукта талап кылынган программаларды аткаруу үчүн колдонуңуз. CORE супер-тез тармакты, тез камсыздоону, 3D колдонмолорун колдоону жана программалык жетүү үчүн толук API сунуштайт.
Колдонууга оңой жана интуитивдик GUI менен бир жерде инфраструктураңыздын толук сүрөтүн алыңыз.
Кошумчалай кетсек, күчтүү куралдарды сунуш кылган жана машиналарды, тармактарды жана колдонуучуларды чыпкалоого, сорттоого, туташтырууга же түзүүгө мүмкүндүк берүүчү CORE башкаруу интерфейсинин аркасында мыкты башкарууга ээ болуңуз.
баа
Баасы атайын M0.45 GPU үчүн $4000/сааттан башталат.
5. Alibaba Elastic GPU кызматы
Alibaba Elastic GPU кызматы (EGS) параллелдүү жана күчтүү иштетүү мүмкүнчүлүктөрүн жеткирүү үчүн GPU технологиясын колдонот. Көптөгөн тиркемелер, анын ичинде видео иштетүү, визуализация, илимий эсептөө жана терең үйрөнүү, ага ылайыктуу.
EGS бир катар GPUларды колдонот, анын ичинде AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 жана NVIDIA Tesla P100.
Сиз онлайн, анын ичинде артыкчылыктарга жете аласыз терең үйрөнүү тыянак кызматтары жана окутуу, мазмунду аныктоо, сүрөт жана үн таануу, HD медиа коддоо, видео конференция, булак тасмасын калыбына келтирүү жана 4K/8K HD түз.
Видео көрсөтүү, эсептөө каржылоосу, климатты болжолдоо, кагылышууларды симуляциялоо, генетикалык инженерия, сызыктуу эмес редакциялоо, аралыктан билим берүү колдонмолору жана инженердик дизайн сыяктуу альтернативаларды алыңыз.
баа
Ал акысыз сыноону сунуштайт жана жазылуу планын, сиз колдонгон инстанцияларды же GPUларды гана билдирет.
6. Башталыш Cloud
Genesis Cloud жогорку үнөмдүү булут GPU платформасын сунуш кылат. Алар ар кандай тиркемелерди камсыз кылуу үчүн дүйнө жүзү боюнча бир нече натыйжалуу маалымат борборлору менен кызматташууда.
Genesis Cloud пайдалуу функциялардын кеңири спектрин кошумча акысыз камсыз кылат, анын ичинде жумушуңуздун камдык көчүрмөсүн сактоо үчүн көз ирмемдик сүрөттөр, тармак трафиги үчүн коопсуздук топтору, чоң маалымат топтомдору үчүн сактоо көлөмү, FastAI, PyTorch, алдын ала коюлган сүрөттөр жана коомдук TensorFlow API.
Алар булуттагы GPU инстанцияларында NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti жана GTX 1080 Ti технологияларынын жардамы менен эсептөөнү ылдамдатат.
Сиз GPU эсептөө күчүн анимациялык тасмаларды чыгаруу же поезд үчүн колдоно аласыз нейрон тармактары.
баа
NVIDIA® GeForce™ RTX 1.30 үчүн баасы саатына 3090 доллардан башталат.
7. Google Cloud GPU
Google Cloud Platform (GCP) машина үйрөнүү, терең үйрөнүү жана жогорку өндүрүмдүүлүктөгү эсептөө (HPC) сыяктуу процесстерди ылдамдатуу үчүн колдонула турган бир катар GPU инстанцияларын сунуштайт.
NVIDIA, AMD жана Intel GPUлары тарабынан колдоого алынган бул GPU инстанциялары аркылуу GPU тездетилген эсептөөлөр үчүн көп колдонулган CUDA жана cuDNN китепканаларына кирүү мүмкүн.
Машинанын модификацияларынын, ийкемдүү баанын жана GPU мүмкүнчүлүктөрүнүн чоң диапазонунан улам, HPC жемиштүү болушу мүмкүн.
Мындан тышкары, бул сиздин жумушуңузду жеңилдетүүгө жардам берет. Алар берген GPUлардын арасында NVIDIA K80, P4, V100, A100, T4 жана P100 бар. GPU'ларга ар кайсы жерлерге тараган аз гана зоналар кире алышат.
баа
Наркы аймакка, сиз тандаган GPUга жана машинанын түрүнө жараша өзгөрөт. NVIDIA A100 үчүн баалар GPU үчүн 3.93 доллардан башталат.
8. NVIDIA GPU Булут
NVIDIA GPU Cloud (NGC) булутка негизделген платформа, ал колдонуучуларга визуализация куралдары, HPC программалары жана GPU тездетилген ар кандай программалык камсыздоого мүмкүнчүлүк берет. терең билим алуу алкактар.
Иштеп чыгуучулар, маалымат илимпоздору, жана изилдөөчүлөр эми NGC аркасында алардын колдонмолорун иштетүү үчүн зарыл болгон инфраструктура же тейлөө жөнүндө кабатырланбастан, булуттагы NVIDIA GPUлардын эсептөө күчүн оңой колдоно алышат.
Алдын ала конфигурацияланган программалык контейнерлердин китепканасы NGC менен камтылган жана аны тез арада бир нече жерге жайгаштырууга болот. булут эсептөө инфраструктуралар, анын ичинде Amazon Web Services, Google Cloud Platform жана Microsoft Azure.
NGCге кирүү колдонуучуларга NVIDIAнын терең үйрөнүү платформасына мүмкүнчүлүк берет, ал терең үйрөнүү моделдерин түзүү жана ишке ашыруу үчүн бир катар программалар жана ресурстар менен коштолот, анын ичинде TensorRT, cuDNN жана CUDA-X AI.
баа
Сиз колдонгон конкреттүү кызматтарга жана ресурстарга жараша NVIDIA GPU Булутунун (NGC) баасы өзгөрөт. Терең үйрөнүү программалык стек сыяктуу айрым NGC кызматтарын колдонуу акысыз болгону менен, HPC тиркеме контейнерлери сыяктуу башкалары бааны талап кылышы мүмкүн. Сураныч, NGC каталогуна кайрылыңыз.
9. Lambda GPU Cloud
Lambda бир физикалык компьютерден көптөгөн виртуалдык машиналарга чейин терең үйрөнүү моделин окутуу жана масштабдоо үчүн булут GPU инстанцияларын камсыз кылат.
Куралдар тактасынан дароо ар бир машинанын адистештирилгенине кириңиз Jupyter дептери программалоо чөйрөсү. Түздөн-түз жетүү үчүн, SSH ачкычтарынын бири менен түздөн-түз SSH колдонуңуз же булут панелиндеги Веб Терминал аркылуу туташыңыз.
Ар бир инстанцияда эң көп дегенде 10 Гбит/сек түйүн аралык байланыш колдоого алынат, бул Horovod сыяктуу алкактарды колдонуу менен бөлүштүрүлгөн окутууга мүмкүндүк берет.
Бир же бир нече инстанцияларда GPU санын көбөйтүү моделди оптималдаштырууну тездетүүгө жардам берет. Платформа NVIDIA RTX 6000, Quadro RTX 6000 жана Tesla V100s GPU инстанцияларын колдойт.
баа
Баасы NVIDIA A1.10 үчүн саатына 100 доллардан башталат.
10. IBM Cloud GPU
IBM Cloud GPU ийкемдүү сервер тандоо процедураларын жана IBM булут архитектурасы, API'лери жана тиркемелери менен жылмакай байланышты сунуштоо үчүн маалымат борборлорунун глобалдык дисперстүү тармагын колдонот.
Intel Xeon 4210, Xeon 5218 жана Xeon 6248 GPU инстанциялары менен, ал жылаңач металл Server GPU опциясын сунуш кылат.
Сиз жогорку өндүрүмдүүлүктөгү, күтүү мөөнөтүн сезгич, адистештирилген жана кадимки иш жүктөмдөрүн түздөн-түз сервердик жабдыкта, жергиликтүү GPU'лар сыяктуу эле, жылаңач металл инстанцияларын колдонуп аткара аласыз.
Алардын жылаңач металл сервер опциясы үчүн, алар NVIDIA T4 GPU жана 40 ядрого чейин Intel Xeon процессорлору, ошондой эле NVIDIA V100 жана P100 моделдери менен виртуалдык сервер альтернативалары үчүн инстанцияларды беришет.
баа
Intel Xeon514 үчүн баасы айына 4110 доллардан башталат.
жыйынтыктоо
Акыр-аягы, AI үчүн эң мыкты булут GPU кызматтары күчтүү GPU ресурстарын, ийкемдүү баа тандоолорун жана жөнөкөй масштабды сунуш кылган кызматтар.
AI жумушчу жүктөмдөрү үчүн GPU үлгүлөрүн камсыз кылган бардык компаниялардын - AWS, NVIDIA, IBM жана GCP - өндүрүмдүүлүк жана функционалдуулук жагынан мыкты продукт линияларына ээ.
Эң жакшы вариант сиздин уникалдуу талаптарыңыз, каржылык чектөөлөрүңүз, инфраструктураңыз жана сатуучунун артыкчылыктары менен аныкталат.
Таштап Жооп