Гүнзгий суралцах, хиймэл оюун ухаан, машин сургалт зэрэг шинэ технологиуд гарч ирэхийн хэрээр Cloud GPU-ууд маш их эрэлт хэрэгцээтэй байгаа.
GPU (Graphics Processing Units) нь компьютерийн график, тоглоом зэрэг үйл ажиллагаанд шаардлагатай асар их өгөгдлийн багц, нарийн төвөгтэй тооцооллыг зохицуулах тусгай процессор юм. Тэд одоо энэ салбарт чухал үүрэг гүйцэтгэдэг хиймэл оюун (AI) ч гэсэн сүүлийн үед.
AI загваруудыг сургах, ажиллуулахад ихээхэн хэмжээний тооцоолох хүч шаардагддаг тул уламжлалт CPU (Төв боловсруулах нэгж) эрэлт хэрэгцээг хангах боломжгүй юм.
Нөгөөтэйгүүр, тэдгээр нь зэрэгцээ боловсруулалтыг дэмжих зорилгоор бүтээгдсэн тул GPU нь хиймэл оюун ухааны үйл ажиллагаанд шаардлагатай асар их хэмжээний өгөгдөл, нарийн тооцооллыг удирдахад илүү үр дүнтэй байдаг.
Хэрэв та технологийн чиглэлээр ажилладаг бол үүлэн GPU үйлчилгээний талаар сонссон байх ёстой. Дагахгүй хүмүүсийн хувьд.
Хэрэглэгчдэд хүчирхэг GPU нөөцөд онлайнаар хандах боломжийг олгодог үүлэнд суурилсан үйлчилгээг хиймэл оюун ухаанд зориулсан үүлэн GPU үйлчилгээ гэж нэрлэдэг. Эдгээр үйлчилгээнүүд нь GPU-ийн техник хангамжийг худалдан авч засвар үйлчилгээ хийх шаардлагагүйгээр хэрэглэгчдэд GPU нөөцийг шаардлагатай бол түрээслэх боломжийг олгодог.
Энэ нь хүмүүс болон байгууллагуудад их хэмжээний анхны хөрөнгө оруулалт хийх, байнгын засвар үйлчилгээний төлбөр төлөхгүйгээр GPU-ийн боловсруулах хүчин чадлыг ашиглах боломжтой болгодог.
AI-д зориулсан үүлэн GPU үйлчилгээнүүдийн дийлэнх нь хэд хэдэн загвар, тохиргоо, шаардлагатай бол өргөтгөх эсвэл багасгах уян хатан байдал зэрэг GPU-ийн өргөн сонголтуудыг санал болгодог. Та одоо энэ үйлчилгээний ачаар өөрийн өвөрмөц шаардлага, төсөлд тохирсон GPU нөөцийг сонгох боломжтой.
Нэмж дурдахад, үйлчилгээнүүд нь хэрэглэгчиддээ хиймэл оюун ухааны төслүүдэд туслах сүлжээ, хадгалалт, програм хангамжийн хэрэгслүүд зэрэг бусад чадамжтай байдаг. Энэ нийтлэлд бид хиймэл оюун ухаанд зориулсан шилдэг үүлэн GPU үйлчилгээг авч үзэх болно.
1. Linode
Linode нь видео боловсруулалт, шинжлэх ухааны тооцоолол гэх мэт ажлын ачаалалд зориулж GPU-г санал болгодог. машин суралцах, хиймэл оюун ухаан болон бусад.
Энэ нь NVIDIA Quadro RTX 6000, Tensor, RT цөмүүд дээр ажилладаг GPU-г оновчтой болгосон виртуал машинуудыг (VMs) хангадаг бөгөөд үүнийг хийхийн тулд CUDA чадварыг ашигладаг. гүн гүнзгий суралцах, туяа хянах ажлын ачаалал, нарийн төвөгтэй тооцоолол.
Хөрөнгө оруулалтын зардлаа үйл ажиллагааны зардал болгосноор та Linode GPU-ийн GPU чадвар болон үүлний бодит үнэ цэнийг ашиглах боломжтой.
Нэмж дурдахад, Linode нь таныг техник хангамжийн талаар санаа зовохоос чөлөөлж, ингэснээр та хамгийн хүчирхэг чадвар дээрээ анхаарлаа төвлөрүүлэх боломжтой.
Linode GPU-ийн тусламжтайгаар тэдгээрийг видео дамжуулалт, хиймэл оюун ухаан, машин сурах зэрэг нарийн төвөгтэй програмуудад ашиглах боломжтой болсон.
Нэмж дурдахад, хүлээгдэж буй ажлын ачаалалд шаардагдах боловсруулах хүчин чадлын хэмжээнээс хамааран та инстанц бүрт 4 хүртэлх карт хүлээн авах боломжтой.
үнийн
Зориулалтын RTX1.5 GPU төлөвлөгөөний үнэ нь цагт 6000 доллараас эхэлдэг. Linode-г үнэгүй ашиглаж эхлээрэй.
2. Асар том AI
Өргөн уудам хиймэл оюун ухаан бол хэрэглэгчид өндөр хүчин чадалтай тооцоололд ашиглахын тулд хямд GPU түрээслэх боломжтой дэлхийн зах зээл юм.
Эдгээр нь хостуудад GPU техник хангамжаа түрээслэх боломжийг олгосноор тооцооллын хүнд даалгаврын зардлыг бууруулж, хэрэглэгчид өөрсдийн хэрэгцээнд нийцүүлэн тооцоолох хамгийн хямд үнийг хайж олох, командуудыг гүйцэтгэх эсвэл SSH холболтыг эхлүүлэхийн тулд онлайн хайлтын хэрэгслийг ашиглах боломжийг олгодог.
Тэд SSH жишээнүүд, Jupyter инстанцуудыг Jupyter GUI эсвэл зөвхөн командын тохиолдлуудаар хангадаг бөгөөд шууд онцлогтой. хэрэглэгчийн интерфэйс.
Гүнзгий сургалтын гүйцэтгэлийн тооцоолсон гүйцэтгэлийг урьдчилан таамаглах гүнзгий сургалтын гүйцэтгэлийн функцийг (DLPerf) мөн өгсөн.
Vast AI-ийн ашигладаг системүүд нь Ubuntu-д суурилсан бөгөөд алсын ширээний компьютерийг санал болгодоггүй. Тэд мөн хостоос тогтоосон тодорхой төлбөртэй хүсэлтээр авах боломжтой инстансуудыг ажиллуулдаг.
үнийн
0.80x RTX A4-ийн үнэ 6000 доллараас эхэлдэг.
3. AWS & NVIDIA
AWS болон NVIDIA нь GPU-д суурилсан боломжийн үнэтэй, дасан зохицох чадвартай, хүчирхэг шийдлүүдийг тууштай хүргэж байна.
Үүнд NVIDIA GPU-ээр ажилладаг Amazon EC2 инстанцууд болон NVIDIA Jetson Nano модулиудаар суулгадаг AWS IoT Greengrass зэрэг үйлчилгээнүүд багтана.
Виртуал ажлын станцууд, машин сурах (ML), Internet of Things (IoT) үйлчилгээ, өндөр гүйцэтгэлтэй тооцоололд хэрэглэгчид AWS болон NVIDIA ашигладаг. Өргөтгөх боломжтой гүйцэтгэлийг Amazon EC2 инстанцуудыг тэжээдэг NVIDIA GPU-ууд хангадаг.
Нэмж дурдахад, NVIDIA-д суурилсан захын төхөөрөмжүүдийг AWS үүл үйлчилгээнд холбохын тулд AWS IoT Greengrass ашиглана уу.
Amazon EC2 P4d инстанцууд нь NVIDIA A100 Tensor Core GPU-ээр тэжээгддэг бөгөөд энэ нь салбарын хамгийн бага хоцролттой сүлжээ, хамгийн өндөр дамжуулах чадварыг хангадаг.
Үүнтэй адил Amazon EC2 P3, Amazon EC2 G4 гэх мэт тодорхой нөхцөл байдалд тохирсон өөр өөр хувилбарууд байдаг.
үнийн
Та үнэ төлбөргүй туршилтад хамрагдах хүсэлт гаргаж болох бөгөөд үнийг нь худалдагчтай холбоо барина уу.
4. Цаасны орон зай CORE
CORE нь Paperspace-ээс бүтээсэн бүрэн удирдлагатай үүлэн GPU платформ бөгөөд төрөл бүрийн хэрэглээнд хялбар, хэмнэлттэй, хурдасгасан тооцоолол хийх боломжийг олгодог.
Байгууллагын үйл явцыг хурдасгахын тулд Paperspace CORE-ээс өгсөн хамгийн сүүлийн үеийн хурдасгасан тооцоолох дэд бүтцийг ашиглана уу. Mac, Linux болон Windows-д зориулсан хурдан ажиллах, хамтран ажиллах хэрэгсэл, ширээний программуудын хувьд энэ нь хэрэглэгчдэд ээлтэй, энгийн интерфейсийг санал болгодог.
Хязгааргүй хүчин чадлаар шаардлагатай програмуудыг гүйцэтгэхийн тулд үүнийг ашиглана уу. CORE нь маш хурдан сүлжээ, хурдан хангамж, 3D програмуудыг дэмжих, программын хандалтын бүрэн API-г санал болгодог.
Ашиглахад хялбар, ойлгомжтой GUI-ийн тусламжтайгаар нэг байршилд дэд бүтцийнхээ иж бүрэн зургийг аваарай.
Нэмж дурдахад хүчирхэг хэрэгслүүдийг санал болгож, машин, сүлжээ, хэрэглэгчдийг шүүх, ангилах, холбох, үүсгэх боломжийг олгодог CORE-ийн удирдлагын интерфейсийн ачаар маш сайн хяналтыг аваарай.
үнийн
Тусгай зориулалтын M0.45 GPU-ийн үнэ нь цагт 4000 доллараас эхэлдэг.
5. Alibaba Elastic GPU үйлчилгээ
Alibaba Elastic GPU Service (EGS) нь GPU технологийг ашиглан параллель, хүчирхэг боловсруулалтын чадавхийг хангадаг. Видео боловсруулалт, дүрслэл, шинжлэх ухааны тооцоолол, гүнзгий суралцах зэрэг олон програмууд үүнд тохиромжтой.
EGS нь AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4, NVIDIA Tesla P100 зэрэг хэд хэдэн GPU ашигладаг.
Та онлайн зэрэг давуу талуудад хандах боломжтой болно гүнзгий суралцах дүгнэлтийн үйлчилгээ, сургалт, контент таних, зураг болон дуу хоолой таних, HD медиа кодчилол, видео хурал, эх сурвалжийн киног сэргээх, 4K/8K HD шууд дамжуулах.
Видео дүрслэх, тооцоолох санхүү, цаг уурын таамаглал, мөргөлдөөний симуляци, генетикийн инженерчлэл, шугаман бус засварлах, алсын боловсролын программууд, инженерийн дизайн гэх мэт хувилбаруудыг аваарай.
үнийн
Энэ нь үнэгүй туршилтын хувилбарыг санал болгож, төлбөрөө төлөх захиалгын төлөвлөгөөг санал болгодог бөгөөд энэ нь та зөвхөн ямар тохиолдол эсвэл GPU ашигладаг гэсэн үг юм.
6. Genesis Cloud
Genesis Cloud нь өндөр хэмнэлттэй үүлэн GPU платформыг санал болгодог. Тэд олон төрлийн хэрэглээг хангахын тулд дэлхий даяар хэд хэдэн үр дүнтэй мэдээллийн төвүүдтэй хамтран ажиллаж байна.
Genesis Cloud нь таны ажлыг нөөцлөх агшин зуурын зураг, сүлжээний траффикийн аюулгүй байдлын бүлгүүд, их хэмжээний өгөгдлийн багц хадгалах багтаамж, FastAI, PyTorch, урьдчилан тохируулсан зураг, нийтийн TensorFlow API зэрэг олон төрлийн ашигтай функцуудыг нэмэлт зардалгүйгээр хангадаг.
Тэд NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti, GTX 1080 Ti технологийн тусламжтайгаар тооцооллыг хурдасгадаг.
Та хүүхэлдэйн кино хийх эсвэл сургахдаа GPU тооцооллын хүчийг ашиглаж болно мэдрэлийн сүлжээ.
үнийн
NVIDIA® GeForce™ RTX 1.30-ийн үнэ 3090 доллар/цагаас эхэлнэ.
7. Google Cloud GPU
Google Cloud Platform (GCP) нь машин сурах, гүнзгий суралцах, өндөр гүйцэтгэлтэй тооцоолол (HPC) зэрэг процессуудыг хурдасгахад ашиглаж болох хэд хэдэн GPU жишээг санал болгодог.
NVIDIA, AMD, Intel GPU-уудаар дэмжигдсэн эдгээр GPU инстанцуудаар дамжуулан GPU хурдасгасан тооцоололд байнга ашиглагддаг CUDA болон cuDNN сангуудад хандах боломжтой.
Машины өөрчлөлт, уян хатан үнэ, өргөн хүрээний GPU боломжийн улмаас HPC илүү бүтээмжтэй байж болох юм.
Үүнээс гадна энэ нь таны ажлын ачааллыг хөнгөвчлөхөд тусална. Тэдний хангадаг GPU-уудын дунд NVIDIA K80, P4, V100, A100, T4, болон P100 орно. Зөвхөн өөр өөр газруудад тархсан цөөн тооны бүсүүд GPU-д хандах боломжтой.
үнийн
Зардал нь бүс нутаг, таны сонгосон GPU болон машины төрлөөс хамаарч өөр өөр байх болно. NVIDIA A100-ийн үнэ GPU тутамд 3.93 доллараас эхэлдэг.
8. NVIDIA GPU Cloud
NVIDIA GPU Cloud (NGC) нь үүлэн дээр суурилсан платформ бөгөөд хэрэглэгчдэд дүрслэх хэрэгсэл, HPC программ зэрэг GPU хурдасгасан төрөл бүрийн програм хангамжид хандах боломжийг олгодог. гүн гүнзгий суралцах хүрээ.
Хөгжүүлэгчид, мэдээллийн эрдэмтэд, мөн судлаачид одоо NGC-ийн ачаар өөрсдийн программыг ажиллуулахад шаардлагатай дэд бүтэц, засвар үйлчилгээний талаар санаа зовохгүйгээр NVIDIA GPU-ийн тооцоолох хүчийг үүлэн дээр хялбархан ашиглах боломжтой болсон.
Урьдчилан тохируулсан програм хангамжийн савны номын сан NGC-д багтсан бөгөөд үүнийг хэд хэдэн төхөөрөмж дээр хурдан ашиглах боломжтой. үүл тооцоолох Amazon Web Services, Google Cloud Platform, Microsoft Azure зэрэг дэд бүтэц.
NGC-д нэвтрэх нь хэрэглэгчдэд TensorRT, cuDNN, CUDA-X AI зэрэг гүнзгий сургалтын загваруудыг бий болгох, хэрэгжүүлэхэд зориулсан хэд хэдэн програм, нөөцтэй хамт ирдэг NVIDIA-ийн гүнзгий сургалтын платформд хандах боломжийг олгодог.
үнийн
Таны ашигладаг тодорхой үйлчилгээ, нөөцөөс хамааран NVIDIA GPU Cloud (NGC) үнэ өөрчлөгддөг. Гүн сургалтын програм хангамжийн стек гэх мэт зарим NGC үйлчилгээг ашиглахад үнэ төлбөргүй байдаг бол HPC програмын контейнер зэрэг бусад үйлчилгээнүүд үнэ төлбөртэй байж болно. NGC каталогоос харна уу.
9. Lambda GPU Cloud
Lambda нь нэг физик компьютерээс олон виртуал машин хүртэл өргөтгөх боломжтой, гүнзгий суралцах загварт зориулсан үүлэн GPU жишээнүүдээр хангадаг.
Хяналтын самбараас машин бүрийн төрөлжсөн хэсэгт нэн даруй нэвтэрнэ үү Jupyter тэмдэглэлийн дэвтэр програмчлалын орчин. Шууд хандахын тулд SSH-г SSH товчлуурын аль нэгээр нь шууд ашиглах эсвэл үүлэн хяналтын самбар дээрх вэб терминалаар холбогдоно уу.
Хамгийн ихдээ 10 Гбит/с зангилаа хоорондын холболтыг инстанс бүр дэмждэг бөгөөд энэ нь Horovod гэх мэт фреймворк ашиглан түгээсэн сургалт явуулах боломжийг олгодог.
Нэг буюу хэд хэдэн тохиолдолд GPU-ийн тоог нэмэгдүүлэх нь загварыг оновчтой болгоход тусална. Энэхүү платформ нь NVIDIA RTX 6000, Quadro RTX 6000, Tesla V100-ийн GPU хувилбаруудыг дэмждэг.
үнийн
NVIDIA A1.10-ийн үнэ 100 доллар/цагаас эхэлдэг.
10. IBM Cloud GPU
IBM Cloud GPU нь сервер сонгох уян хатан горим, IBM үүлэн архитектур, API болон програмуудтай жигд холболтыг санал болгохын тулд дэлхий даяар тархсан мэдээллийн төвүүдийн сүлжээг ашигладаг.
Intel Xeon 4210, Xeon 5218, Xeon 6248 GPU инстанцуудын тусламжтайгаар энэ нь нүцгэн металл сервер GPU сонголтыг санал болгодог.
Та өндөр хүчин чадалтай, хоцролтод мэдрэмтгий, тусгайлсан, ердийн ажлын ачааллыг серверийн техник хангамж дээр шууд металлын жишээнүүдийг ашиглан гүйцэтгэх боломжтой.
Нүцгэн металл серверийн сонголтуудын хувьд тэд NVIDIA T4 GPU болон 40 хүртэлх цөмтэй Intel Xeon процессорууд, мөн NVIDIA V100 болон P100 загвартай виртуал серверийн хувилбаруудыг өгдөг.
үнийн
Intel Xeon514-ийн үнэ нь сард 4110 доллараас эхэлдэг.
Дүгнэлт
Эцэст нь, хиймэл оюун ухаанд зориулсан хамгийн шилдэг үүлэн GPU үйлчилгээ бол хүчирхэг GPU нөөц, дасан зохицох үнийн сонголт, энгийн масштабыг санал болгодог үйлчилгээнүүд юм.
AWS, NVIDIA, IBM, GCP зэрэг хиймэл оюун ухааны ачаалалд зориулсан GPU инстанцаар хангадаг бүх компаниуд гүйцэтгэл, үйл ажиллагааны хувьд маш сайн бүтээгдэхүүнтэй.
Хамгийн сайн сонголт нь эцсийн эцэст таны өвөрмөц шаардлага, санхүүгийн хязгаарлалт, аль хэдийн бий болсон дэд бүтэц, борлуулагчийн сонголтоор тодорхойлогддог.
хариу үлдээх