Table of Contents[Hūnā][Hōʻike]
Ke koi nui nei nā Cloud GPU i ka wā e puka mai ana nā ʻenehana hou e like me ke aʻo hohonu, AI, a me ka aʻo mīkini.
ʻO nā GPU (Graphics Processing Units) nā mea hana kūikawā i hana ʻia no ka mālama ʻana i nā pūʻulu ʻikepili nui a me nā helu paʻakikī e pono ai no nā hana e like me nā kiʻi kamepiula a me nā pāʻani. He mea koʻikoʻi lākou i kēia manawa no ke kahua o ʻimi hoʻopunipuni manao (AI) pū kekahi, ʻoiai, i kēia manawa.
ʻAʻole hiki i nā CPU kuʻuna (Central Processing Units) ke hoʻokō i ka noi no ka mea e koi ana nā kumu hoʻohālike AI i ka nui o ka mana computing e hoʻomaʻamaʻa a holo.
Ma ka ʻaoʻao ʻē aʻe, ʻoiai ua kūkulu ʻia lākou e kākoʻo i ka hoʻoili like ʻana, ʻoi aku ka maikaʻi o nā GPU i ka hoʻokele ʻana i ka nui o ka ʻikepili a me nā helu paʻakikī e pono ai no nā hana AI.
Inā ʻoe i ka ʻenehana, ua lohe paha ʻoe e pili ana i nā lawelawe cloud GPU. No ka poe e hahai ole ana.
ʻO kahi lawelawe kapuaʻi e hāʻawi i nā mea hoʻohana i ke komo pūnaewele i nā kumuwaiwai GPU ikaika i ʻike ʻia he lawelawe ʻo GPU kapua no AI. Ma kahi o ka pono e kūʻai a mālama i kā lākou ponoʻī GPU ponoʻī, hiki i kēia mau lawelawe ke hiki i nā mea kūʻai ke hoʻolimalima i nā kumuwaiwai GPU e like me ka mea e pono ai.
ʻO kēia ka mea hiki i nā kānaka a me nā hui ke hoʻohana i ka mana o ka GPU me ka ʻole e hana i kahi hoʻopukapuka mua nui a i ʻole e uku i nā uku mālama hoʻomau.
ʻO ka hapa nui o nā lawelawe GPU kapua no AI e hāʻawi i kahi ākea ākea o nā koho GPU, me nā hiʻohiʻona a me nā hoʻonohonoho a me ka hiki ke piʻi a i lalo e like me ka mea e pono ai. Hiki iā ʻoe ke koho i nā kumuwaiwai GPU kūpono no kā lākou mau koi kūikawā a me nā papahana mahalo i kēia lawelawe.
Hoʻohui, hele pinepine nā lawelawe me nā mana ʻē aʻe e pili ana i ka pūnaewele, ka mālama ʻana, a me nā lako polokalamu e kōkua i nā mea kūʻai aku i kā lākou papahana AI. Ma kēia pou, e nānā mākou i nā lawelawe GPU kapua kiʻekiʻe no AI.
1. Linode
Hāʻawi ʻo Linode i nā GPU ma ke koi ʻana no nā hana e like me ka hoʻoili wikiō, ka ʻepekema ʻepekema, aʻo aʻo, naʻauao hana, a me nā mea ʻē aʻe.
Hāʻawi ia i nā mīkini virtual GPU-optimized (VM) e holo ana ma NVIDIA Quadro RTX 6000, Tensor, a me RT cores a hoʻohana i ka mana CUDA e hana. haʻawina hohonu, nā hana hana ray tracing, a me nā helu paʻakikī.
Ma ka hoʻololi ʻana i kāu mau hoʻolimalima kālā i lilo i mea hoʻohana, hiki iā ʻoe ke hoʻohana i ka mana GPU o Linode GPU a me ka waiwai maoli o ke ao.
Hoʻohui hou, hoʻokuʻu ʻo Linode iā ʻoe mai ka hopohopo e pili ana i ka hāmeʻa i hiki iā ʻoe ke noʻonoʻo i kāu mau mākau ikaika loa.
Me nā Linode GPU, hiki iā ia ke hoʻohana iā lākou no nā noi paʻakikī e like me ke kahe wikiō, naʻauao akamai, a me ke aʻo ʻana i ka mīkini.
Eia kekahi, ma muli o ka nui o ka mana hana e pono ai no nā hana i manaʻo ʻia, hiki iā ʻoe ke loaʻa i nā kāleka 4 no kēlā me kēia manawa.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $ 1.5 / hola no ka hoʻolālā RTX6000 GPU i hoʻolaʻa ʻia. E hoʻomaka me Linode no ka manuahi.
2. Nui AI
ʻO Vast AI kahi mākeke honua kahi e hiki ai i nā mea hoʻohana ke hoʻolimalima i nā GPU kūʻai ʻole no ka hoʻohana ʻana i ka helu helu kiʻekiʻe.
Hoʻemi lākou i ke kumukūʻai o nā hana koʻikoʻi ma o ka ʻae ʻana i nā pūʻali e hoʻolimalima i kā lākou ʻenehana GPU, e hiki ai i nā mea hoʻohana ke hoʻohana i kā lākou ʻimi hulina pūnaewele e ʻimi i nā kumukūʻai haʻahaʻa loa no ka helu ʻana e like me kā lākou makemake a hoʻokō i nā kauoha a hoʻomaka i nā pilina SSH.
Hāʻawi lākou i nā manawa SSH, nā manawa Jupyter me ka GUI Jupyter, a i ʻole nā mea kauoha wale nō, a e hōʻike ana i kahi pololei wahi hoʻohana o ka mea hoʻohana.
Hāʻawi pū ʻia kahi hana hana hoʻonaʻauao hohonu (DLPerf), e wānana ana i kahi hana hana hoʻonaʻauao hohonu.
ʻO nā ʻōnaehana i hoʻohana ʻia e Vast AI he Ubuntu-based a ʻaʻole hāʻawi i nā pākaukau mamao. Hoʻohana pū lākou i nā manawa i loaʻa ma ke koi no kahi uku kikoʻī i hoʻokumu ʻia e ka mea hoʻokipa.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $0.80 / hola no 4x RTX A6000.
3. AWS & NVIDIA
ʻO ka hui pū ʻana, ke hāʻawi mau nei ʻo AWS a me NVIDIA i nā hopena e pili ana i ka GPU i kūpono, hiki ke hoʻololi, a me ka ikaika.
Loaʻa iā NVIDIA GPU-powered Amazon EC2 nā manawa a me nā lawelawe e like me AWS IoT Greengrass e hoʻokomo me nā modules NVIDIA Jetson Nano.
No nā keʻena hana maʻemaʻe, ke aʻo ʻana i ka mīkini (ML), nā lawelawe pūnaewele o nā mea (IoT), a me ka helu helu hana kiʻekiʻe, hoʻohana nā mea hoʻohana iā AWS a me NVIDIA. Hāʻawi ʻia ka hana scalable e nā NVIDIA GPU e mana ana i nā manawa Amazon EC2.
Hoʻohui hou, e hoʻohana i ka AWS IoT Greengrass e hoʻopili i nā ʻaoʻao ʻaoʻao o NVIDIA i nā lawelawe kapuaʻi AWS.
Hoʻohana ʻia nā manawa Amazon EC2 P4d e NVIDIA A100 Tensor Core GPUs, e hāʻawi ana i ka ʻoihana latency haʻahaʻa haʻahaʻa a me ka loaʻa kiʻekiʻe loa.
E like me kēia, aia kekahi mau manawa like ʻole i loaʻa no kekahi mau kūlana, e like me Amazon EC2 P3, Amazon EC2 G4, etc.
kumu kūʻai
Hiki iā ʻoe ke noi no kahi hoʻokolohua manuahi a e ʻoluʻolu e kelepona i ka mea kūʻai aku no kāna kumu kūʻai.
4. Wahi pepa CORE
ʻO ka CORE kahi kahua hoʻokele GPU kapuaʻi i hoʻokumu ʻia e Paperspace e hāʻawi ana i ka hoʻopili pololei, kumu kūʻai, a wikiwiki hoʻi no nā noi like ʻole.
E hoʻohana i ka ʻōnaehana hoʻonohonoho hoʻonohonoho ʻokiʻoki i hoʻolako ʻia e Paperspace CORE e wikiwiki i nā kaʻina hana. No ka holo wikiwiki ʻana, nā mea hana like ʻole, a me nā noi papapihi no Mac, Linux, a me Windows, hāʻawi ia i kahi mea hoʻohana ʻoluʻolu a paʻakikī.
E hoʻohana iā ia no ka hoʻokō ʻana i nā papahana koi ma ka nui o ka mana hana. Hāʻawi ʻo CORE i kahi pūnaewele wikiwiki loa, hoʻolako wikiwiki, kākoʻo no nā polokalamu 3D, a me kahi API piha no ke komo polokalamu.
Me kahi GUI maʻalahi e hoʻohana a intuitive, e kiʻi i kahi kiʻi piha o kāu ʻōnaehana ma kahi hoʻokahi.
Eia hou, loaʻa ka mana maikaʻi loa i ka CORE's administration interface, nāna e hāʻawi i nā mea hana ikaika a hiki iā ʻoe ke kānana, hoʻokaʻawale, hoʻohui, a i ʻole hana i nā mīkini, pūnaewele, a me nā mea hoʻohana.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $0.45 / hola no ka M4000 GPU i hoʻolaʻa ʻia.
5. ʻO ka lawelawe ʻo Alibaba Elastic GPU
Hoʻohana ʻo Alibaba Elastic GPU Service (EGS) i ka ʻenehana GPU e hāʻawi i nā mana hana like a ikaika. ʻO nā noi he nui, me ka hoʻoili wikiō, ka nānā ʻana, ka helu ʻepekema, a me ke aʻo hohonu, kūpono loa ia.
Hoʻohana ʻo EGS i kekahi mau GPU, me AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4, a me NVIDIA Tesla P100.
E loaʻa iā ʻoe nā pōmaikaʻi me ka pūnaewele aʻo hohonu inference lawelawe a me ka hoʻonaʻauao, ʻike maʻiʻo, kiʻi a me ka ʻike leo, HD media coding, video conference, source film restoration, a me 4K/8K HD live.
E kiʻi i nā mea ʻē aʻe e like me ka hoʻolilo wikiō, kālā helu helu, wānana i ke aniau, simulation collision, genetic engineering, non-linear hoʻoponopono, nā noi hoʻonaʻauao mamao, a me ka hoʻolālā ʻenekinia pū kekahi.
kumu kūʻai
Hāʻawi ia i kahi hoʻāʻo manuahi a me ka hoʻolālā kau inoa uku-like-you-go, ʻo ia ka mea ʻo ʻoe wale nō nā manawa a i ʻole nā GPU āu e hoʻohana ai.
6. Genesis Cloud
Hāʻawi ʻo Genesis Cloud i kahi kahua GPU kapuaʻi maikaʻi loa. Ke hana pū nei lākou me kekahi mau kikowaena data kūpono a puni ka honua e hoʻolako i nā ʻano noi like ʻole.
Hāʻawi ʻo Genesis Cloud i kahi ākea o nā hiʻohiʻona maikaʻi me ka uku ʻole, me nā kiʻi paʻi kiʻi no ke kākoʻo ʻana i kāu hana, nā pūʻulu palekana no ka hele ʻana o ka pūnaewele, nā waihona waihona no nā pūʻulu ʻikepili nui, FastAI, PyTorch, nā kiʻi preset, a me kahi TensorFlow API.
Ua wikiwiki lākou i ka helu ʻana me ke kōkua o NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti, a me GTX 1080 Ti ʻenehana i kā lākou mau manawa GPU.
Hiki iā ʻoe ke hoʻohana i ka mana o GPU computing e hana i nā kiʻiʻoniʻoni animated a i ʻole kaʻaahi nā hanana laulā.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $1.30/hola no NVIDIA® GeForce™ RTX 3090.
7. Google Cloud GPU
Hāʻawi ʻo Google Cloud Platform (GCP) i kekahi mau hiʻohiʻona GPU hiki ke hoʻohana ʻia no ka wikiwiki ʻana i nā kaʻina hana e like me ke aʻo ʻana i ka mīkini, ke aʻo hohonu, a me ka hoʻokō kiʻekiʻe (HPC).
Ma o kēia mau hiʻohiʻona GPU, i kākoʻo ʻia e NVIDIA, AMD, a me Intel GPUs, hiki ke komo i nā hale waihona puke CUDA a me cuDNN, i hoʻohana pinepine ʻia no ka GPU-accelerated computing.
Ma muli o ka hoʻololi ʻana o ka mīkini, ke kumu kūʻai maʻalahi, a me ka nui o nā hiki GPU, hiki ke ʻoi aku ka maikaʻi o ka HPC.
Eia kekahi, hiki ke kōkua iā ʻoe e hoʻomāmā i kāu hana. Ma waena o nā GPU a lākou e hāʻawi ai ʻo NVIDIA K80, P4, V100, A100, T4, a me P100. He mau wahi liʻiliʻi wale nō i hoʻopuehu ʻia ma nā wahi like ʻole i loaʻa i nā GPU.
kumu kūʻai
E ʻokoʻa ke kumukūʻai ma muli o ka ʻāina, ka GPU āu e koho ai, a me ke ʻano mīkini. No ka NVIDIA A100, hoʻomaka nā kumukūʻai ma $3.93 no GPU.
8. NVIDIA GPU Cloud
ʻO ka NVIDIA GPU Cloud (NGC) he paepae kapuaʻi e hāʻawi i nā mea hoʻohana i ke komo i nā ʻano polokalamu GPU-wikiwiki ʻia, e like me nā mea hana ʻike, nā polokalamu HPC, a haʻawina hohonu kuhikuhipuʻuone.
Nā mea hoʻomohala, ʻepekema ʻikepili, a hiki i nā mea noiʻi ke hoʻohana maʻalahi i ka mana computing o NVIDIA GPU i ke ao me ka hopohopo ʻole e pili ana i ka ʻōnaehana a i ʻole ka mālama ʻana e pono ai ka hana ʻana i kā lākou mau polokalamu mahalo iā NGC.
Hoʻokomo pū ʻia kahi waihona o nā pahu lako polokalamu i hoʻonohonoho mua ʻia me NGC a hiki ke hoʻonohonoho koke ʻia ma kahi helu ao Me nā ʻōnaehana, me ka Amazon Web Services, Google Cloud Platform, a me Microsoft Azure.
Hāʻawi ka loaʻa iā NGC i nā mea hoʻohana i ke kahua aʻo hohonu o NVIDIA, e hele mai me nā papahana a me nā kumuwaiwai no ka hana ʻana a me ka hoʻokō ʻana i nā kumu hoʻohālike hohonu, me TensorRT, cuDNN, a me CUDA-X AI.
kumu kūʻai
Ma muli o nā lawelawe kūikawā a me nā kumuwaiwai āu e hoʻohana ai, hoʻololi ke kumukūʻai NVIDIA GPU Cloud (NGC). ʻOiai he manuahi ka hoʻohana ʻana i kekahi mau lawelawe NGC, e like me ka waihona polokalamu hoʻonaʻauao hohonu, ʻo nā mea ʻē aʻe, e like me nā pahu noi HPC, hiki ke uku i ke kumukūʻai. E ʻoluʻolu e nānā i ka palapala NGC.
9. Lambda GPU Cloud
Hāʻawi ʻo Lambda i nā manawa GPU kapua no ka hoʻomaʻamaʻa ʻana i nā kumu hoʻohālike hohonu a me ka scalability mai kahi kamepiula kino hoʻokahi a i nā mīkini virtual he nui.
Mai ka dashboard, e komo koke i kēlā me kēia mīkini kūikawā Puke Memo Jupyter kaiapuni polokalamu. No ke komo pololei, e hoʻohana pololei iā SSH me kekahi o nā kī SSH a i ʻole e hoʻopili ma o ka Web Terminal ma ka dashboard kapua.
Kākoʻo ʻia ka nui o 10 Gbps o ka pilina ma waena o ka node e kēlā me kēia manawa, e ʻae ana i ka hoʻomaʻamaʻa ʻana me ka hoʻohana ʻana i nā frameworks e like me Horovod.
Hiki ke kōkua i ka hoʻonui ʻana i ka helu o nā GPU i hoʻokahi a i ʻole kekahi mau manawa. Kākoʻo ke kahua i nā manawa GPU mai NVIDIA RTX 6000, Quadro RTX 6000, a me Tesla V100s.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $1.10 / hola no NVIDIA A100.
10. IBM Cloud GPU
Hoʻohana ka IBM Cloud GPU i kahi pūnaewele puni honua o nā kikowaena ʻikepili e hāʻawi i nā kaʻina koho koho kikowaena maʻalahi a me ka hoʻopili maʻalahi me ka IBM cloud architecture, API, a me nā noi.
Me Intel Xeon 4210, Xeon 5218, a me Xeon 6248 GPU mau manawa, hāʻawi ia i ke koho Server GPU metala.
Hiki iā ʻoe ke hoʻokō i nā haʻahaʻa hana kiʻekiʻe, latency-sensitive, kūikawā, a me nā hana maʻamau ma luna o ka lako kikowaena me ka hoʻohana ʻana i nā mea metala ʻole, e like me ka mea hiki iā lākou me nā GPU ma luna o ka hale.
No kā lākou koho server bare-metal, hāʻawi pū lākou i nā manawa me NVIDIA T4 GPUs a me nā kaʻina hana Intel Xeon a hiki i ka 40 cores, a me nā manawa no kā lākou mau kikowaena kikowaena me nā hiʻohiʻona NVIDIA V100 a me P100.
kumu kūʻai
Hoʻomaka ke kumu kūʻai ma $514 / mahina no Intel Xeon4110.
Panina
ʻO ka mea hope loa, ʻo nā lawelawe GPU kapua maikaʻi loa no AI ʻo ia ka mea e hāʻawi i nā kumuwaiwai GPU ikaika, nā koho kumukūʻai kūpono, a me ka scaling maʻalahi.
ʻO nā hui āpau e hāʻawi ana i nā hiʻohiʻona GPU no nā hana hana AI-AWS, NVIDIA, IBM, a me GCP-he mau laina huahana maikaʻi loa e pili ana i ka hana a me ka hana.
ʻO ka koho maikaʻi loa e hoʻoholo ʻia e kāu mau koi kūʻokoʻa, nā pilikia kālā, nā ʻōnaehana i hoʻokumu ʻia, a me nā makemake o ka mea kūʻai aku.
Waiho i ka Reply