Cloud GPU เป็นที่ต้องการอย่างมากเนื่องจากเทคโนโลยีใหม่ๆ เช่น การเรียนรู้เชิงลึก, AI และการเรียนรู้ของเครื่องเกิดขึ้น
GPU (หน่วยประมวลผลกราฟิก) คือโปรเซสเซอร์พิเศษที่สร้างขึ้นเพื่อจัดการกับชุดข้อมูลจำนวนมหาศาลและการคำนวณที่ซับซ้อนซึ่งจำเป็นสำหรับกิจกรรมต่างๆ เช่น คอมพิวเตอร์กราฟิกและการเล่นเกม ตอนนี้พวกเขามีความสำคัญสำหรับสาขา ปัญญาประดิษฐ์ (AI) เช่นกัน แม้ว่าในช่วงปลาย
CPU แบบดั้งเดิม (หน่วยประมวลผลกลาง) ไม่สามารถตอบสนองความต้องการได้เนื่องจากโมเดล AI ต้องการพลังการประมวลผลจำนวนมากเพื่อฝึกฝนและเรียกใช้
ในทางกลับกัน เนื่องจากสร้างขึ้นเพื่อรองรับการประมวลผลแบบขนาน GPU จึงมีประสิทธิภาพมากกว่าในการจัดการข้อมูลปริมาณมหาศาลและการคำนวณที่ซับซ้อนซึ่งจำเป็นสำหรับการทำงานของ AI
หากคุณเป็นสายเทคโนโลยี คุณต้องเคยได้ยินเกี่ยวกับบริการ Cloud GPU ส่วนใครที่ตามไม่ทัน
บริการบนคลาวด์ที่ให้ผู้ใช้เข้าถึงทรัพยากร GPU ที่มีศักยภาพทางออนไลน์เรียกว่าบริการ GPU บนคลาวด์สำหรับ AI แทนที่จะต้องซื้อและบำรุงรักษาฮาร์ดแวร์ GPU ของตนเอง บริการเหล่านี้ช่วยให้ลูกค้าสามารถเช่าทรัพยากร GPU ได้ตามต้องการ
สิ่งนี้ทำให้ผู้คนและองค์กรสามารถใช้ความสามารถในการประมวลผลของ GPU ได้โดยไม่ต้องลงทุนเริ่มต้นจำนวนมากหรือจ่ายค่าบำรุงรักษาต่อเนื่อง
บริการ GPU บนคลาวด์ส่วนใหญ่สำหรับ AI มีตัวเลือก GPU ที่หลากหลาย รวมถึงรุ่นและการกำหนดค่าที่หลากหลาย และความยืดหยุ่นในการเพิ่มหรือลดขนาดตามความจำเป็น ตอนนี้คุณสามารถเลือกทรัพยากร GPU ที่เหมาะสมที่สุดสำหรับความต้องการและโปรเจ็กต์เฉพาะได้ด้วยบริการนี้
นอกจากนี้ บริการมักจะมาพร้อมกับความสามารถอื่นๆ เช่น ระบบเครือข่าย ที่เก็บข้อมูล และเครื่องมือซอฟต์แวร์เพื่อช่วยเหลือลูกค้าในโครงการ AI ของพวกเขา ในโพสต์นี้ เราจะดูบริการ Cloud GPU อันดับต้น ๆ สำหรับ AI
1. Linode
Linode นำเสนอ GPU ตามความต้องการสำหรับปริมาณงาน เช่น การประมวลผลวิดีโอ การคำนวณทางวิทยาศาสตร์ เรียนรู้เครื่องปัญญาประดิษฐ์ และอื่นๆ
มีเครื่องเสมือน (VM) ที่ปรับให้เหมาะกับ GPU ซึ่งทำงานบนคอร์ NVIDIA Quadro RTX 6000, Tensor และ RT และใช้ความสามารถของ CUDA ในการทำ การเรียนรู้ลึก ๆ, ปริมาณงาน Ray Tracing และการคำนวณที่ซับซ้อน
การเปลี่ยนรายจ่ายฝ่ายทุนของคุณให้เป็นค่าใช้จ่ายในการดำเนินงาน คุณสามารถใช้ความสามารถ GPU ของ Linode GPU และมูลค่าที่แท้จริงของระบบคลาวด์ได้
นอกจากนี้ Linode ยังช่วยให้คุณไม่ต้องกังวลเกี่ยวกับฮาร์ดแวร์ คุณจึงมีสมาธิกับทักษะที่แข็งแกร่งที่สุดของคุณ
ด้วย Linode GPUs ทำให้ตอนนี้สามารถใช้กับแอปพลิเคชันที่ซับซ้อน เช่น การสตรีมวิดีโอ ปัญญาประดิษฐ์ และการเรียนรู้ของเครื่อง
นอกจากนี้ ขึ้นอยู่กับปริมาณของพลังการประมวลผลที่จำเป็นสำหรับปริมาณงานที่คาดไว้ คุณสามารถรับการ์ดได้สูงสุด 4 ใบสำหรับแต่ละอินสแตนซ์
ราคา
ราคาเริ่มต้นที่ $1.5/ชั่วโมง สำหรับแผน RTX6000 GPU โดยเฉพาะ เริ่มต้นใช้งาน Linode ฟรี
2. AI ที่กว้างใหญ่
Vast AI เป็นตลาดระดับโลกที่ผู้ใช้สามารถเช่า GPU ราคาไม่แพงเพื่อใช้ในการประมวลผลประสิทธิภาพสูง
พวกเขาลดต้นทุนของงานที่ต้องใช้การคำนวณอย่างหนักโดยให้โฮสต์เช่าฮาร์ดแวร์ GPU ของตน ทำให้ผู้ใช้สามารถใช้เครื่องมือค้นหาออนไลน์เพื่อค้นหาราคาที่ถูกที่สุดสำหรับการประมวลผลตามความต้องการและดำเนินการคำสั่งหรือเปิดใช้งานการเชื่อมต่อ SSH
พวกเขามีอินสแตนซ์ SSH, อินสแตนซ์ Jupyter ที่มี Jupyter GUI หรืออินสแตนซ์เฉพาะคำสั่ง และมีลักษณะที่ตรงไปตรงมา ส่วนติดต่อผู้ใช้.
ฟังก์ชันประสิทธิภาพการเรียนรู้เชิงลึก (DLPerf) ซึ่งคาดการณ์ประสิทธิภาพของงานการเรียนรู้เชิงลึกโดยประมาณก็มีให้เช่นกัน
ระบบที่ใช้โดย Vast AI นั้นใช้ Ubuntu และไม่มีเดสก์ท็อประยะไกล พวกเขายังดำเนินการอินสแตนซ์ที่พร้อมใช้งานตามต้องการโดยมีค่าธรรมเนียมเฉพาะที่กำหนดโดยโฮสต์
ราคา
ราคาเริ่มต้นที่ 0.80 ดอลลาร์ต่อชั่วโมงสำหรับ 4x RTX A6000
3. AWS และ NVIDIA
AWS และ NVIDIA ร่วมกันนำเสนอโซลูชันที่ใช้ GPU ซึ่งมีราคาย่อมเยา ปรับเปลี่ยนได้ และทรงพลังอย่างต่อเนื่อง
ประกอบด้วยอินสแตนซ์ Amazon EC2 ที่ขับเคลื่อนด้วย NVIDIA GPU และบริการต่างๆ เช่น AWS IoT Greengrass ที่ติดตั้งด้วยโมดูล NVIDIA Jetson Nano
สำหรับเวิร์กสเตชันเสมือน การเรียนรู้ของเครื่อง (ML) บริการ Internet of Things (IoT) และการประมวลผลประสิทธิภาพสูง ผู้ใช้จะใช้ AWS และ NVIDIA ประสิทธิภาพที่ปรับขนาดได้มาจาก GPU ของ NVIDIA ที่ขับเคลื่อนอินสแตนซ์ Amazon EC2
นอกจากนี้ ใช้ AWS IoT Greengrass เพื่อเชื่อมต่ออุปกรณ์ Edge ที่ใช้ NVIDIA กับบริการ AWS Cloud
อินสแตนซ์ Amazon EC2 P4d ขับเคลื่อนโดย NVIDIA A100 Tensor Core GPU ซึ่งให้เครือข่ายที่มีเวลาแฝงต่ำที่สุดในอุตสาหกรรมและมีปริมาณงานสูงสุด
ในทำนองเดียวกัน มีอินสแตนซ์อื่นๆ ที่แตกต่างกันสำหรับบางสถานการณ์ เช่น Amazon EC2 P3, Amazon EC2 G4 เป็นต้น
ราคา
คุณสามารถสมัครทดลองใช้งานฟรีและโปรดติดต่อผู้ขายเพื่อสอบถามราคา
4. เปเปอร์สเปซคอร์
A CORE คือแพลตฟอร์ม GPU บนระบบคลาวด์ที่มีการจัดการเต็มรูปแบบซึ่งสร้างโดย Paperspace ซึ่งมอบการประมวลผลที่ตรงไปตรงมา คุ้มค่า และเร่งความเร็วสำหรับแอปพลิเคชันที่หลากหลาย
ใช้โครงสร้างพื้นฐานการประมวลผลแบบเร่งความเร็วที่ล้ำสมัยซึ่งจัดทำโดย Paperspace CORE เพื่อเร่งกระบวนการขององค์กร สำหรับการเริ่มใช้งานอย่างรวดเร็ว เครื่องมือสำหรับการทำงานร่วมกัน และแอปพลิเคชันเดสก์ท็อปสำหรับ Mac, Linux และ Windows มีอินเทอร์เฟซที่เป็นมิตรต่อผู้ใช้และไม่ซับซ้อน
ใช้เพื่อดำเนินการโปรแกรมที่เรียกร้องด้วยพลังการประมวลผลจำนวนไม่สิ้นสุด CORE นำเสนอเครือข่ายที่เร็วเป็นพิเศษ การจัดเตรียมอย่างรวดเร็ว การรองรับแอป 3 มิติ และ API ที่สมบูรณ์สำหรับการเข้าถึงแบบเป็นโปรแกรม
ด้วย GUI ที่ใช้งานง่ายและเป็นธรรมชาติ รับภาพรวมของโครงสร้างพื้นฐานของคุณในที่เดียว
นอกจากนี้ รับการควบคุมที่ยอดเยี่ยมด้วยอินเทอร์เฟซการดูแลระบบของ CORE ซึ่งมีเครื่องมือที่ทรงพลังและช่วยให้คุณสามารถกรอง จัดเรียง เชื่อมต่อ หรือสร้างเครื่อง เครือข่าย และผู้ใช้
ราคา
ราคาเริ่มต้นที่ $0.45/ชั่วโมง สำหรับ M4000 GPU โดยเฉพาะ
5. บริการ GPU ยืดหยุ่นของอาลีบาบา
Alibaba Elastic GPU Service (EGS) ใช้ประโยชน์จากเทคโนโลยี GPU เพื่อมอบความสามารถในการประมวลผลแบบขนานและทรงพลัง แอปพลิเคชันจำนวนมาก เช่น การประมวลผลวิดีโอ การแสดงภาพ การคำนวณทางวิทยาศาสตร์ และการเรียนรู้เชิงลึก ล้วนเหมาะสมอย่างยิ่งสำหรับแอปพลิเคชันนี้
EGS ใช้ GPU จำนวนหนึ่ง รวมถึง AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 และ NVIDIA Tesla P100
คุณจะสามารถเข้าถึงข้อดีรวมทั้งออนไลน์ บริการอนุมานการเรียนรู้เชิงลึกและการฝึกอบรม, การระบุเนื้อหา, การจดจำรูปภาพและเสียง, การเข้ารหัสสื่อ HD, การประชุมทางวิดีโอ, การกู้คืนแหล่งที่มาของภาพยนตร์ และการถ่ายทอดสด 4K/8K HD
รับตัวเลือกอื่นๆ เช่น การเรนเดอร์วิดีโอ การคำนวณทางการเงิน การทำนายสภาพอากาศ การจำลองการชนกัน พันธุวิศวกรรม การแก้ไขแบบไม่เชิงเส้น แอปพลิเคชันการศึกษาทางไกล และการออกแบบทางวิศวกรรม
ราคา
ให้บริการทดลองใช้ฟรีและแผนการสมัครสมาชิกแบบจ่ายตามการใช้งาน ซึ่งหมายความว่าคุณใช้อินสแตนซ์หรือ GPU ใดเท่านั้น
6. เจเนซิสคลาวด์
Genesis Cloud นำเสนอแพลตฟอร์ม GPU บนคลาวด์ที่คุ้มค่า พวกเขากำลังทำงานร่วมกับศูนย์ข้อมูลที่มีประสิทธิภาพหลายแห่งทั่วโลกเพื่อจัดหาแอปพลิเคชันที่หลากหลาย
Genesis Cloud มอบฟีเจอร์ที่มีประโยชน์มากมายโดยไม่มีค่าใช้จ่ายเพิ่มเติม รวมถึงสแน็ปช็อตสำหรับสำรองข้อมูลงานของคุณ กลุ่มความปลอดภัยสำหรับการรับส่งข้อมูลเครือข่าย ปริมาณพื้นที่จัดเก็บสำหรับชุดข้อมูลขนาดใหญ่ FastAI, PyTorch, รูปภาพที่ตั้งไว้ล่วงหน้า และ TensorFlow API สาธารณะ
พวกเขาเพิ่มความเร็วในการคำนวณด้วยความช่วยเหลือของเทคโนโลยี NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti และ GTX 1080 Ti ในอินสแตนซ์ GPU บนคลาวด์
คุณสามารถใช้พลังของการประมวลผล GPU เพื่อผลิตภาพยนตร์แอนิเมชั่นหรือฝึกอบรม เครือข่ายประสาทเทียม.
ราคา
ราคาเริ่มต้นที่ $1.30/ชั่วโมง สำหรับ NVIDIA® GeForce™ RTX 3090
7. Google Cloud GPU
Google Cloud Platform (GCP) มีอินสแตนซ์ GPU จำนวนมากที่สามารถใช้เพื่อเพิ่มความเร็วของกระบวนการ เช่น การเรียนรู้ของเครื่อง การเรียนรู้เชิงลึก และการประมวลผลประสิทธิภาพสูง (HPC)
อินสแตนซ์ GPU เหล่านี้ซึ่งรองรับโดย NVIDIA, AMD และ Intel GPUs ทำให้สามารถเข้าถึงไลบรารี CUDA และ cuDNN ซึ่งใช้บ่อยสำหรับการประมวลผลที่เร่งด้วย GPU
เนื่องจากการปรับเปลี่ยนเครื่องจักร การกำหนดราคาที่ยืดหยุ่น และความเป็นไปได้ของ GPU ที่หลากหลาย HPC จึงมีประสิทธิผลมากขึ้น
นอกจากนี้ยังสามารถช่วยแบ่งเบาภาระงานของคุณ ในบรรดา GPU ที่พวกเขาให้มา ได้แก่ NVIDIA K80, P4, V100, A100, T4 และ P100 มีเพียงโซนจำนวนเล็กน้อยที่กระจายไปตามสถานที่ต่างๆ เท่านั้นที่สามารถเข้าถึง GPU ได้
ราคา
ค่าใช้จ่ายจะแตกต่างกันไปตามภูมิภาค GPU ที่คุณเลือก และประเภทเครื่อง สำหรับ NVIDIA A100 ราคาเริ่มต้นที่ $3.93 ต่อ GPU
8. NVIDIA GPU คลาวด์
NVIDIA GPU Cloud (NGC) เป็นแพลตฟอร์มบนคลาวด์ที่ให้ผู้ใช้เข้าถึงซอฟต์แวร์ที่เร่งด้วย GPU ที่หลากหลาย เช่น เครื่องมือสร้างภาพ โปรแกรม HPC และ การเรียนรู้ลึก ๆ กรอบ
นักพัฒนา นักวิทยาศาสตร์ข้อมูลและตอนนี้นักวิจัยสามารถใช้พลังการประมวลผลของ NVIDIA GPUs ในระบบคลาวด์ได้อย่างง่ายดายโดยไม่ต้องกังวลเกี่ยวกับโครงสร้างพื้นฐานหรือการบำรุงรักษาที่จำเป็นในการใช้งานแอปของพวกเขาด้วย NGC
ไลบรารีของคอนเทนเนอร์ซอฟต์แวร์ที่กำหนดค่าไว้ล่วงหน้ารวมอยู่ใน NGC และปรับใช้ได้อย่างรวดเร็วในหลายๆ คอมพิวเตอร์เมฆ โครงสร้างพื้นฐาน ได้แก่ Amazon Web Services, Google Cloud Platform และ Microsoft Azure
การเข้าถึง NGC ยังช่วยให้ผู้ใช้เข้าถึงแพลตฟอร์มการเรียนรู้เชิงลึกของ NVIDIA ซึ่งมาพร้อมกับโปรแกรมและทรัพยากรจำนวนมากสำหรับการสร้างและนำโมเดลการเรียนรู้เชิงลึกไปใช้ รวมถึง TensorRT, cuDNN และ CUDA-X AI
ราคา
ขึ้นอยู่กับบริการและทรัพยากรเฉพาะที่คุณใช้ ราคาของ NVIDIA GPU Cloud (NGC) จะเปลี่ยนแปลง แม้ว่าบริการ NGC บางอย่าง เช่น ชุดซอฟต์แวร์การเรียนรู้เชิงลึกจะใช้งานได้ฟรี แต่บริการอื่นๆ เช่น คอนเทนเนอร์แอปพลิเคชัน HPC อาจคิดราคา โปรดดูที่แคตตาล็อก NGC
9. แลมบ์ดา GPU Cloud
Lambda จัดเตรียมอินสแตนซ์ GPU บนระบบคลาวด์สำหรับการฝึกอบรมโมเดลการเรียนรู้เชิงลึกและความสามารถในการปรับขยายจากคอมพิวเตอร์จริงเครื่องเดียวไปยังเครื่องเสมือนหลายเครื่อง
จากแดชบอร์ด เข้าถึงเฉพาะของแต่ละเครื่องได้ทันที โน้ตบุ๊ค Jupyter สภาพแวดล้อมการเขียนโปรแกรม สำหรับการเข้าถึงโดยตรง ให้ใช้ SSH โดยตรงกับคีย์ SSH อันใดอันหนึ่ง หรือเชื่อมต่อผ่าน Web Terminal บนแดชบอร์ดระบบคลาวด์
แต่ละอินสแตนซ์รองรับการเชื่อมต่อระหว่างโหนดสูงสุด 10 Gbps ทำให้สามารถฝึกอบรมแบบกระจายโดยใช้เฟรมเวิร์กเช่น Horovod
การเพิ่มจำนวน GPU ในหนึ่งหรือหลายอินสแตนซ์สามารถช่วยเพิ่มความเร็วในการเพิ่มประสิทธิภาพโมเดล แพลตฟอร์มรองรับอินสแตนซ์ GPU จาก NVIDIA RTX 6000, Quadro RTX 6000 และ Tesla V100s
ราคา
ราคาเริ่มต้นที่ $1.10/ชั่วโมง สำหรับ NVIDIA A100
10. ไอบีเอ็มคลาวด์ GPU
IBM Cloud GPU ใช้เครือข่ายศูนย์ข้อมูลที่กระจายอยู่ทั่วโลกเพื่อเสนอขั้นตอนการเลือกเซิร์ฟเวอร์ที่ยืดหยุ่นและการเชื่อมต่อที่ราบรื่นด้วยสถาปัตยกรรม IBM Cloud, API และแอปพลิเคชัน
ด้วยอินสแตนซ์ Intel Xeon 4210, Xeon 5218 และ Xeon 6248 GPU จึงมีตัวเลือก GPU เซิร์ฟเวอร์แบบ Bare-Metal
คุณสามารถดำเนินการปริมาณงานประสิทธิภาพสูง ไวต่อความหน่วง เฉพาะทาง และแบบเดิมได้โดยตรงบนฮาร์ดแวร์เซิร์ฟเวอร์โดยใช้อินสแตนซ์แบบ Bare-Metal เช่นเดียวกับที่ทำได้ด้วย GPU ในองค์กร
สำหรับตัวเลือกเซิร์ฟเวอร์แบบ Bare-Metal พวกเขายังมีอินสแตนซ์ที่มี GPU NVIDIA T4 และโปรเซสเซอร์ Intel Xeon ที่มีคอร์สูงสุด 40 คอร์ ตลอดจนอินสแตนซ์สำหรับทางเลือกเซิร์ฟเวอร์เสมือนที่มีรุ่น NVIDIA V100 และ P100
ราคา
ราคาเริ่มต้นที่ $514/เดือน สำหรับ Intel Xeon4110
สรุป
ประการสุดท้าย บริการ GPU บนคลาวด์ที่ดีที่สุดสำหรับ AI คือบริการที่มีทรัพยากร GPU ที่แข็งแกร่ง ตัวเลือกราคาที่ปรับเปลี่ยนได้ และการปรับขนาดที่ง่ายดาย
บริษัททั้งหมดที่ให้บริการอินสแตนซ์ GPU สำหรับปริมาณงาน AI—AWS, NVIDIA, IBM และ GCP—มีกลุ่มผลิตภัณฑ์ที่ยอดเยี่ยมในแง่ของประสิทธิภาพและฟังก์ชันการทำงาน
ตัวเลือกที่ดีที่สุดจะพิจารณาจากความต้องการเฉพาะของคุณ ข้อจำกัดทางการเงิน โครงสร้างพื้นฐานที่มีอยู่แล้ว และความต้องการของผู้ขาย
เขียนความเห็น