טיש פון קאָנטענץ[באַהאַלטן][ווייַזן]
קלאָוד גפּוס זענען אין גרויס פאָדערונג ווי נייַע טעקנאַלאַדזשיז אַזאַ ווי טיף לערנען, אַי און מאַשין לערנען.
גפּוס (גראַפיקס פּראַסעסינג וניץ) זענען ספּעשאַלייזד פּראַסעסערז געמאכט צו שעפּן די ריזיק דאַטן שטעלט און ינטראַקאַט קאַמפּיאַטיישאַנז דארף פֿאַר אַקטיוויטעטן ווי קאָמפּיוטער גראַפיקס און גיימינג. זיי זענען איצט קריטיש פֿאַר די פעלד פון קינסטלעך סייכל (AI) ווי געזונט, כאָטש, ווי פון שפּעט.
טראַדיציאָנעל קפּוס (סענטראַל פּראַסעסינג וניץ) קענען נישט טרעפן די פאָדערונג זינט אַי מאָדעלס דאַרפן אַ באַטייטיק סומע פון קאַמפּיוטינג מאַכט צו באַן און לויפן.
אויף די אנדערע האַנט, זינט זיי זענען געבויט צו שטיצן פּאַראַלעל פּראַסעסינג, גפּוס זענען מער עפעקטיוו אין אָנפירונג די מאַסיוו וואַליומז פון דאַטן און ינטראַקאַט קאַמפּיאַטיישאַנז דארף פֿאַר אַי אַפּעריישאַנז.
אויב איר זענט אין טעק, איר מוזן האָבן געהערט וועגן וואָלקן גפּו באַדינונגס. פאר די וואס וועלן נישט נאכגיין.
א וואָלקן-באזירט דינסט וואָס גיט יוזערז אָנליין אַקסעס צו שטאַרק גפּו רעסורסן איז באַוווסט ווי אַ וואָלקן גפּו דינסט פֿאַר אַי. אַנשטאָט צו דאַרפֿן צו קויפן און טייַנען זייער אייגענע גפּו ייַזנוואַרג, די סערוויסעס געבן קאַסטאַמערז צו דינגען גפּו רעסורסן ווי דארף.
דאָס מאכט עס פיזאַבאַל פֿאַר מענטשן און אָרגאַנאַזיישאַנז צו נוצן די פּראַסעסינג קאַפּאַציטעט פון די גפּוס אָן האָבן צו מאַכן אַ סייזאַבאַל ערשט ינוועסמאַנט אָדער צאָלן קאַנטיניוינג וישאַלט פיז.
די מערהייט פון וואָלקן גפּו באַדינונגס פֿאַר אַי צושטעלן אַ ברייט פאַרשיידנקייַט פון גפּו אָפּציעס, אַרייַנגערעכנט עטלעכע מאָדעלס און קאַנפיגיעריישאַנז און די בייגיקייט צו פאַרגרעסערן אָדער אַראָפּ ווי נייטיק. איר קענט איצט אויסקלייַבן די ידעאַל גפּו רעסורסן פֿאַר זייער יינציק באדערפענישן און פּראַדזשעקס דאַנק צו דעם דינסט.
אַדדיטיאָנאַללי, די סערוויסעס אָפט קומען מיט אנדערע קייפּאַבילאַטיז אַרייַנגערעכנט נעטוואָרקינג, סטאָרידזש און ווייכווארג מכשירים צו הילף קאַסטאַמערז אין זייער אַי פּראַדזשעקס. אין דעם פּאָסטן, מיר וועלן קוקן אין די שפּיץ וואָלקן גפּו באַדינונגס פֿאַר אַי.
1. לינאָדע
לינאָדע אָפפערס גפּוס אויף פאָדערונג פֿאַר ווערקלאָודז ווי ווידעא פּראַסעסינג, וויסנשאפטלעכע קאַמפּיוטינג, מאַשין וויסן, קינסטלעך סייכל, און אנדערע.
עס גיט גפּו-אָפּטימיזעד ווירטואַל מאשינען (VMs) וואָס לויפן אויף NVIDIA Quadro RTX 6000, Tensor און RT קאָרעס און ניצט CUDA פיייקייט צו טאָן טיף לערנען, שטראַל טרייסינג ווערקלאָודז און קאָמפּלעקס חשבונות.
דורך ווענדן דיין קאַפּיטאַל העצאָע אין אַן אַפּערייטינג קאָסט, איר קענען נוצן די GPU פיייקייט פון Linode GPU און די פאַקטיש ווערט פון די וואָלקן.
אַדדיטיאָנאַללי, לינאָדע פריי איר פון האָבן צו זאָרג וועגן די ייַזנוואַרג אַזוי איר קענען קאַנסאַנטרייט אויף דיין סטראָנגעסט סקילז.
מיט לינאָדע גפּוס, עס איז איצט מעגלעך צו נוצן זיי פֿאַר סאַפיסטאַקייטיד אַפּלאַקיישאַנז ווי ווידעא סטרימינג, קינסטלעך סייכל און מאַשין לערנען.
אין אַדישאַן, דיפּענדינג אויף די סומע פון פּראַסעסינג מאַכט פארלאנגט פֿאַר אַנטיסאַפּייטיד ווערקלאָודז, איר קענען באַקומען אַרויף צו 4 קאַרדס פֿאַר יעדער בייַשפּיל.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 1.5 / שעה פֿאַר די דעדאַקייטאַד RTX6000 גפּו פּלאַן. באַקומען סטאַרטעד מיט לינאָדע פֿאַר פריי.
2. גרויס אַי
וואַסט אַי איז אַ גלאבאלע מאַרק ווו יוזערז קענען דינגען ביליק גפּוס פֿאַר נוצן אין הויך-פאָרשטעלונג קאַמפּיוטינג.
זיי רעדוצירן די קאָס פון קאַמפּיוטיישאַנאַל שווער טאַסקס דורך געבן האָסץ צו דינגען זייער גפּו ייַזנוואַרג, אַלאַוינג ניצערס צו נוצן זייער אָנליין זוכן געצייַג צו געפֿינען די טשיפּאַסט פּרייסאַז פֿאַר קאַמפּיוטינג אין לויט מיט זייער באדערפענישן און ויספירן קאַמאַנדז אָדער קאַטער SSH קאַנעקשאַנז.
זיי צושטעלן SSH ינסטאַנסיז, Jupyter ינסטאַנסיז מיט די Jupyter GUI, אָדער באַפֿעל-בלויז ינסטאַנסיז, און האָבן אַ סטרייטפאָרווערד באַניצער צובינד.
א טיף לערנען פאָרשטעלונג פֿונקציע (DLPerf), וואָס פאָרקאַסץ אַן עסטימאַטעד טיף לערנען אַרבעט פאָרשטעלונג, איז אויך צוגעשטעלט.
די סיסטעמען געניצט דורך Vast AI זענען Ubuntu-באזירט און טאָן ניט פאָרשלאָגן ווייַט דעסקטאַפּס. זיי אויך אַרבעטן ינסטאַנסיז וואָס זענען בארעכטיגט אויף פאָדערונג פֿאַר אַ ספּעציפיש אָפּצאָל געגרינדעט דורך דער באַלעבאָס.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 0.80 / שעה פֿאַר 4 קס RTX A6000.
3. AWS & NVIDIA
צוזאַמען, AWS און NVIDIA צושטעלן קאַנסיסטאַנטלי גפּו-באזירט סאַלושאַנז וואָס זענען אַפאָרדאַבאַל, אַדאַפּטאַבאַל און שטאַרק.
עס כולל NVIDIA GPU-Powered Amazon EC2 ינסטאַנסיז און באַדינונגס ווי AWS IoT Greengrass וואָס ינסטאָלז מיט NVIDIA Jetson Nano מאַדזשולז.
פֿאַר ווירטועל ווערקסטיישאַנז, מאַשין לערנען (ML), אינטערנעט פון טהינגס (יאָט) באַדינונגס און הויך-פאָרשטעלונג קאַמפּיוטינג, יוזערז נוצן AWS און NVIDIA. סקאַלאַבלע פאָרשטעלונג איז צוגעשטעלט דורך די NVIDIA גפּוס וואָס מאַכט אַמאַזאָן EC2 ינסטאַנסיז.
אַדדיטיאָנאַללי, נוצן AWS IoT Greengrass צו פאַרבינדן NVIDIA-באזירט ברעג דעוויסעס צו די AWS וואָלקן באַדינונגס.
Amazon EC2 P4d ינסטאַנסיז זענען פּאַוערד דורך NVIDIA A100 Tensor Core GPUs, וואָס צושטעלן די ינדאַסטרי ס לאָואַסט לייטאַנסי נעטוואָרקינג און העכסטן טרופּוט.
ענלעך צו דעם, עס זענען אנדערע פאַרשידענע ינסטאַנסיז בנימצא פֿאַר זיכער צושטאנדן, אַזאַ ווי Amazon EC2 P3, Amazon EC2 G4, עטק.
פּרייסינג
איר קענט אָנווענדן פֿאַר אַ פריי פּראָצעס און ביטע קאָנטאַקט די פאַרקויפער פֿאַר די פּרייסינג.
4. פּאַפּערספּאַסע CORE
א CORE איז אַ גאָר געראטן וואָלקן גפּו פּלאַטפאָרמע באשאפן דורך פּאַפּערספּאַסע וואָס גיט סטרייטפאָרווערד, קאָס-עפעקטיוו און אַקסעלערייטיד קאַמפּיוטינג פֿאַר פאַרשידן אַפּלאַקיישאַנז.
ניצן די לעצטע אַקסעלערייטיד קאַמפּיוטינג ינפראַסטראַקטשער צוגעשטעלט דורך Paperspace CORE צו פאַרגיכערן אָרגאַנאַזיישאַנאַל פּראַסעסאַז. פֿאַר שנעל אָנבאָאַרדינג, קאַלאַבערייטיוו מכשירים און דעסקטאַפּ אַפּלאַקיישאַנז פֿאַר מעק, לינוקס און ווינדאָוז, עס אָפפערס אַ באַניצער-פרייַנדלעך און אַנקאַמפּלאַקייטיד צובינד.
ניצן עס צו ויספירן פאדערן מגילה אויף אַ ינפאַנאַט סומע פון פּראַסעסינג מאַכט. CORE אָפפערס אַ סופּער-שנעל נעץ, שנעל פּראַוויזשאַנז, שטיצן פֿאַר 3 ד אַפּפּס און אַ גאַנץ אַפּי פֿאַר פּראָגראַממאַטיק אַקסעס.
מיט אַן גרינג-צו-נוצן און ינטואַטיוו GUI, באַקומען אַ פולשטענדיק בילד פון דיין ינפראַסטראַקטשער אין איין אָרט.
דערצו, באַקומען ויסגעצייכנט קאָנטראָל דאַנק צו די CORE ס אַדמיניסטראַציע צובינד, וואָס אָפפערס שטאַרק מכשירים און אַלאַוז איר צו פילטער, סאָרט, פאַרבינדן אָדער שאַפֿן מאשינען, נעטוואָרקס און ניצערס.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 0.45 / שעה פֿאַר די דעדאַקייטאַד M4000 גפּו.
5. אַליבאַבאַ עלאַסטיק גפּו סערוויס
Alibaba Elastic GPU Service (EGS) לעוועראַדזשאַז גפּו טעכנאָלאָגיע צו צושטעלן פּאַראַלעל און שטאַרק פּראַסעסינג קייפּאַבילאַטיז. פילע אַפּלאַקיישאַנז, אַרייַנגערעכנט ווידעא פּראַסעסינג, וויזשוואַלאַזיישאַן, וויסנשאפטלעכע קאַמפּיוטינג און טיף לערנען, זענען געזונט פּאַסיק פֿאַר עס.
EGS ניצט אַ נומער פון גפּוס, אַרייַנגערעכנט AMD FirePro S7150, NVIDIA Tesla M40, NVIDIA Tesla V100, NVIDIA Tesla P4 און NVIDIA Tesla P100.
איר וועט האָבן אַקסעס צו אַדוואַנטידזשיז אַרייַנגערעכנט אָנליין טיף לערנען ינפעראַנס באַדינונגס און טריינינג, אינהאַלט לעגיטימאַציע, בילד און קול דערקענונג, הד מידיאַ קאָדירונג, ווידעא קאַנפראַנסינג, מקור פילם רעסטעריישאַן און 4K/8K HD לעבן.
באַקומען אַלטערנאַטיוועס ווי ווידעא רענדערינג, קאַמפּיוטיישאַנאַל פינאַנצן, קלימאַט פּראָגנאָז, צונויפשטויס סימיאַליישאַן, גענעטיק ינזשעניעריע, ניט-לינעאַר עדיטינג, ווייַט בילדונג אַפּלאַקיישאַנז און ינזשעניעריע פּלאַן.
פּרייסינג
עס אָפפערס אַ פריי פּראָצעס און באַצאָלט-ווי-איר-גיין אַבאָנעמענט פּלאַן, וואָס מיטל איר נאָר וואָס ינסטאַנסיז אָדער גפּוס איר נוצן.
6. בראשית ענד
גענעסיס קלאָוד אָפפערס אַ העכסט פּרייַז-עפעקטיוו וואָלקן גפּו פּלאַטפאָרמע. זיי אַרבעטן אין שוטפעס מיט עטלעכע עפעקטיוו דאַטן סענטערס איבער דער וועלט צו צושטעלן אַ ברייט פאַרשיידנקייַט פון אַפּלאַקיישאַנז.
גענעסיס קלאָוד גיט אַ ברייט קייט פון נוציק פֿעיִקייטן אָן נאָך קאָס, אַרייַנגערעכנט סנאַפּשאַץ פֿאַר באַקינג אַרויף דיין אַרבעט, זיכערהייט גרופּעס פֿאַר נעץ פאַרקער, סטאָרידזש וואַליומז פֿאַר גרויס דאַטן שטעלט, FastAI, PyTorch, פּריסעט בילדער און אַ עפנטלעך TensorFlow API.
זיי פאַרגיכערן קאַמפּיאַטיישאַן מיט די הילף פון NVIDIA GeForce RTX 3090, RTX 3080, RTX 3060 Ti און GTX 1080 Ti טעקנאַלאַדזשיז אין זייער וואָלקן גפּו ינסטאַנסיז.
איר קענען נוצן די מאַכט פון גפּו קאַמפּיוטינג צו פּראָדוצירן אַנימאַטעד קינאָ אָדער באַן נוראַל נעטוואָרקס.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 1.30 / שעה פֿאַר NVIDIA® GeForce ™ RTX 3090.
7. Google קלאָוד גפּו
Google Cloud Platform (GCP) אָפפערס אַ נומער פון גפּו ינסטאַנסיז וואָס קענען זיין גענוצט צו פאַרגיכערן פּראַסעסאַז ווי מאַשין לערנען, טיף לערנען און הויך-פאָרשטעלונג קאַמפּיוטינג (HPC).
דורך די גפּו ינסטאַנסיז, וואָס זענען געשטיצט דורך NVIDIA, AMD און Intel GPUs, עס איז מעגלעך צו אַקסעס די CUDA און cuDNN לייברעריז, וואָס זענען אָפט געניצט פֿאַר גפּו-אַקסעלערייטיד קאַמפּיוטינג.
ווייַל פון מאַשין מאָדיפיקאַטיאָנס, פלעקסאַבאַל פּרייסינג און אַ גרויס קייט פון גפּו פּאַסאַבילאַטיז, HPC קען זיין מער פּראָדוקטיוו.
דערצו, עס קען העלפֿן איר לייטאַן דיין ווערקלאָוד. צווישן די גפּוס זיי צושטעלן זענען די NVIDIA K80, P4, V100, A100, T4 און P100. בלויז אַ קליין נומער פון זאָנעס דיספּערסט אין פאַרשידענע ערטער האָבן אַקסעס צו די גפּוס.
פּרייסינג
די פּרייַז וועט בייַטן באזירט אויף דער געגנט, די גפּו איר סעלעקטירן און די מאַשין טיפּ. פֿאַר די NVIDIA A100, פּרייסאַז אָנהייבן ביי $ 3.93 פּער גפּו.
8. נווידיאַ גפּו קלאָוד
די NVIDIA GPU Cloud (NGC) איז אַ וואָלקן-באזירט פּלאַטפאָרמע וואָס גיט יוזערז אַקסעס צו פאַרשידן גפּו-אַקסעלערייטיד ווייכווארג, אַזאַ ווי וויזשוואַלאַזיישאַן מכשירים, HPC מגילה און טיף לערנען פראַמעוואָרקס.
דעוועלאָפּערס, דאַטן סייאַנטיס, און ריסערטשערז קענען איצט לייכט נוצן די קאַמפּיוטינג מאַכט פון NVIDIA GPUs אין די וואָלקן אָן זארגן וועגן די ינפראַסטראַקטשער אָדער ופהאַלטונג דארף צו אַרבעטן זייער אַפּפּס דאַנק צו NGC.
א ביבליאָטעק פון פאַר-קאַנפיגיערד ווייכווארג קאַנטיינערז איז אַרייַנגערעכנט מיט NGC און קענען זיין געשווינד דיפּלויד אויף אַ נומער פון וואָלקן קאָמפּוטינג ינפראַסטראַקטשער, אַרייַנגערעכנט Amazon Web Services, Google Cloud Platform און Microsoft Azure.
אַקסעס צו NGC אויך גיט יוזערז אַקסעס צו NVIDIA ס טיף לערנען פּלאַטפאָרמע, וואָס קומט מיט אַ נומער פון מגילה און רעסורסן פֿאַר קריייטינג און ימפּלאַמענינג טיף לערנען מאָדעלס, אַרייַנגערעכנט TensorRT, cuDNN און CUDA-X AI.
פּרייסינג
דעפּענדינג אויף די ספּעציפיש באַדינונגס און רעסורסן איר נוצן, די NVIDIA GPU Cloud's (NGC) פּרייַז ענדערונגען. בשעת עטלעכע NGC באַדינונגס, ווי די טיף לערנען ווייכווארג אָנלייגן, זענען פריי צו נוצן, אנדערע, אַזאַ ווי HPC אַפּלאַקיישאַן קאַנטיינערז, קען באַשולדיקן אַ פּרייַז. ביטע אָפּשיקן צו די NGC קאַטאַלאָג.
9. לאַמבדאַ גפּו קלאָוד
Lambda גיט וואָלקן גפּו ינסטאַנסיז פֿאַר טיף לערנען מאָדעל טריינינג און סקאַלאַביליטי פון אַ איין פיזיש קאָמפּיוטער צו פילע ווירטואַל מאשינען.
פֿון די דאַשבאָרד, גלייך אַקסעס יעדער מאַשין ס ספּעשאַלייזד דזשופּיטער נאָוטבוק פּראָגראַממינג סוויווע. פֿאַר דירעקט אַקסעס, נוצן SSH גלייך מיט איינער פון די SSH שליסלען אָדער פאַרבינדן דורך די וועב טערמינאַל אויף די וואָלקן דאַשבאָרד.
א מאַקסימום פון 10 גבפּס פון ינטער-נאָדע קאַנעקטיוויטי איז געשטיצט דורך יעדער בייַשפּיל, אַלאַוינג פֿאַר פונאנדערגעטיילט טריינינג ניצן פראַמעוואָרקס ווי Horovod.
סקאַלינג די נומער פון גפּוס אין איין אָדער עטלעכע ינסטאַנסיז קענען העלפֿן פאַרגיכערן מאָדעל אַפּטאַמאַזיישאַן. די פּלאַטפאָרמע שטיצט גפּו ינסטאַנסיז פון NVIDIA RTX 6000, Quadro RTX 6000 און Tesla V100s.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 1.10 / שעה פֿאַר NVIDIA A100.
קסנומקס. יבם קלאָוד גפּו
די IBM Cloud GPU ניצט אַ גלאָובאַלי דיספּערסט נעץ פון דאַטן סענטערס צו פאָרשלאָגן פלעקסאַבאַל סערווער סעלעקציע פּראָוסידזשערז און גלאַט קאַנעקטיוויטי מיט די IBM וואָלקן אַרקאַטעקטשער, אַפּיס און אַפּלאַקיישאַנז.
מיט Intel Xeon 4210, Xeon 5218 און Xeon 6248 GPU ינסטאַנסיז, עס אָפפערס די נאַקעט-מעטאַל סערווירער גפּו אָפּציע.
איר קענען ויספירן הויך-פאָרשטעלונג, לייטאַנסי-שפּירעוודיק, ספּעשאַלייזד און קאַנווענשאַנאַל ווערקלאָודז גלייַך אויף סערווער ייַזנוואַרג ניצן נאַקעט-מעטאַל ינסטאַנסיז, פּונקט ווי זיי קען מיט אויף-האַנאָכע גפּוס.
פֿאַר זייער נאַקעט-מעטאַל סערווער אָפּציע, זיי אויך צושטעלן ינסטאַנסיז מיט NVIDIA T4 GPUs און Intel Xeon פּראַסעסערז מיט אַרויף צו 40 קאָרעס, ווי געזונט ווי ינסטאַנסיז פֿאַר זייער ווירטואַל סערווער אַלטערנאַטיוועס מיט NVIDIA V100 און P100 מאָדעלס.
פּרייסינג
פּרייסינג סטאַרץ ביי $ 514 / חודש פֿאַר Intel Xeon4110.
סאָף
צום סוף, די פיינאַסט וואָלקן גפּו באַדינונגס פֿאַר אַי זענען די וואָס פאָרשלאָגן שטאַרק גפּו רעסורסן, אַדאַפּטאַבאַל פּרייַז ברירות און פּשוט סקיילינג.
אַלע קאָמפּאַניעס וואָס צושטעלן גפּו ינסטאַנסיז פֿאַר אַי ווערקלאָודז - AWS, NVIDIA, IBM און GCP - האָבן ויסגעצייכנט פּראָדוקט שורות אין טערמינען פון פאָרשטעלונג און פאַנגקשאַנאַליטי.
דער בעסטער אָפּציע איז לעסאָף באשלאסן דורך דיין יינציק רעקווירעמענץ, פינאַנציעל קאַנסטריינץ, ינפראַסטראַקטשער שוין אין פּלאַץ און פאַרקויפער פּרעפֿערענצן.
לאָזן אַ ענטפֿערן