Tunaishi katika nyakati za kusisimua, huku kukiwa na matangazo kuhusu teknolojia ya kisasa kila wiki. OpenAI imetoa mtindo wa kisasa wa maandishi-hadi-picha DALLE 2.
Ni watu wachache tu walipata ufikiaji wa mapema kwa mfumo mpya wa AI ambao unaweza kutoa michoro halisi kutoka kwa maelezo ya lugha asilia. Bado imefungwa kwa umma.
Utulivu AI kisha iliyotolewa Usambazaji Imara mfano, lahaja ya chanzo huria ya DALLE2. Uzinduzi huu umebadilisha kila kitu. Watu kote mtandaoni walikuwa wakichapisha matokeo ya haraka na kushangazwa na sanaa halisi.
Usambazaji thabiti ni nini?
Usambazaji Imara ni modeli ya kujifunza kwa mashine inayoweza kuunda picha kutoka kwa maandishi, kubadilisha picha kulingana na maandishi, na kujaza maelezo kwenye picha zenye ubora wa chini au za maelezo ya chini.
Ilifunzwa kwenye mabilioni ya picha na inaweza kutoa matokeo sawa na DALL-E2 na MidJourney. AI ya utulivu iliivumbua, na iliwekwa wazi mnamo Agosti 22, 2022.
Lakini kwa rasilimali chache za hesabu za ndani, muundo wa Usambazaji Imara huchukua muda mrefu kuunda picha za ubora wa juu. Kuendesha kielelezo mtandaoni kwa kutumia mtoa huduma wa wingu hutupatia rasilimali za kukokotoa takriban zisizo na kikomo na huturuhusu kupata matokeo bora kwa haraka zaidi.
Kupangisha muundo kama huduma ndogo pia huruhusu programu zingine bunifu kutumia kwa urahisi uwezo wa kielelezo bila kushughulika na matatizo ya kuendesha miundo ya ML mtandaoni.
Katika chapisho hili, tutajaribu kuonyesha jinsi ya kuunda muundo thabiti wa uenezaji na kuupeleka kwa AWS.
Jenga na Upeleke Usambazaji Imara
BentoML na Amazon Web Services EC2 ni chaguo mbili za kupangisha modeli ya Usambazaji Imara mtandaoni. BentoML ni mfumo wa chanzo huria wa kuongeza kiwango mashine kujifunza huduma. Kwa BentoML, tutaunda huduma inayotegemewa ya utawanyiko na kuipeleka kwa AWS EC2.
Kuandaa mazingira na kupakua modeli thabiti ya uenezaji
Sakinisha mahitaji na ulinganishe hazina.
Unaweza kuchagua na kupakua mfano wa Usambazaji Imara. Usahihi mmoja unafaa kwa CPU au GPU zenye zaidi ya GB 10 za VRAM. Usahihi wa nusu ni bora kwa GPU zilizo na chini ya 10GB VRAM.
Usambazaji thabiti wa ujenzi
Tutaunda huduma ya BentoML ili kutumikia mfano nyuma ya a API nzuri. Mfano ufuatao hutumia modeli moja ya usahihi kwa utabiri na moduli ya service.py kuunganisha huduma kwa mantiki ya biashara. Tunaweza kufichua kazi kama API kwa kuziweka lebo na @svc.api.
Zaidi ya hayo, tunaweza kufafanua aina za pembejeo na matokeo za API katika vigezo. Mwisho wa txt2img, kwa mfano, hupokea ingizo la JSON na kutoa matokeo ya Picha, ilhali sehemu ya mwisho ya img2img inakubali Picha na ingizo la JSON na kurejesha towe la Picha.
StableDiffusionRunnable inafafanua mantiki muhimu ya uelekezaji. Inayoendeshwa inasimamia kuendesha mbinu za bomba za txt2img za modeli na kutuma pembejeo husika. Kwa kuendesha mantiki ya uelekezaji wa mfano katika APIs, Runner maalum inaundwa kutoka kwa StableDiffusionRunnable.
Kisha, tumia amri ifuatayo kuanzisha huduma ya BentoML kwa majaribio. Kuendesha ndani ya nchi Mfano wa Usambazaji thabiti inference juu ya CPUs ni badala ya uvivu. Kila ombi litachukua kama dakika 5 kuchakatwa.
Maandishi kwa picha
Maandishi kwa pato la picha
Faili ya bentofile.yaml inafafanua faili zinazohitajika na vitegemezi.
Tumia amri hapa chini kuunda bento. Bento ni umbizo la usambazaji wa huduma ya BentoML. Ni kumbukumbu inayojitosheleza ambayo ina data na usanidi wote unaohitajika ili kuanzisha huduma.
Bento ya Usambazaji Imara imekamilika. Ikiwa haukuweza kutengeneza bento ipasavyo, usiogope; unaweza kupakua muundo uliojengwa awali kwa kutumia amri zilizoorodheshwa katika sehemu inayofuata.
Miundo ya kujenga kabla
Ifuatayo ni mifano ya uundaji wa awali:
Sambaza muundo wa Usambazaji Imara kwa EC2
Ili kupeleka bento kwa EC2, tutatumia bentoctl. bentoctl inaweza kukuruhusu kupeleka bentos zako kwa yoyote jukwaa la wingu kwa kutumia Terraform. Ili kuunda na kutumia faili za Terraform, sakinisha opereta ya AWS EC2.
Katika faili ya uwekaji config.yaml, uwekaji tayari umesanidiwa. Tafadhali jisikie huru kuhariri kwa mahitaji yako. Bento inatumwa kwa chaguomsingi kwenye seva pangishi ya g4dn.xlarge na Kujifunza kwa kina AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI kwenye eneo la us-west-1.
Unda faili za Terraform sasa. Unda picha ya Docker na uipakie kwa AWS ECR. Kulingana na kipimo data chako, upakiaji wa picha unaweza kuchukua muda mrefu. Wakati wa kupeleka bento kwa AWS EC2, tumia faili za Terraform.
Ili kufikia UI ya Swagger, unganisha kwenye dashibodi ya EC2 na ufungue anwani ya IP ya umma kwenye kivinjari. Hatimaye, ikiwa huduma ya BentoML ya Usambazaji Imara haihitajiki tena, ondoa uwekaji.
Hitimisho
Unapaswa kuwa na uwezo wa kuona jinsi SD ya kuvutia na yenye nguvu na miundo shirikishi ni. Muda utatuambia ikiwa tutasisitiza juu ya dhana zaidi au kuendelea na mbinu za kisasa zaidi.
Hata hivyo, kwa sasa kuna mipango inayoendelea ya kutoa mafunzo kwa wanamitindo wakubwa na marekebisho ili kufahamu vyema mazingira na maagizo. Tulijaribu kutengeneza huduma ya Usambazaji Imara kwa kutumia BentoML na tukaisambaza kwa AWS EC2.
Tuliweza kutumia kielelezo cha Usambazaji Imara kwenye maunzi yenye nguvu zaidi, kuunda picha zisizo na kasi ya chini, na kupanua zaidi ya kompyuta moja kwa kupeleka huduma kwenye AWS EC2.
Acha Reply