Aħna ngħixu fi żminijiet eċċitanti, b'avviżi dwar teknoloġija avvanzata kull ġimgħa. OpenAI għadu kif ħareġ il-mudell avvanzat minn test għal immaġni DALLE 2.
Ftit nies biss kisbu aċċess bikri għal sistema AI ġdida li tista’ tiġġenera grafika realistika minn deskrizzjonijiet tal-lingwa naturali. Għadu magħluq għall-pubbliku.
L-Istabbiltà AI mbagħad ħarġet il- Diffużjoni Stabbli mudell, varjant open-source ta 'DALLE2. Din it-tnedija bidlet kollox. In-nies kollha madwar l-internet kienu qed jippubblikaw riżultati malajr u kienu sorpriżi bl-arti realistika.
X'inhu Diffużjoni Stabbli?
Diffużjoni Stabbli huwa mudell ta’ tagħlim tal-magni li kapaċi joħloq immaġini mit-test, jibdel l-immaġini skont it-test, u jimla d-dettalji fuq stampi b’riżoluzzjoni baxxa jew b’dettall baxx.
Ġie mħarreġ fuq biljuni ta 'ritratti u jista' jagħti riżultati ekwivalenti għal DALL-E2 u, MidJourney. Stabbiltà AI ivvintatha, u saret pubblika fit-22 ta’ Awwissu, 2022.
Iżda b'riżorsi ta 'komputazzjoni lokali limitati, il-mudell ta' Diffużjoni Stabbli jieħu ħafna żmien biex joħloq stampi ta 'kwalità għolja. It-tħaddim tal-mudell onlajn bl-użu ta 'fornitur tas-sħab jipprovdilna riżorsi komputazzjonali kważi infiniti u jippermettilna nakkwistaw riżultati eċċellenti ħafna aktar malajr.
L-ospitar tal-mudell bħala mikroservizz jippermetti wkoll li apps kreattivi oħra jisfruttaw aktar faċilment il-potenzjal tal-mudell mingħajr ma jkollhom għalfejn jittrattaw il-kumplessitajiet tat-tħaddim tal-mudelli ML onlajn.
F'din il-kariga, se nippruvaw nuru kif niżviluppaw mudell ta 'diffużjoni stabbli u niskjerawh fl-AWS.
Ibni u Użu Diffużjoni Stabbli
BentoML u Amazon Web Services EC2 huma żewġ għażliet biex jospitaw il-mudell ta' Diffużjoni Stabbli onlajn. BentoML huwa qafas open-source għall-iskala tagħlim magna servizzi. B'BentoML, se nibnu servizz ta' dispersjoni affidabbli u niskjerawh fl-AWS EC2.
Tħejjija tal-ambjent u tniżżel mudell ta 'diffużjoni stabbli
Installa r-rekwiżiti u kklona r-repożitorju.
Tista' tagħżel u tniżżel il-mudell ta' Diffużjoni Stabbli. Preċiżjoni waħda hija adattata għal CPUs jew GPUs b'aktar minn 10GB ta 'VRAM. Nofs preċiżjoni hija ideali għal GPUs b'inqas minn 10GB VRAM.
Bini Stabbli Diffużjoni
Aħna se nibnu servizz BentoML biex iservi l-mudell wara a RESTful API. L-eżempju li ġej juża l-mudell ta’ preċiżjoni uniku għat-tbassir u l-modulu service.py biex jgħaqqad is-servizz mal-loġika tan-negozju. Nistgħu nesponu l-funzjonijiet bħala APIs billi ttikkettawhom bi @svc.api.
Barra minn hekk, nistgħu niddefinixxu t-tipi ta 'input u output tal-APIs fil-parametri. L-endpoint txt2img, pereżempju, jirċievi input JSON u jipproduċi output ta 'Immaġini, filwaqt li l-endpoint img2img jaċċetta Image u input JSON u jirritorna output ta' Image.
StableDiffusionRunnable jiddefinixxi l-loġika tal-inferenza essenzjali. Ir-runnable huwa inkarigat mit-tmexxija tal-metodi tal-pajpijiet txt2img tal-mudell u li jibgħat l-inputs rilevanti. Għat-tmexxija tal-loġika tal-inferenza tal-mudell fl-APIs, Runner personalizzat huwa mibni mill-StableDiffusionRunnable.
Imbagħad, uża l-kmand li ġej biex tibda servizz BentoML għall-ittestjar. Tmexxi lokalment il- Mudell ta' Diffużjoni Stabbli inferenza fuq CPUs hija pjuttost kajman. Kull talba tieħu madwar 5 minuti biex tipproċessa.
Test għal immaġini
Output minn test għal immaġini
Il-fajl bentofile.yaml jiddefinixxi l-fajls u d-dipendenzi meħtieġa.
Uża l-kmand hawn taħt biex tibni bento. Bento huwa l-format tad-distribuzzjoni għal servizz BentoML. Huwa arkivju awtonomu li fih id-dejta u l-konfigurazzjonijiet kollha meħtieġa biex jinbeda s-servizz.
Il-bento ta' Diffużjoni Stabbli tlesta. Jekk ma kontx kapaċi tiġġenera sew il-bento, tippanikjax; tista 'tniżżel mudell mibni minn qabel billi tuża l-kmandi elenkati fit-taqsima li jmiss.
Mudelli Pre-build
Dawn li ġejjin huma l-mudelli tal-bini minn qabel:
Uża mudell ta' Diffużjoni Stabbli għal EC2
Biex tuża l-bento għal EC2, se nużaw bentoctl. bentoctl jista 'jħalluk tuża l-bentos tiegħek għal kwalunkwe pjattaforma tas-sħab bl-użu ta' Terraform. Biex tibni u tapplika fajls Terraform, installa l-operatur AWS EC2.
Fil-fajl config.yaml tal-iskjerament, l-iskjerament diġà ġie kkonfigurat. Jekk jogħġbok tħossok liberu li teditja skont il-ħtiġijiet tiegħek. Il-Bento huwa skjerat awtomatikament fuq g4dn.xlarge host mal- Tagħlim fil-fond AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI fuq ir-reġjun us-west-1.
Oħloq il-fajls Terraform issa. Oħloq l-immaġni Docker u tella' fuq AWS ECR. Skont il-bandwidth tiegħek, it-tlugħ tal-immaġni jista 'jieħu żmien twil. Meta tuża l-bento għal AWS EC2, uża l-fajls Terraform.
Biex taċċessa l-UI Swagger, qabbad mal-console EC2 u tiftaħ l-indirizz IP pubbliku fi browser. Fl-aħħarnett, jekk is-servizz Stabbli Diffusion BentoML m'għadux meħtieġ, neħħi l-iskjerament.
konklużjoni
Għandek tkun tista 'tara kemm huma affaxxinanti u qawwija l-SD u l-mudelli sħabu. Iż-żmien se jgħid jekk hux se nirrepetu fuq il-kunċett aktar jew nimxu fuq approċċi aktar sofistikati.
Madankollu, bħalissa hemm inizjattivi għaddejjin biex jitħarrġu mudelli akbar b'aġġustamenti biex jinftiehmu aħjar l-inħawi u l-istruzzjonijiet. Aħna ppruvajna niżviluppaw is-servizz ta' Diffużjoni Stabbli bl-użu ta' BentoML u skjerajnah fl-AWS EC2.
Konna kapaċi nħaddmu l-mudell ta’ Diffużjoni Stabbli fuq ħardwer aktar b’saħħtu, noħolqu stampi b’latenza baxxa, u nestennew lil hinn minn kompjuter wieħed billi niskjeraw is-servizz fuq AWS EC2.
Ħalli Irrispondi