Peb nyob hauv lub sijhawm zoo siab, nrog kev tshaj tawm txog kev siv thev naus laus zis txhua lub lim tiam. OpenAI nyuam qhuav tso tawm cov ntawv txiav-rau-cov duab qauv DALLE 2.
Tsuas yog ob peb tus neeg tau txais kev nkag mus rau AI tshiab uas tuaj yeem tsim cov duab tiag tiag los ntawm cov lus piav qhia. Nws tseem raug kaw rau pej xeem.
Stability AI ces tso tawm ruaj khov diffusion qauv, qhov qhib qhov chaw variant ntawm DALLE2. Qhov kev tso tawm no tau hloov pauv txhua yam. Cov neeg thoob plaws hauv Is Taws Nem tau tshaj tawm cov txiaj ntsig sai thiab xav tsis thoob los ntawm kev kos duab tiag tiag.
Stable Diffusion yog dab tsi?
ruaj khov diffusion yog cov qauv kev kawm tshuab muaj peev xwm tsim cov duab los ntawm cov ntawv nyeem, hloov cov duab nyob ntawm cov ntawv nyeem, thiab sau cov ntsiab lus ntawm cov duab qis lossis cov ntsiab lus tsawg.
Nws tau kawm txog ntau lab tus duab thiab tuaj yeem xa cov txiaj ntsig sib npaug DALL-E2 thiab MidJourney. Stability AI tau tsim nws, thiab nws tau tshaj tawm rau lub Yim Hli 22, 2022.
Tab sis nrog cov peev txheej hauv zos tsawg tsawg, tus qauv Stable Diffusion siv sijhawm ntev los tsim cov duab zoo. Kev khiav cov qauv hauv online siv cov huab muab kev pab cuam rau peb nrog yuav luag infinite computational kev pab cuam thiab tso cai rau peb kom tau zoo heev tshwm sim sai dua.
Kev tuav tus qauv ua microservice kuj tso cai rau lwm cov apps muaj tswv yim kom siv tau yooj yim dua tus qauv lub peev xwm yam tsis tas yuav cuam tshuam nrog qhov nyuaj ntawm kev khiav ML qauv hauv online.
Hauv cov ntawv tshaj tawm no, peb yuav sim ua kom pom tias yuav ua li cas los txhim kho tus qauv sib txawv ruaj khov thiab xa mus rau AWS.
Tsim thiab siv Stable Diffusion
BentoML thiab Amazon Web Services EC2 yog ob qho kev xaiv rau hosting Stable Diffusion qauv online. BentoML yog qhov qhib-qhov txheej txheem rau scaling tshuab kev kawm kev pabcuam. Nrog BentoML, peb yuav tsim cov kev pabcuam cuam tshuam txhim khu kev qha thiab xa mus rau AWS EC2.
Npaj ib puag ncig thiab rub tawm cov qauv sib txawv
Nruab qhov yuav tsum tau thiab clone lub repository.
Koj tuaj yeem xaiv thiab rub tawm tus qauv Stable Diffusion. Ib qho precision yog tsim rau CPUs lossis GPUs nrog ntau dua 10GB ntawm VRAM. Ib nrab precision yog qhov zoo tagnrho rau GPUs nrog tsawg dua 10GB VRAM.
Tsev Stable Diffusion
Peb yuav tsim cov kev pabcuam BentoML los ua tus qauv tom qab a TSEG API. Cov piv txwv hauv qab no siv tib tus qauv precision rau kev kwv yees thiab service.py module los txuas cov kev pabcuam rau kev lag luam logic. Peb tuaj yeem nthuav tawm cov haujlwm ua APIs los ntawm tagging lawv nrog @svc.api.
Tsis tas li ntawd, peb tuaj yeem txhais cov APIs cov tswv yim thiab cov khoom tso tawm hauv qhov tsis muaj. Piv txwv li, txt2img qhov kawg tau txais JSON cov tswv yim thiab tsim cov duab tso zis, qhov kawg ntawm img2img lees txais ib qho duab thiab JSON cov tswv yim thiab xa cov duab tso tawm.
Ib qho StableDiffusionRunnable txhais qhov tseem ceeb inference logic. Lub runnable yog tus saib xyuas ntawm kev khiav tus qauv txt2img yeeb nkab txoj kev thiab xa hauv cov khoom siv. Rau kev khiav tus qauv inference logic nyob rau hauv APIs, ib tug kev cai Runner yog tsim los ntawm lub StableDiffusionRunnable.
Tom qab ntawd, siv cov lus txib hauv qab no los pib qhov kev pabcuam BentoML rau kev sim. Locally khiav lub Stable Diffusion qauv kev xav ntawm CPUs yog qhov qeeb qeeb. Txhua qhov kev thov yuav siv sijhawm li 5 feeb los ua haujlwm.
Text rau duab
Cov ntawv nyeem rau cov duab tso zis
Cov ntaub ntawv bentofile.yaml txhais cov ntaub ntawv xav tau thiab kev vam meej.
Siv cov lus txib hauv qab no los tsim bento. Bento yog hom kev faib tawm rau BentoML kev pabcuam. Nws yog tus kheej-muaj archive uas muaj tag nrho cov ntaub ntawv thiab configurations xav tau los pib qhov kev pab cuam.
Lub Stable Diffusion bento tau ua tiav. Yog tias koj tsis tuaj yeem tsim cov bento kom zoo, tsis txhob ntshai; koj tuaj yeem rub tawm cov qauv ua ntej siv cov lus txib uas tau teev tseg hauv ntu tom ntej.
Ua ntej tsim qauv
Hauv qab no yog cov qauv ua ntej tsim:
Deploy Stable Diffusion qauv rau EC2
Txhawm rau xa cov bento mus rau EC2, peb yuav siv bentoctl. bentoctl tuaj yeem cia koj xa koj cov bentos rau ib qho twg huab platform siv Terraform. Txhawm rau tsim thiab siv cov ntaub ntawv Terraform, nruab AWS EC2 tus neeg teb xov tooj.
Hauv cov ntaub ntawv xa tawm config.yaml, qhov kev xa tawm tau raug teeb tsa. Thov koj xav hloov kho rau koj cov kev xav tau. Lub Bento yog siv los ntawm lub neej ntawd ntawm tus tswv tsev g4dn.xlarge nrog rau Kev kawm tob AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI ntawm thaj tsam us-west-1.
Tsim cov ntaub ntawv Terraform tam sim no. Tsim Docker duab thiab upload rau AWS ECR. Nyob ntawm koj qhov bandwidth, cov duab uploading yuav siv sij hawm ntev. Ntawm kev xa cov bento rau AWS EC2, siv cov ntaub ntawv Terraform.
Txhawm rau nkag mus rau Swagger UI, txuas mus rau EC2 console thiab qhib qhov chaw nyob IP pej xeem hauv browser. Thaum kawg, yog tias qhov kev pabcuam Stable Diffusion BentoML tsis tas yuav tsum tau ua lawm, tshem tawm kev xa tawm.
xaus
Koj yuav tsum tuaj yeem pom tias SD zoo nkauj thiab muaj zog npaum li cas thiab nws cov qauv ua khub zoo li cas. Lub sij hawm yuav qhia yog tias peb yuav rov hais dua ntawm lub tswv yim ntxiv los yog txav mus rau ntau txoj hauv kev sophisticated.
Txawm li cas los xij, tam sim no muaj cov kev pib pib los qhia cov qauv loj dua nrog kev hloov kho kom nkag siab zoo dua nyob ib puag ncig thiab cov lus qhia. Peb sim tsim cov kev pabcuam Stable Diffusion siv BentoML thiab xa mus rau AWS EC2.
Peb muaj peev xwm khiav lub Stable Diffusion qauv ntawm cov cuab yeej muaj zog dua, tsim cov duab nrog qis latency, thiab txuas ntxiv mus dhau ib lub computer los ntawm kev xa cov kev pabcuam ntawm AWS EC2.
Sau ntawv cia Ncua