Kei te noho tatou i roto i nga wa whakahihiri, me nga panui mo nga hangarau hou ia wiki. I tukuna e OpenAI te tauira tuhinga-ki-ahua DLLE 2.
He ruarua noa nga tangata i uru wawe ki tetahi punaha AI hou ka taea te whakaputa whakairoiro pono mai i nga whakaahuatanga reo maori. Ka kati tonu ki te marea.
Stability AI ka tukuna te Whakawhanaketanga pumau tauira, he momo tuwhera-puna o DALLE2. Ko tenei whakarewanga kua whakarereke i nga mea katoa. Ko nga tangata puta noa i te ipurangi kei te whakaputa hua tere me te miharo ki nga mahi toi pono.
He aha te Stable Diffusion?
Whakawhanaketanga pumau he tauira ako miihini e kaha ana ki te hanga whakaahua mai i te tuhinga, te whakarereke i nga whakaahua i runga i te tuhinga, me te whakakii i nga korero mo nga whakaahua iti-iti, iti-iti ranei.
I whakangungua i runga i nga piriona whakaahua ka taea te whakaputa hua rite ki DALL-E2 a Waenganui. Pūmau AI i hanga e ia, ka panuitia i te 22 o Akuhata, 2022.
Engari na te iti o nga rauemi rorohiko a-rohe, ka roa te tauira Stable Diffusion ki te hanga pikitia kounga teitei. Ko te whakahaere i te tauira i runga ipurangi ma te whakamahi i te kaiwhakarato kapua ka hoatu ki a matou he rauemi tatai mutunga kore ka taea e matou te whiwhi hua pai rawa atu.
Ko te manaaki i te tauira hei ratonga moroiti ka taea e etahi atu taupānga auaha te whakamahi i te kaha o te tauira me te kore e aro ki nga uaua o te whakahaere i nga tauira ML ki runga ipurangi.
I tenei pou, ka ngana taatau ki te whakaatu me pehea te whakawhanake i tetahi tauira whakamaarama pumau me te tuku ki AWS.
Hangaia me te Hoatu i te Whakawhitiwhiti Pumau
BentoML me Amazon Web Services EC2 e rua nga whiringa mo te manaaki i te tauira Stable Diffusion i runga ipurangi. Ko BentoML he anga-puna tuwhera mo te tauine akoranga mīhini ratonga. Ma te BentoML, ka hanga e matou he ratonga whakamararatanga pono ka toha ki AWS EC2.
Te whakarite i te taiao me te tango i te tauira whakamaoritanga pumau
Tāutahia ngā whakaritenga me te kati i te putunga.
Ka taea e koe te kowhiri me te tango i te tauira Stable Diffusion. He pai te tika kotahi mo nga PTM me nga GPU nui ake i te 10GB o VRAM. He pai te haurua mo nga GPU iti iho i te 10GB VRAM.
Te Whakawhanaketanga Maamaa
Ka hangahia e matou he ratonga BentoML hei mahi i te tauira kei muri a Tuhinga API. Ko te tauira e whai ake nei ka whakamahi i te tauira tika kotahi mo te matapae me te waahanga service.py hei hono i te ratonga ki te arorau pakihi. Ka taea e tatou te whakaatu i nga mahi hei API ma te tohu ki a @svc.api.
I tua atu, ka taea e tatou te tautuhi i nga momo whakauru me nga momo putanga o nga API i roto i nga tawhā. Ko te pito mutunga txt2img, hei tauira, ka whiwhi i te whakauru JSON me te whakaputa i te putanga Whakaahua, engari ko te mutunga o te img2img ka whakaae ki tetahi Whakaahua me te whakauru JSON me te whakahoki i te putanga Whakaahua.
Ko te StableDiffusionRunnable e whakaatu ana i te arorau whakatau. Ko te runnable te whakahaere i nga tikanga paipa txt2img o te tauira me te tuku i nga whakaurunga e tika ana. Mo te whakahaere i te arorau whakatauira tauira i roto i nga API, ka hangaia he Runner ritenga mai i te StableDiffusionRunnable.
Na, whakamahia te whakahau e whai ake nei hei timata i te ratonga BentoML mo te whakamatautau. Te whakahaere i te rohe Tauira Whakawhitiwhiti he puhoi te whakatau i runga i nga PTM. Tata ki te 5 meneti te roa o ia tono ki te tukatuka.
Kuputuhi ki te ahua
Kuputuhi ki te putanga whakaahua
Ko te kōnae bentofile.yaml e tautuhi ana i nga konae me nga whakawhirinakitanga e hiahiatia ana.
Whakamahia te whakahau i raro nei hei hanga bento. Ko te Bento te whakatakotoranga tohatoha mo te ratonga BentoML. He purongo kei roto i a ia ano nga raraunga me nga whirihoranga e hiahiatia ana hei timata i te ratonga.
Kua oti te bento Stable Diffusion. Mena kaore i taea e koe te whakaputa tika i te bento, kaua e mataku; ka taea e koe te tango tauira i hangaia i mua ma te whakamahi i nga whakahau kua whakarārangihia i te waahanga e whai ake nei.
Nga Tauira i mua i te hanga
E whai ake nei nga tauira hanga-mua:
Hoatuhia te tauira Whakawhitiwhiti Stable ki EC2
Hei tuku i te bento ki te EC2, ka whakamahia e matou te bentoctl. Ka taea e bentoctl te tuku i a koe ki te tuku i to peeke ki tetahi papa kapua te whakamahi i te Terraform. Hei hanga me te whakamahi i nga konae Terraform, whakauruhia te kaiwhakahaere AWS EC2.
I roto i te konae config.yaml deployment, kua oti te whirihora te tuku. Tena koa ki te whakatika ki o hiahia. Ka tukuna te Bento ma te taunoa i runga i te kaihautu g4dn.xlarge me te Akoranga hohonu AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI i runga i te rohe us-hauauru-1.
Waihangahia nga konae Terraform inaianei. Waihangahia te ahua Docker ka tukuna ki te AWS ECR. I runga i to ruinga, ka roa pea te tukunga whakaahua. Mo te tuku i te bento ki te AWS EC2, whakamahia nga konae Terraform.
Hei uru atu ki te Swagger UI, hono atu ki te papatohu EC2 ka whakatuwhera i te wahitau IP tūmatanui i roto i te tirotiro. Ka mutu, ki te kore e hiahiatia te ratonga Stable Diffusion BentoML, tangohia te tukunga.
Opaniraa
Ka taea e koe te kite he pehea te ataahua me te kaha o te SD me ona tauira hoa. Ma te wa e whakaatu mena ka huri ano tatou ki te kaupapa, ka neke atu ranei ki nga huarahi tino mohio.
Heoi, kei te haere tonu nga kaupapa ki te whakangungu i nga tauira nui ake me nga whakarereketanga kia pai ake ai te maarama ki nga taiao me nga tohutohu. I ngana matou ki te whakawhanake i te ratonga Stable Diffusion ma te whakamahi i te BentoML ka tukuna ki te AWS EC2.
I taea e matou te whakahaere i te tauira Stable Diffusion i runga i nga taputapu kaha ake, te hanga pikitia me te iti o te roanga, me te toro atu ki tua atu o te rorohiko kotahi ma te tuku i te ratonga ki runga AWS EC2.
Waiho i te Reply