Urang hirup di jaman seru, kalawan announcements ngeunaan téhnologi canggih unggal minggu. OpenAI nembé ngarilis modél téks-to-gambar anu canggih DALLE 2.
Ngan ukur sababaraha jalma anu ngagaduhan aksés awal kana sistem AI énggal anu tiasa ngahasilkeun grafik realistis tina déskripsi basa alami. Ieu masih ditutup keur umum.
Stabilitas AI lajeng ngarilis Difusi Stabil model, varian open-source tina DALLE2. Peluncuran ieu parantos ngarobih sadayana. Jalma-jalma di sakuliah internét nyebarkeun hasil anu gancang sareng kaget ku seni anu réalistis.
Naon Dupi Stable Difusi?
Difusi Stabil nyaéta modél pembelajaran mesin anu sanggup nyiptakeun gambar tina téks, ngarobih gambar gumantung kana téks, sareng ngeusian detil ngeunaan gambar résolusi anu handap atanapi rinci.
Éta dilatih dina milyaran poto sareng tiasa nganteurkeun hasil anu sami sareng DALL-E2 jeung MidJourney. Stabilitas AI nimukeun éta, sareng diumumkeun dina 22 Agustus 2022.
Tapi ku sumberdaya komputasi lokal anu kawates, model Stable Diffusion butuh waktu anu lila pikeun nyieun gambar anu berkualitas luhur. Ngajalankeun modél online nganggo panyadia awan nyayogikeun sumber daya komputasi anu ampir tanpa wates sareng ngamungkinkeun urang kéngingkeun hasil anu saé langkung gancang.
Hosting model salaku microservice ogé ngamungkinkeun aplikasi kreatif séjén pikeun leuwih gampang ngamangpaatkeun poténsi model urang tanpa kudu nungkulan complexities ngajalankeun model ML online.
Dina tulisan ieu, urang bakal nyobian nunjukkeun kumaha ngamekarkeun modél difusi anu stabil sareng nyebarkeun ka AWS.
Ngawangun sareng Nyebarkeun Difusi Stabil
BentoML sareng Amazon Web Services EC2 mangrupikeun dua pilihan pikeun nyayogikeun modél Difusi Stable online. BentoML mangrupikeun kerangka open-source pikeun skala learning mesin jasa. Kalayan BentoML, kami bakal ngawangun jasa dispersi anu dipercaya sareng nyebarkeun ka AWS EC2.
Nyiapkeun lingkungan sareng unduh modél difusi stabil
Pasang sarat sareng clone gudang.
Anjeun tiasa milih sareng ngaunduh modél Difusi Stabil. Katepatan tunggal cocog pikeun CPU atanapi GPU anu langkung ageung tibatan 10GB VRAM. Satengah precision idéal pikeun GPUs kalawan kirang ti 10GB VRAM.
Ngawangun Stabil Difusi
Urang bakal ngawangun layanan BentoML pikeun ngawula ka model balik a API RESTful. Conto di handap ieu nganggo modél precision tunggal pikeun prediksi sareng modul service.py pikeun nyambungkeun jasa kana logika bisnis. Urang tiasa ngalaan fungsi salaku API ku cara méré tag ka @svc.api.
Salajengna, urang tiasa nangtukeun jinis input sareng kaluaran API dina parameter. Titik txt2img, contona, nampi input JSON sareng ngahasilkeun kaluaran Gambar, sedengkeun titik img2img nampi Gambar sareng input JSON sareng ngabalikeun kaluaran Gambar.
A StableDiffusionRunnable ngahartikeun logika inferensi penting. Runnable tanggung jawab pikeun ngajalankeun metode pipa txt2img modél sareng ngirimkeun input anu relevan. Pikeun ngajalankeun logika inferensi modél dina API, Runner khusus diwangun tina StableDiffusionRunnable.
Teras, paké paréntah di handap ieu pikeun ngamimitian jasa BentoML pikeun nguji. Lokal ngajalankeun Modél Difusi Stabil inferensi on CPUs rada sluggish. Unggal pamundut bakal nyandak ngeunaan 5 menit pikeun ngolah.
Téks kana gambar
Téks kana kaluaran gambar
The bentofile.yaml file ngahartikeun file diperlukeun tur kagumantungan.
Anggo paréntah di handap pikeun ngawangun bento. Bento nyaéta format distribusi pikeun layanan BentoML. Éta mangrupikeun arsip mandiri anu ngandung sadaya data sareng konfigurasi anu diperyogikeun pikeun ngamimitian jasa.
Bento Difusi Stabil parantos réngsé. Upami anjeun teu tiasa leres ngahasilkeun bento, tong panik; Anjeun tiasa ngaunduh modél anu tos diwangun nganggo paréntah anu didaptarkeun dina bagian salajengna.
Modél Pra-ngawangun
Di handap ieu mangrupikeun modél pre-build:
Nyebarkeun modél Difusi Stabil ka EC2
Pikeun nyebarkeun bento ka EC2, urang bakal nganggo bentoctl. bentoctl tiasa ngantep anjeun nyebarkeun bentos anjeun ka mana waé platform méga ngagunakeun Terraform. Pikeun ngawangun sareng nerapkeun file Terraform, pasang operator AWS EC2.
Dina file config.yaml deployment, deployment geus geus ngonpigurasi. Mangga ngarasa Luncat ka ngédit kana sarat Anjeun. Bento ieu deployed sacara standar dina host g4dn.xlarge kalawan jero Learning AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI di wewengkon urang-kulon-1.
Jieun file Terraform ayeuna. Jieun gambar Docker sareng unggah kana AWS ECR. Gumantung kana rubakpita anjeun, unggah gambar tiasa lami. Dina nyebarkeun bento ka AWS EC2, paké file Terraform.
Pikeun ngaksés UI Swagger, sambungkeun kana konsol EC2 sareng buka alamat IP umum dina browser. Tungtungna, upami jasa Stable Diffusion BentoML henteu diperyogikeun deui, cabut panyebaranna.
kacindekan
Anjeun kedah tiasa ningali kumaha pikaresepeun sareng kuat SD sareng modél pendampingna. Waktos bakal nyarios upami urang bakal ngulang konsép salajengna atanapi ngaléngkah ka pendekatan anu langkung canggih.
Nanging, ayeuna aya inisiatif pikeun ngalatih modél anu langkung ageung kalayan panyesuaian supados langkung ngartos lingkungan sareng petunjukna. Kami nyobian ngembangkeun jasa Difusi Stable nganggo BentoML sareng nyebarkeun ka AWS EC2.
Kami tiasa ngajalankeun modél Difusi Stabil dina hardware anu langkung kuat, nyiptakeun gambar kalayan latency anu rendah, sareng ngalegaan langkung ti hiji komputer ku cara nyebarkeun jasa dina AWS EC2.
Leave a Reply