Elame põnevatel aegadel, igal nädalal teatatakse tipptehnoloogiast. OpenAI andis just välja tipptasemel tekstist pildiks muutmise mudeli DALLE 2.
Vaid vähesed inimesed said varakult juurdepääsu uuele tehisintellektisüsteemile, mis suudab luua loomuliku keele kirjeldustest realistlikku graafikat. See on endiselt avalikkusele suletud.
Stabiilsus AI andis seejärel välja Stabiilne difusioon mudel, DALLE2 avatud lähtekoodiga variant. See käivitamine on kõike muutnud. Inimesed kõikjal Internetis avaldasid kiireid tulemusi ja olid üllatunud realistlikust kunstist.
Mis on stabiilne difusioon?
Stabiilne difusioon on masinõppemudel, mis suudab luua tekstist pilte, muuta pilte sõltuvalt tekstist ja täita detaile madala eraldusvõimega või vähese detailiga piltidel.
Seda õpetati miljardeid fotosid kasutama ja see võib anda samaväärseid tulemusi DALL-E2 ja Keskteekond. Stabiilsus AI leiutas selle ja see avalikustati 22. augustil 2022.
Piiratud kohalike arvutusressurssidega võtab stabiilse difusiooni mudelil kvaliteetsete piltide loomine aga kaua aega. Mudeli veebis pilveteenuse pakkuja abil käitamine annab meile peaaegu lõputult arvutusressursse ja võimaldab saavutada suurepäraseid tulemusi palju kiiremini.
Mudeli hostimine mikroteenusena võimaldab ka teistel loomingulistel rakendustel mudeli potentsiaali hõlpsamini ära kasutada, ilma et peaksite tegelema ML-mudelite võrgus käitamise keerukusega.
Selles postituses proovime näidata, kuidas arendada stabiilset difusioonimudelit ja rakendada seda AWS-is.
Stabiilse difusiooni loomine ja juurutamine
BentoML ja Amazon Web Services EC2 on kaks võimalust stabiilse difusiooni mudeli veebis majutamiseks. BentoML on skaleerimise avatud lähtekoodiga raamistik masinõpe teenuseid. BentoML-iga loome usaldusväärse hajutusteenuse ja juurutame selle AWS EC2-sse.
Keskkonna ettevalmistamine ja stabiilse difusioonimudeli allalaadimine
Installige nõuded ja kloonige hoidla.
Saate valida ja alla laadida stabiilse difusiooni mudeli. Üksiktäpsus sobib protsessoritele või GPU-dele, mille VRAM on suurem kui 10 GB. Poole täpsus sobib ideaalselt alla 10 GB VRAM-iga GPU-dele.
Stabiilse difusiooni ehitamine
Ehitame BentoML-teenuse, et teenindada mudelit a RESTful API. Järgmises näites kasutatakse prognoosimiseks ühtset täppismudelit ja teenuse äriloogikaga ühendamiseks moodulit service.py. Funktsioonid saame kuvada API-dena, märgistades need @svc.api.
Lisaks saame parameetrites määratleda API sisendi ja väljundi tüübid. Näiteks txt2img lõpp-punkt võtab vastu JSON-sisendi ja loob pildiväljundi, samas kui img2img-i lõpp-punkt aktsepteerib kujutise ja JSON-i sisendit ning tagastab kujutise väljundi.
StableDiffusionRunnable määratleb olulise järeldusloogika. Käivitatav vastutab mudeli txt2img torumeetodite käitamise ja asjakohaste sisendite saatmise eest. Mudeli järeldamisloogika käitamiseks API-des luuakse kohandatud Runner failist StableDiffusionRunnable.
Seejärel kasutage BentoML-teenuse testimiseks käivitamiseks järgmist käsku. Kohalikult töötab Stabiilne difusioonimudel järeldamine protsessori kohta on üsna loid. Iga taotluse töötlemiseks kulub umbes 5 minutit.
Tekst pildiks
Tekst pildi väljundiks
Fail bentofile.yaml määratleb vajalikud failid ja sõltuvused.
Bento ehitamiseks kasutage allolevat käsku. Bento on BentoML-teenuse levitamisvorming. See on iseseisev arhiiv, mis sisaldab kõiki teenuse käivitamiseks vajalikke andmeid ja konfiguratsioone.
Stable Diffusion bento on valminud. Kui te ei suutnud bentot korralikult genereerida, ärge sattuge paanikasse; Eelehitatud mudeli saate alla laadida järgmises jaotises loetletud käskude abil.
Eelehitatud mudelid
Järgmised on eelehitatud mudelid:
Stabiilse difusiooni mudeli juurutamine EC2-sse
Bento juurutamiseks EC2-sse kasutame bentoctli. bentoctl võimaldab teil oma bentosid kasutada mis tahes pilveplatvorm kasutades Terraformi. Terraformi failide koostamiseks ja rakendamiseks installige AWS EC2 operaator.
Deployment failis config.yaml on juurutus juba konfigureeritud. Muutke julgelt vastavalt oma vajadustele. Bento juurutatakse vaikimisi hostis g4dn.xlarge koos Sügav õppimine AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI us-west-1 piirkonnas.
Looge Terraformi failid kohe. Looge Dockeri pilt ja laadige see üles AWS ECR-i. Sõltuvalt teie ribalaiusest võib piltide üleslaadimine võtta kaua aega. Bento juurutamisel AWS EC2-sse kasutage Terraformi faile.
Swaggeri kasutajaliidesele juurdepääsuks looge ühendus EC2 konsooliga ja avage brauseris avalik IP-aadress. Lõpuks, kui teenus Stable Diffusion BentoML pole enam vajalik, eemaldage juurutus.
Järeldus
Peaksite nägema, kui põnevad ja võimsad on SD ja selle kaaslased. Aeg näitab, kas jätkame kontseptsiooni kordamist või liigume edasi keerukamate lähenemisviiside poole.
Praegu on aga käimas algatused suuremate mudelite koolitamiseks koos kohandustega, et ümbrusest ja juhistest paremini aru saada. Püüdsime BentoML-i abil arendada stabiilse difusiooni teenust ja juurutada selle AWS EC2-sse.
Saime kasutada stabiilse difusiooni mudelit võimsamal riistvaral, luua väikese latentsusajaga pilte ja laiendada teenust ühest arvutist kaugemale, juurutades teenuse AWS EC2-s.
Jäta vastus