Tha sinn beò ann an amannan brosnachail, le fiosan mu theicneòlas ùr-nodha gach seachdain. Tha OpenAI dìreach air am modal teacsa-gu-ìomhaigh ùr-nodha DALLE 2 fhoillseachadh.
Cha d’ fhuair ach beagan dhaoine cothrom tràth air siostam AI ùr as urrainn grafaigean reusanta a ghineadh bho thuairisgeulan cànain nàdarra. Tha e fhathast dùinte don phoball.
An uairsin leig Stability AI a-mach an Sgaoileadh seasmhach modail, tionndadh stòr fosgailte de DALLE2. Tha an fhoillseachadh seo air a h-uile càil atharrachadh. Bha daoine air feadh an eadar-lìn a’ foillseachadh toraidhean luath agus a’ cur iongnadh orra le ealain fhìor.
Dè a th’ ann an Sgaoileadh Stàbaill?
Sgaoileadh seasmhach na mhodail ionnsachaidh inneal a tha comasach air ìomhaighean a chruthachadh bho theacsa, ag atharrachadh ìomhaighean a rèir an teacsa, agus a’ lìonadh mion-fhiosrachadh air ìomhaighean le rùn ìosal no mion-fhiosrachadh.
Chaidh a thrèanadh air billeanan de dhealbhan agus faodaidh e toraidhean co-ionann a lìbhrigeadh DALL-E2 agus Turas Meadhanach. Seasmhachd AI dh’innlich e, agus chaidh fhoillseachadh gu poblach air 22 Lùnastal, 2022.
Ach le glè bheag de ghoireasan coimpiutaireachd ionadail, bheir am modal Stable Diffusion ùine mhòr airson dealbhan àrd-inbhe a chruthachadh. Le bhith a’ ruith a’ mhodail air-loidhne a’ cleachdadh solaraiche sgòthan a’ toirt dhuinn goireasan coimpiutaireachd cha mhòr gun chrìoch agus a’ leigeil leinn toraidhean sàr-mhath fhaighinn fada nas luaithe.
Le bhith a’ toirt aoigheachd don mhodail mar meanbh-sheirbheis tha e cuideachd a’ leigeil le aplacaidean cruthachail eile feum nas fhasa a dhèanamh de chomas a’ mhodail gun a bhith a’ dèiligeadh ri iom-fhillteachd mhodalan ML a ruith air-loidhne.
Anns an dreuchd seo, feuchaidh sinn ri sealltainn mar a leasaicheas sinn modal sgaoilidh seasmhach agus a chuir gu AWS.
Tog agus cuir an gnìomh sgaoileadh seasmhach
BentoML agus Seirbheisean Lìn Amazon EC2 nan dà roghainn airson aoigheachd a thoirt don mhodail Stable Diffusion air-loidhne. Tha BentoML na fhrèam stòr fosgailte airson sgèileadh ionnsachadh innealan seirbhisean. Le BentoML, togaidh sinn seirbheis sgaoilidh earbsach agus cuiridh sinn gu AWS EC2 e.
Ag ullachadh na h-àrainneachd agus luchdaich sìos modal sgaoilidh seasmhach
Stàlaich riatanasan agus clone an stòr.
Faodaidh tu am modal Stable Diffusion a thaghadh agus a luchdachadh sìos. Tha cruinneas singilte freagarrach airson CPUs no GPUs le barrachd air 10GB de VRAM. Tha leth mionaideachd air leth freagarrach airson GPUs le nas lugha na 10GB VRAM.
A 'togail stàball sgaoileadh
Togaidh sinn seirbheis BentoML gus am modail air cùl a API ATHARRACH. Tha an eisimpleir a leanas a’ cleachdadh a’ mhodail mionaideachd singilte airson ro-innse agus am modal service.py gus an t-seirbheis a cheangal ri loidsig gnìomhachais. Is urrainn dhuinn na gnìomhan a nochdadh mar APIan le bhith gan tagadh le @svc.api.
A bharrachd air an sin, is urrainn dhuinn seòrsaichean cuir a-steach agus toraidh APIn a mhìneachadh anns na paramadairean. Bidh an deireadh-phuing txt2img, mar eisimpleir, a’ faighinn cuir a-steach JSON agus a’ toirt a-mach toradh Ìomhaigh, ach tha an endpoint img2img a’ gabhail ri Ìomhaigh agus cuir a-steach JSON agus a’ tilleadh toradh Ìomhaigh.
Tha StableDiffusionRunnable a’ mìneachadh an loidsig co-dhùnaidh riatanach. Tha e an urra ris an runnable dòighean pìoba txt2img a’ mhodail a ruith agus na cuir a-steach iomchaidh a chuir a-steach. Airson a bhith a’ ruith loidsig co-dhùnaidh a’ mhodail anns na APIn, tha Runner àbhaisteach air a thogail bhon StableDiffusionRunnable.
An uairsin, cleachd an àithne a leanas gus seirbheis BentoML a thòiseachadh airson deuchainn. Gu h-ionadail a 'ruith an Modail sgaoilidh seasmhach tha co-dhùnadh air CPUan caran slaodach. Bheir gach iarrtas timcheall air 5 mionaidean airson a phròiseasadh.
Teacs gu dealbh
Teacsa gu toradh ìomhaigh
Tha am faidhle bentofile.yaml a’ mìneachadh nam faidhlichean agus na eisimeileachd a tha a dhìth.
Cleachd an àithne gu h-ìosal gus bento a thogail. Is e Bento an cruth cuairteachaidh airson seirbheis BentoML. Is e tasglann fèin-chumte a th’ ann anns a bheil an dàta agus an rèiteachadh gu lèir a dh’ fheumar gus an t-seirbheis a thòiseachadh.
Tha am bento Stable Diffusion air a chrìochnachadh. Mura b’ urrainn dhut am bento a ghineadh gu ceart, na gabh dragh; faodaidh tu modal ro-thogte a luchdachadh sìos a’ cleachdadh na h-òrdughan a tha air an liostadh san ath earrann.
Modalan togail ro-làimh
Seo na modalan ro-thogte:
Cuir modal Stable Difffusion gu EC2
Gus am bento a chuir gu EC2, cleachdaidh sinn bentoctl. leigidh bentoctl leat do bentos a chuir gu gin àrd-ùrlar sgòthan a’ cleachdadh Terraform. Gus faidhlichean Terraform a thogail agus a chuir an sàs, stàlaich an gnìomhaiche AWS EC2.
Anns an fhaidhle config.yaml deployment, tha an cleachdadh air a rèiteachadh mu thràth. Na bi leisg atharrachadh a rèir na feumalachdan agad. Tha am Bento air a chleachdadh gu bunaiteach air aoigheachd g4dn.xlarge leis an Ionnsachadh domhainn AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) AMI air an roinn us-iar-1.
Cruthaich na faidhlichean Terraform a-nis. Cruthaich ìomhaigh an Docker agus luchdaich suas e gu AWS ECR. A rèir an leud-bann agad, faodaidh gun toir luchdachadh suas ìomhaighean ùine mhòr. Nuair a chleachdas tu am bento gu AWS EC2, cleachd na faidhlichean Terraform.
Gus faighinn gu Swagger UI, ceangail ri consol EC2 agus fosgail an seòladh IP poblach ann am brobhsair. Mu dheireadh, mura h-eil feum air an t-seirbheis Stable Diffusion BentoML tuilleadh, thoir air falbh an cleachdadh.
Co-dhùnadh
Bu chòir dhut a bhith comasach air faicinn cho inntinneach agus cho cumhachdach sa tha SD agus na modalan companach aige. Innsidh ùine an dèan sinn ath-aithris air a’ bhun-bheachd nas fhaide no an gluais sinn air adhart gu dòighean-obrach nas ionnsaichte.
Ach, tha iomairtean a’ dol air adhart an-dràsta gus modalan nas motha a thrèanadh le atharrachaidhean gus tuigse nas fheàrr fhaighinn air na tha timcheall air agus an stiùireadh. Dh’ fheuch sinn ris an t-seirbheis Stable Diffusion a leasachadh a’ cleachdadh BentoML agus chuir sinn gu AWS EC2 e.
B’ urrainn dhuinn am modal Stable Diffusion a ruith air bathar-cruaidh nas cumhachdaiche, dealbhan a chruthachadh le latency ìosal, agus leudachadh nas fhaide na aon choimpiutair le bhith a’ cleachdadh na seirbheis air AWS EC2.
Leave a Reply