ஒவ்வொரு வாரமும் அதிநவீன தொழில்நுட்பத்தைப் பற்றிய அறிவிப்புகளுடன், உற்சாகமான காலங்களில் வாழ்கிறோம். OpenAI இப்போது அதிநவீன டெக்ஸ்ட்-டு-இமேஜ் மாதிரி DALLE 2 ஐ வெளியிட்டது.
இயற்கையான மொழி விளக்கங்களிலிருந்து யதார்த்தமான கிராபிக்ஸ் உருவாக்கக்கூடிய புதிய AI அமைப்புக்கான ஆரம்ப அணுகலை ஒரு சிலர் மட்டுமே பெற்றுள்ளனர். இது இன்னும் பொதுமக்களுக்கு மூடப்பட்டுள்ளது.
நிலைத்தன்மை AI பின்னர் வெளியிடப்பட்டது நிலையான பரவல் மாதிரி, DALLE2 இன் திறந்த மூல மாறுபாடு. இந்த வெளியீடு எல்லாவற்றையும் மாற்றிவிட்டது. இணையம் முழுவதிலும் உள்ள மக்கள் விரைவான முடிவுகளை வெளியிட்டு, யதார்த்தமான கலையைக் கண்டு வியப்படைந்தனர்.
நிலையான பரவல் என்றால் என்ன?
நிலையான பரவல் மெஷின் லேர்னிங் மாதிரியானது, உரையிலிருந்து படங்களை உருவாக்குவது, உரையைப் பொறுத்து படங்களை மாற்றுவது மற்றும் குறைந்த தெளிவுத்திறன் அல்லது குறைந்த விவரம் உள்ள படங்களைப் பற்றிய விவரங்களை நிரப்புவது.
இது பில்லியன் கணக்கான புகைப்படங்களில் பயிற்சியளிக்கப்பட்டது மற்றும் அதற்கு சமமான முடிவுகளை வழங்க முடியும் DALL-E2 மற்றும் மிட் ஜர்னி. நிலைத்தன்மை AI அதை கண்டுபிடித்தார், அது ஆகஸ்ட் 22, 2022 அன்று பகிரங்கப்படுத்தப்பட்டது.
ஆனால் வரையறுக்கப்பட்ட உள்ளூர் கணக்கீட்டு வளங்களுடன், நிலையான பரவல் மாதிரி உயர்தர படங்களை உருவாக்க நீண்ட நேரம் எடுக்கும். மேகக்கணி வழங்குநரைப் பயன்படுத்தி ஆன்லைனில் மாதிரியை இயக்குவது கிட்டத்தட்ட எல்லையற்ற கணக்கீட்டு ஆதாரங்களை எங்களுக்கு வழங்குகிறது மற்றும் சிறந்த முடிவுகளை மிக வேகமாகப் பெற அனுமதிக்கிறது.
மாடலை மைக்ரோ சர்வீஸாக ஹோஸ்ட் செய்வது, ML மாடல்களை ஆன்லைனில் இயக்குவதில் உள்ள சிக்கல்களைச் சமாளிக்காமல், மற்ற ஆக்கப்பூர்வமான பயன்பாடுகளை மாடலின் திறனை எளிதாகப் பயன்படுத்த அனுமதிக்கிறது.
இந்த இடுகையில், ஒரு நிலையான பரவல் மாதிரியை எவ்வாறு உருவாக்குவது மற்றும் அதை AWS க்கு எவ்வாறு பயன்படுத்துவது என்பதை நிரூபிக்க முயற்சிப்போம்.
நிலையான பரவலை உருவாக்குதல் மற்றும் வரிசைப்படுத்துதல்
பென்டோஎம்எல் மற்றும் Amazon Web Services EC2 ஆகியவை நிலையான பரவல் மாதிரியை ஆன்லைனில் வழங்குவதற்கான இரண்டு விருப்பங்களாகும். BentoML என்பது அளவிடுதலுக்கான ஒரு திறந்த மூல கட்டமைப்பாகும் இயந்திர கற்றல் சேவைகள். BentoML உடன், நாங்கள் நம்பகமான சிதறல் சேவையை உருவாக்கி அதை AWS EC2 க்கு பயன்படுத்துவோம்.
சூழலைத் தயாரித்தல் மற்றும் நிலையான பரவல் மாதிரியைப் பதிவிறக்குதல்
தேவைகளை நிறுவவும் மற்றும் களஞ்சியத்தை குளோன் செய்யவும்.
நிலையான பரவல் மாதிரியைத் தேர்ந்தெடுத்து பதிவிறக்கம் செய்யலாம். 10GB க்கும் அதிகமான VRAM கொண்ட CPUகள் அல்லது GPU களுக்கு ஒற்றை துல்லியமானது பொருத்தமானது. 10GB VRAM க்கும் குறைவான GPU களுக்கு அரை துல்லியமானது சிறந்தது.
கட்டிடம் நிலையான பரவல்
நாங்கள் ஒரு BentoML சேவையை உருவாக்குவோம் RESTful API. பின்வரும் எடுத்துக்காட்டு கணிப்புக்கான ஒற்றை துல்லிய மாதிரியையும், சேவையை வணிக தர்க்கத்துடன் இணைக்க service.py தொகுதியையும் பயன்படுத்துகிறது. @svc.api உடன் குறியிடுவதன் மூலம் செயல்பாடுகளை APIகளாக வெளிப்படுத்தலாம்.
மேலும், APIகளின் உள்ளீடு மற்றும் வெளியீட்டு வகைகளை அளவுருக்களில் வரையறுக்கலாம். எடுத்துக்காட்டாக, txt2img இறுதிப்புள்ளி ஒரு JSON உள்ளீட்டைப் பெற்று ஒரு பட வெளியீட்டை உருவாக்குகிறது, அதேசமயம் img2img இறுதிப்புள்ளி ஒரு படத்தையும் JSON உள்ளீட்டையும் ஏற்றுக்கொண்டு பட வெளியீட்டை வழங்குகிறது.
ஒரு StableDiffusionRunnable இன்றியமையாத அனுமான தர்க்கத்தை வரையறுக்கிறது. இயங்கக்கூடியது மாதிரியின் txt2img குழாய் முறைகளை இயக்குவதற்கும் தொடர்புடைய உள்ளீடுகளை அனுப்புவதற்கும் பொறுப்பாகும். API களில் மாதிரி அனுமான தர்க்கத்தை இயக்குவதற்கு, StableDiffusionRunnable இலிருந்து தனிப்பயன் ரன்னர் உருவாக்கப்படுகிறது.
பின்னர், சோதனைக்கு BentoML சேவையைத் தொடங்க பின்வரும் கட்டளையைப் பயன்படுத்தவும். உள்ளூரில் இயங்குகிறது நிலையான பரவல் மாதிரி CPUகள் மீதான அனுமானம் மிகவும் மந்தமானது. ஒவ்வொரு கோரிக்கையும் செயலாக்க சுமார் 5 நிமிடங்கள் எடுக்கும்.
படத்திற்கு உரை
உரையிலிருந்து பட வெளியீடு
bentofile.yaml கோப்பு தேவையான கோப்புகள் மற்றும் சார்புகளை வரையறுக்கிறது.
பென்டோவை உருவாக்க கீழே உள்ள கட்டளையைப் பயன்படுத்தவும். பென்டோ என்பது பென்டோஎம்எல் சேவைக்கான விநியோக வடிவமாகும். இது ஒரு தன்னடக்கமான காப்பகமாகும், இது சேவையைத் தொடங்க தேவையான அனைத்து தரவு மற்றும் உள்ளமைவுகளைக் கொண்டுள்ளது.
நிலையான பரவல் பெண்டோ முடிந்தது. நீங்கள் பென்டோவை சரியாக உருவாக்க முடியாவிட்டால், பீதி அடைய வேண்டாம்; அடுத்த பகுதியில் பட்டியலிடப்பட்டுள்ள கட்டளைகளைப் பயன்படுத்தி முன் கட்டப்பட்ட மாதிரியைப் பதிவிறக்கலாம்.
முன்-உருவாக்கும் மாதிரிகள்
பின்வருபவை முன் உருவாக்க மாதிரிகள்:
நிலையான பரவல் மாதிரியை EC2 க்கு பயன்படுத்தவும்
பென்டோவை EC2 க்கு பயன்படுத்த, bentoctl ஐப் பயன்படுத்துவோம். bentoctl உங்கள் பெண்டோக்களை எதற்கும் பயன்படுத்த அனுமதிக்கலாம் மேகக்கணி தளம் Terraform பயன்படுத்தி. டெர்ராஃபார்ம் கோப்புகளை உருவாக்க மற்றும் பயன்படுத்த, AWS EC2 ஆபரேட்டரை நிறுவவும்.
வரிசைப்படுத்தல் config.yaml கோப்பில், வரிசைப்படுத்தல் ஏற்கனவே கட்டமைக்கப்பட்டுள்ளது. உங்கள் தேவைகளுக்கு ஏற்ப திருத்த தயங்க வேண்டாம். பென்டோ ஒரு g4dn.xlarge ஹோஸ்டில் இயல்பாக பயன்படுத்தப்படுகிறது ஆழமான கற்றல் AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) US-west-1 பகுதியில் AMI.
இப்போது Terraform கோப்புகளை உருவாக்கவும். டோக்கர் படத்தை உருவாக்கி அதை AWS ECR இல் பதிவேற்றவும். உங்கள் அலைவரிசையைப் பொறுத்து, படத்தைப் பதிவேற்ற நீண்ட நேரம் ஆகலாம். AWS EC2 க்கு பெண்டோவைப் பயன்படுத்தும்போது, Terraform கோப்புகளைப் பயன்படுத்தவும்.
Swagger UI ஐ அணுக, EC2 கன்சோலுடன் இணைத்து, உலாவியில் பொது IP முகவரியைத் திறக்கவும். இறுதியாக, நிலையான பரவல் பென்டோஎம்எல் சேவை இனி தேவையில்லை எனில், வரிசைப்படுத்தலை அகற்றவும்.
தீர்மானம்
SD மற்றும் அதன் துணை மாதிரிகள் எவ்வளவு கவர்ச்சிகரமான மற்றும் சக்திவாய்ந்தவை என்பதை நீங்கள் பார்க்க முடியும். நாம் இந்த கருத்தை மேலும் கூறுவோம் அல்லது இன்னும் அதிநவீன அணுகுமுறைகளுக்கு செல்வோமா என்பதை காலம் சொல்லும்.
இருப்பினும், சுற்றுப்புறங்களையும் அறிவுறுத்தல்களையும் சிறப்பாகப் புரிந்துகொள்வதற்காக, பெரிய மாடல்களை சரிசெய்தல்களுடன் பயிற்றுவிப்பதற்கான முயற்சிகள் தற்போது நடைபெற்று வருகின்றன. BentoML ஐப் பயன்படுத்தி நிலையான பரவல் சேவையை உருவாக்க முயற்சித்தோம் மற்றும் அதை AWS EC2 இல் பயன்படுத்தினோம்.
அதிக சக்தி வாய்ந்த வன்பொருளில் நிலையான பரவல் மாதிரியை இயக்கவும், குறைந்த தாமதத்துடன் படங்களை உருவாக்கவும், AWS EC2 இல் சேவையைப் பயன்படுத்துவதன் மூலம் ஒரு கணினியைத் தாண்டி நீட்டிக்கவும் முடிந்தது.
ஒரு பதில் விடவும்