ಪ್ರತಿ ವಾರ ಅತ್ಯಾಧುನಿಕ ತಂತ್ರಜ್ಞಾನದ ಕುರಿತು ಪ್ರಕಟಣೆಗಳೊಂದಿಗೆ ನಾವು ರೋಮಾಂಚನಕಾರಿ ಸಮಯದಲ್ಲಿ ವಾಸಿಸುತ್ತಿದ್ದೇವೆ. OpenAI ಇದೀಗ ಅತ್ಯಾಧುನಿಕ ಟೆಕ್ಸ್ಟ್-ಟು-ಇಮೇಜ್ ಮಾದರಿ DALLE 2 ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ.
ನೈಸರ್ಗಿಕ ಭಾಷಾ ವಿವರಣೆಗಳಿಂದ ವಾಸ್ತವಿಕ ಗ್ರಾಫಿಕ್ಸ್ ಅನ್ನು ರಚಿಸಬಹುದಾದ ಹೊಸ AI ಸಿಸ್ಟಮ್ಗೆ ಕೆಲವೇ ಜನರು ಆರಂಭಿಕ ಪ್ರವೇಶವನ್ನು ಪಡೆದರು. ಇದು ಇನ್ನೂ ಸಾರ್ವಜನಿಕರಿಗೆ ಮುಚ್ಚಲ್ಪಟ್ಟಿದೆ.
ಸ್ಥಿರತೆ AI ನಂತರ ಬಿಡುಗಡೆ ಮಾಡಿತು ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿ, DALLE2 ನ ಮುಕ್ತ-ಮೂಲ ರೂಪಾಂತರ. ಈ ಉಡಾವಣೆಯು ಎಲ್ಲವನ್ನೂ ಬದಲಾಯಿಸಿದೆ. ಇಂಟರ್ನೆಟ್ನಾದ್ಯಂತ ಜನರು ತ್ವರಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಪ್ರಕಟಿಸುತ್ತಿದ್ದಾರೆ ಮತ್ತು ವಾಸ್ತವಿಕ ಕಲೆಯಿಂದ ಆಶ್ಚರ್ಯಚಕಿತರಾದರು.
ಸ್ಥಿರ ಪ್ರಸರಣ ಎಂದರೇನು?
ಸ್ಥಿರ ಪ್ರಸರಣ ಪಠ್ಯದಿಂದ ಚಿತ್ರಗಳನ್ನು ರಚಿಸುವ, ಪಠ್ಯವನ್ನು ಅವಲಂಬಿಸಿ ಚಿತ್ರಗಳನ್ನು ಬದಲಾಯಿಸುವ ಮತ್ತು ಕಡಿಮೆ-ರೆಸಲ್ಯೂಶನ್ ಅಥವಾ ಕಡಿಮೆ-ವಿವರ ಚಿತ್ರಗಳ ವಿವರಗಳನ್ನು ತುಂಬುವ ಸಾಮರ್ಥ್ಯವಿರುವ ಯಂತ್ರ ಕಲಿಕೆಯ ಮಾದರಿಯಾಗಿದೆ.
ಇದು ಶತಕೋಟಿ ಫೋಟೋಗಳ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದಿದೆ ಮತ್ತು ಅದಕ್ಕೆ ಸಮಾನವಾದ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡುತ್ತದೆ DALL-E2 ಮತ್ತು ಮಿಡ್ ಜರ್ನಿ. ಸ್ಥಿರತೆ AI ಇದನ್ನು ಕಂಡುಹಿಡಿದರು ಮತ್ತು ಇದನ್ನು ಆಗಸ್ಟ್ 22, 2022 ರಂದು ಸಾರ್ವಜನಿಕಗೊಳಿಸಲಾಯಿತು.
ಆದರೆ ಸೀಮಿತ ಸ್ಥಳೀಯ ಕಂಪ್ಯೂಟೇಶನಲ್ ಸಂಪನ್ಮೂಲಗಳೊಂದಿಗೆ, ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯು ಉತ್ತಮ-ಗುಣಮಟ್ಟದ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಬಹಳ ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. ಕ್ಲೌಡ್ ಪ್ರೊವೈಡರ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ಆನ್ಲೈನ್ನಲ್ಲಿ ಮಾದರಿಯನ್ನು ರನ್ ಮಾಡುವುದು ನಮಗೆ ಬಹುತೇಕ ಅನಂತ ಕಂಪ್ಯೂಟೇಶನಲ್ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ ಮತ್ತು ಉತ್ತಮ ಫಲಿತಾಂಶಗಳನ್ನು ಹೆಚ್ಚು ವೇಗವಾಗಿ ಪಡೆಯಲು ನಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.
ಮಾದರಿಯನ್ನು ಮೈಕ್ರೊ ಸರ್ವಿಸ್ನಂತೆ ಹೋಸ್ಟ್ ಮಾಡುವುದರಿಂದ ಆನ್ಲೈನ್ನಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿರುವ ML ಮಾದರಿಗಳ ಸಂಕೀರ್ಣತೆಗಳೊಂದಿಗೆ ವ್ಯವಹರಿಸದೆಯೇ ಮಾದರಿಯ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೆಚ್ಚು ಸುಲಭವಾಗಿ ಬಳಸಿಕೊಳ್ಳಲು ಇತರ ಸೃಜನಶೀಲ ಅಪ್ಲಿಕೇಶನ್ಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ.
ಈ ಪೋಸ್ಟ್ನಲ್ಲಿ, ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ಹೇಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸುವುದು ಮತ್ತು ಅದನ್ನು AWS ಗೆ ನಿಯೋಜಿಸುವುದು ಹೇಗೆ ಎಂಬುದನ್ನು ನಾವು ಪ್ರದರ್ಶಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತೇವೆ.
ಸ್ಥಿರ ಪ್ರಸರಣವನ್ನು ನಿರ್ಮಿಸಿ ಮತ್ತು ನಿಯೋಜಿಸಿ
ಬೆಂಟೊಎಂಎಲ್ ಮತ್ತು Amazon ವೆಬ್ ಸೇವೆಗಳು EC2 ಆನ್ಲೈನ್ನಲ್ಲಿ ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ಹೋಸ್ಟ್ ಮಾಡಲು ಎರಡು ಆಯ್ಕೆಗಳಾಗಿವೆ. BentoML ಸ್ಕೇಲಿಂಗ್ಗಾಗಿ ತೆರೆದ ಮೂಲ ಚೌಕಟ್ಟಾಗಿದೆ ಯಂತ್ರ ಕಲಿಕೆ ಸೇವೆಗಳು. BentoML ನೊಂದಿಗೆ, ನಾವು ವಿಶ್ವಾಸಾರ್ಹ ಪ್ರಸರಣ ಸೇವೆಯನ್ನು ನಿರ್ಮಿಸುತ್ತೇವೆ ಮತ್ತು ಅದನ್ನು AWS EC2 ಗೆ ನಿಯೋಜಿಸುತ್ತೇವೆ.
ಪರಿಸರವನ್ನು ಸಿದ್ಧಪಡಿಸುವುದು ಮತ್ತು ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಿ
ಅವಶ್ಯಕತೆಗಳನ್ನು ಸ್ಥಾಪಿಸಿ ಮತ್ತು ರೆಪೊಸಿಟರಿಯನ್ನು ಕ್ಲೋನ್ ಮಾಡಿ.
ನೀವು ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡಬಹುದು ಮತ್ತು ಡೌನ್ಲೋಡ್ ಮಾಡಬಹುದು. 10GB ಗಿಂತ ಹೆಚ್ಚಿನ VRAM ಹೊಂದಿರುವ CPU ಗಳು ಅಥವಾ GPU ಗಳಿಗೆ ಒಂದೇ ನಿಖರತೆ ಸೂಕ್ತವಾಗಿದೆ. 10GB VRAM ಗಿಂತ ಕಡಿಮೆ ಇರುವ GPU ಗಳಿಗೆ ಅರ್ಧ ನಿಖರತೆ ಸೂಕ್ತವಾಗಿದೆ.
ಕಟ್ಟಡ ಸ್ಥಿರ ಪ್ರಸರಣ
ಹಿಂದೆ ಮಾದರಿಯನ್ನು ಪೂರೈಸಲು ನಾವು ಬೆಂಟೊಎಂಎಲ್ ಸೇವೆಯನ್ನು ನಿರ್ಮಿಸುತ್ತೇವೆ RESTful API. ಕೆಳಗಿನ ಉದಾಹರಣೆಯು ಭವಿಷ್ಯಕ್ಕಾಗಿ ಒಂದೇ ನಿಖರ ಮಾದರಿಯನ್ನು ಮತ್ತು ಸೇವೆಯನ್ನು ವ್ಯಾಪಾರ ತರ್ಕಕ್ಕೆ ಸಂಪರ್ಕಿಸಲು service.py ಮಾಡ್ಯೂಲ್ ಅನ್ನು ಬಳಸುತ್ತದೆ. @svc.api ನೊಂದಿಗೆ ಟ್ಯಾಗ್ ಮಾಡುವ ಮೂಲಕ ನಾವು ಕಾರ್ಯಗಳನ್ನು API ಗಳಂತೆ ಬಹಿರಂಗಪಡಿಸಬಹುದು.
ಇದಲ್ಲದೆ, ನಾವು API ಗಳ ಇನ್ಪುಟ್ ಮತ್ತು ಔಟ್ಪುಟ್ ಪ್ರಕಾರಗಳನ್ನು ನಿಯತಾಂಕಗಳಲ್ಲಿ ವ್ಯಾಖ್ಯಾನಿಸಬಹುದು. txt2img ಎಂಡ್ಪಾಯಿಂಟ್, ಉದಾಹರಣೆಗೆ, JSON ಇನ್ಪುಟ್ ಅನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ ಮತ್ತು ಇಮೇಜ್ ಔಟ್ಪುಟ್ ಅನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ, ಆದರೆ img2img ಎಂಡ್ಪಾಯಿಂಟ್ ಇಮೇಜ್ ಮತ್ತು JSON ಇನ್ಪುಟ್ ಅನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ ಮತ್ತು ಇಮೇಜ್ ಔಟ್ಪುಟ್ ಅನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
ಒಂದು StableDiffusionRunnable ಅಗತ್ಯ ನಿರ್ಣಯ ತರ್ಕವನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುತ್ತದೆ. ರನ್ನಬಲ್ ಮಾದರಿಯ txt2img ಪೈಪ್ ವಿಧಾನಗಳನ್ನು ಚಾಲನೆ ಮಾಡುವ ಮತ್ತು ಸಂಬಂಧಿತ ಒಳಹರಿವುಗಳನ್ನು ಕಳುಹಿಸುವ ಉಸ್ತುವಾರಿ ವಹಿಸುತ್ತದೆ. API ಗಳಲ್ಲಿ ಮಾದರಿಯ ತರ್ಕವನ್ನು ಚಲಾಯಿಸಲು, StableDiffusionRunnable ನಿಂದ ಕಸ್ಟಮ್ ರನ್ನರ್ ಅನ್ನು ನಿರ್ಮಿಸಲಾಗಿದೆ.
ನಂತರ, ಪರೀಕ್ಷೆಗಾಗಿ BentoML ಸೇವೆಯನ್ನು ಪ್ರಾರಂಭಿಸಲು ಕೆಳಗಿನ ಆಜ್ಞೆಯನ್ನು ಬಳಸಿ. ಸ್ಥಳೀಯವಾಗಿ ನಡೆಸುತ್ತಿದೆ ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿ CPU ಗಳ ಮೇಲಿನ ನಿರ್ಣಯವು ನಿಧಾನವಾಗಿದೆ. ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು ಸುಮಾರು 5 ನಿಮಿಷಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ.
ಚಿತ್ರಕ್ಕೆ ಪಠ್ಯ
ಚಿತ್ರದ ಔಟ್ಪುಟ್ಗೆ ಪಠ್ಯ
bentofile.yaml ಫೈಲ್ ಅಗತ್ಯವಿರುವ ಫೈಲ್ಗಳು ಮತ್ತು ಅವಲಂಬನೆಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುತ್ತದೆ.
ಬೆಂಟೊವನ್ನು ನಿರ್ಮಿಸಲು ಕೆಳಗಿನ ಆಜ್ಞೆಯನ್ನು ಬಳಸಿ. ಬೆಂಟೊ ಎನ್ನುವುದು ಬೆಂಟೊಎಂಎಲ್ ಸೇವೆಯ ವಿತರಣಾ ಸ್ವರೂಪವಾಗಿದೆ. ಇದು ಸ್ವಯಂ-ಒಳಗೊಂಡಿರುವ ಆರ್ಕೈವ್ ಆಗಿದ್ದು ಅದು ಸೇವೆಯನ್ನು ಪ್ರಾರಂಭಿಸಲು ಅಗತ್ಯವಿರುವ ಎಲ್ಲಾ ಡೇಟಾ ಮತ್ತು ಕಾನ್ಫಿಗರೇಶನ್ಗಳನ್ನು ಒಳಗೊಂಡಿದೆ.
ಸ್ಥಿರ ಪ್ರಸರಣ ಬೆಂಟೊ ಪೂರ್ಣಗೊಂಡಿದೆ. ನೀವು ಬೆಂಟೊವನ್ನು ಸರಿಯಾಗಿ ಉತ್ಪಾದಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ಭಯಪಡಬೇಡಿ; ಮುಂದಿನ ವಿಭಾಗದಲ್ಲಿ ಪಟ್ಟಿ ಮಾಡಲಾದ ಆಜ್ಞೆಗಳನ್ನು ಬಳಸಿಕೊಂಡು ನೀವು ಪೂರ್ವ-ನಿರ್ಮಿತ ಮಾದರಿಯನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಬಹುದು.
ಪೂರ್ವ-ನಿರ್ಮಾಣ ಮಾದರಿಗಳು
ಪೂರ್ವ-ನಿರ್ಮಾಣ ಮಾದರಿಗಳು ಈ ಕೆಳಗಿನಂತಿವೆ:
EC2 ಗೆ ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ನಿಯೋಜಿಸಿ
ಬೆಂಟೊವನ್ನು EC2 ಗೆ ನಿಯೋಜಿಸಲು, ನಾವು bentoctl ಅನ್ನು ಬಳಸುತ್ತೇವೆ. bentoctl ನಿಮ್ಮ ಬೆಂಟೊಗಳನ್ನು ಯಾವುದಕ್ಕೂ ನಿಯೋಜಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ ಮೋಡದ ವೇದಿಕೆ ಟೆರಾಫಾರ್ಮ್ ಬಳಸಿ. ಟೆರಾಫಾರ್ಮ್ ಫೈಲ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಅನ್ವಯಿಸಲು, AWS EC2 ಆಪರೇಟರ್ ಅನ್ನು ಸ್ಥಾಪಿಸಿ.
ನಿಯೋಜನೆ config.yaml ಫೈಲ್ನಲ್ಲಿ, ನಿಯೋಜನೆಯನ್ನು ಈಗಾಗಲೇ ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾಗಿದೆ. ದಯವಿಟ್ಟು ನಿಮ್ಮ ಅವಶ್ಯಕತೆಗಳಿಗೆ ಎಡಿಟ್ ಮಾಡಲು ಮುಕ್ತವಾಗಿರಿ. ಬೆಂಟೊವನ್ನು g4dn.xlarge ಹೋಸ್ಟ್ನಲ್ಲಿ ಡಿಫಾಲ್ಟ್ ಆಗಿ ನಿಯೋಜಿಸಲಾಗಿದೆ ಆಳವಾದ ಕಲಿಕೆ AMI GPU PyTorch 1.12.0 (Ubuntu 20.04) US-west-1 ಪ್ರದೇಶದಲ್ಲಿ AMI.
ಈಗ Terraform ಫೈಲ್ಗಳನ್ನು ರಚಿಸಿ. ಡಾಕರ್ ಚಿತ್ರವನ್ನು ರಚಿಸಿ ಮತ್ತು ಅದನ್ನು AWS ECR ಗೆ ಅಪ್ಲೋಡ್ ಮಾಡಿ. ನಿಮ್ಮ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ಗೆ ಅನುಗುಣವಾಗಿ, ಇಮೇಜ್ ಅಪ್ಲೋಡ್ ಮಾಡಲು ಬಹಳ ಸಮಯ ತೆಗೆದುಕೊಳ್ಳಬಹುದು. AWS EC2 ಗೆ ಬೆಂಟೊವನ್ನು ನಿಯೋಜಿಸುವಾಗ, Terraform ಫೈಲ್ಗಳನ್ನು ಬಳಸಿ.
Swagger UI ಅನ್ನು ಪ್ರವೇಶಿಸಲು, EC2 ಕನ್ಸೋಲ್ಗೆ ಸಂಪರ್ಕಪಡಿಸಿ ಮತ್ತು ಬ್ರೌಸರ್ನಲ್ಲಿ ಸಾರ್ವಜನಿಕ IP ವಿಳಾಸವನ್ನು ತೆರೆಯಿರಿ. ಅಂತಿಮವಾಗಿ, ಸ್ಥಿರ ಪ್ರಸರಣ BentoML ಸೇವೆಯು ಇನ್ನು ಮುಂದೆ ಅಗತ್ಯವಿಲ್ಲದಿದ್ದರೆ, ನಿಯೋಜನೆಯನ್ನು ತೆಗೆದುಹಾಕಿ.
ತೀರ್ಮಾನ
SD ಮತ್ತು ಅದರ ಕಂಪ್ಯಾನಿಯನ್ ಮಾದರಿಗಳು ಎಷ್ಟು ಆಕರ್ಷಕ ಮತ್ತು ಶಕ್ತಿಯುತವಾಗಿವೆ ಎಂಬುದನ್ನು ನೀವು ನೋಡಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ನಾವು ಪರಿಕಲ್ಪನೆಯನ್ನು ಮತ್ತಷ್ಟು ಪುನರಾವರ್ತಿಸುತ್ತೇವೆಯೇ ಅಥವಾ ಹೆಚ್ಚು ಅತ್ಯಾಧುನಿಕ ವಿಧಾನಗಳಿಗೆ ಹೋಗುತ್ತೇವೆಯೇ ಎಂದು ಸಮಯ ಹೇಳುತ್ತದೆ.
ಆದಾಗ್ಯೂ, ಸುತ್ತಮುತ್ತಲಿನ ಪ್ರದೇಶಗಳು ಮತ್ತು ಸೂಚನೆಗಳನ್ನು ಉತ್ತಮವಾಗಿ ಗ್ರಹಿಸಲು ಹೊಂದಾಣಿಕೆಗಳೊಂದಿಗೆ ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡಲು ಪ್ರಸ್ತುತ ಉಪಕ್ರಮಗಳು ನಡೆಯುತ್ತಿವೆ. ನಾವು BentoML ಬಳಸಿಕೊಂಡು ಸ್ಥಿರ ಪ್ರಸರಣ ಸೇವೆಯನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸಿದ್ದೇವೆ ಮತ್ತು ಅದನ್ನು AWS EC2 ಗೆ ನಿಯೋಜಿಸಿದ್ದೇವೆ.
AWS EC2 ನಲ್ಲಿ ಸೇವೆಯನ್ನು ನಿಯೋಜಿಸುವ ಮೂಲಕ ನಾವು ಹೆಚ್ಚು ಶಕ್ತಿಶಾಲಿ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ಸ್ಥಿರ ಪ್ರಸರಣ ಮಾದರಿಯನ್ನು ಚಲಾಯಿಸಲು, ಕಡಿಮೆ ಸುಪ್ತತೆಯೊಂದಿಗೆ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಮತ್ತು ಒಂದೇ ಕಂಪ್ಯೂಟರ್ನ ಆಚೆಗೆ ವಿಸ್ತರಿಸಲು ಸಾಧ್ಯವಾಯಿತು.
ಪ್ರತ್ಯುತ್ತರ ನೀಡಿ