ಪರಿವಿಡಿ[ಮರೆಮಾಡಿ][ತೋರಿಸಿ]
ಈ ಕ್ಷಣದ ದೊಡ್ಡ ನರಮಂಡಲದ GPT-3 ಅನ್ನು ಮೇ 2020 ರಲ್ಲಿ ಪ್ರಕಟಿಸಲಾಗಿದೆ ಓಪನ್ಎಐ, ಎಲೋನ್ ಮಸ್ಕ್ ಮತ್ತು ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮ್ಯಾನ್ ಸಹ-ಸ್ಥಾಪಿಸಿದ AI ಸ್ಟಾರ್ಟ್ಅಪ್. GPT-3 ಅದರ ಹಿಂದಿನ GPT-175 ನಲ್ಲಿನ 1,5 ಶತಕೋಟಿ ನಿಯತಾಂಕಗಳಿಗೆ ಹೋಲಿಸಿದರೆ 2 ಶತಕೋಟಿ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಅತ್ಯಾಧುನಿಕ ಭಾಷಾ ಮಾದರಿಯಾಗಿದೆ.
GPT-3 ಮೈಕ್ರೋಸಾಫ್ಟ್ನ NLG ಟ್ಯೂರಿಂಗ್ ಮಾದರಿಯನ್ನು (ಟ್ಯೂರಿಂಗ್ ನ್ಯಾಚುರಲ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಜನರೇಷನ್) ಮೀರಿಸಿದೆ, ಇದು ಹಿಂದೆ 17 ಶತಕೋಟಿ ನಿಯತಾಂಕಗಳೊಂದಿಗೆ ಅತಿದೊಡ್ಡ ನರಮಂಡಲದ ದಾಖಲೆಯನ್ನು ಹೊಂದಿತ್ತು.
ಭಾಷಾ ಮಾದರಿಯನ್ನು ಪ್ರಶಂಸಿಸಲಾಗಿದೆ, ವಿಮರ್ಶಿಸಲಾಗಿದೆ ಮತ್ತು ಪರಿಶೀಲಿಸಲಾಗಿದೆ; ಇದು ಹೊಸ ಮತ್ತು ಕುತೂಹಲಕಾರಿ ಬಳಕೆಗಳನ್ನು ಹುಟ್ಟುಹಾಕಿದೆ. ಮತ್ತು ಈಗ ವರದಿಗಳು GPT-4, OpenAI ನ ಮುಂದಿನ ಆವೃತ್ತಿಯಾಗಿದೆ ಭಾಷಾ ಮಾದರಿ, ನಿಜವಾಗಿಯೂ ಶೀಘ್ರದಲ್ಲೇ ಬರಲಿದೆ.
ನೀವು GPT-4 ಕುರಿತು ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಲು ಬಯಸಿದರೆ ನೀವು ಸರಿಯಾದ ಸೈಟ್ಗೆ ಬಂದಿರುವಿರಿ. ನಾವು ಈ ಲೇಖನದಲ್ಲಿ GPT-4 ಅನ್ನು ಆಳವಾಗಿ ನೋಡುತ್ತೇವೆ, ಅದರ ನಿಯತಾಂಕಗಳನ್ನು ಒಳಗೊಳ್ಳುತ್ತೇವೆ, ಅದು ಇತರ ಮಾದರಿಗಳಿಗೆ ಹೇಗೆ ಹೋಲಿಸುತ್ತದೆ ಮತ್ತು ಹೆಚ್ಚಿನವು.
ಹಾಗಾದರೆ, GPT-4 ಎಂದರೇನು?
GPT-4 ನ ವ್ಯಾಪ್ತಿಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು, ನಾವು ಮೊದಲು GPT-3 ಅನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬೇಕು, ಅದರ ಪೂರ್ವಗಾಮಿ. GPT-3 (ಜನರೇಟಿವ್ ಪ್ರಿ-ಟ್ರೇನ್ಡ್ ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್, ಮೂರನೇ ತಲೆಮಾರಿನ) ಒಂದು ಸ್ವಾಯತ್ತ ವಿಷಯ-ಉತ್ಪಾದಿಸುವ ಸಾಧನವಾಗಿದೆ.
ಬಳಕೆದಾರರು ಡೇಟಾವನ್ನು ನಮೂದಿಸಿ a ಯಂತ್ರ ಕಲಿಕೆ ಮಾದರಿ, ಇದು ತರುವಾಯ OpenAI ಪ್ರಕಾರ, ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ಬೃಹತ್ ಪ್ರಮಾಣದ ಸಂಬಂಧಿತ ಬರವಣಿಗೆಯನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ. GPT-4 ಕೆಲವು-ಶಾಟ್ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಬಹುಕಾರ್ಯಕದಲ್ಲಿ ಗಮನಾರ್ಹವಾಗಿ ಉತ್ತಮವಾಗಿರುತ್ತದೆ - ಒಂದು ರೀತಿಯ ಯಂತ್ರ ಕಲಿಕೆ - ಫಲಿತಾಂಶಗಳನ್ನು ಮನುಷ್ಯರಿಗೆ ಇನ್ನಷ್ಟು ಹತ್ತಿರ ತರುವುದು.
GPT-3 ಅನ್ನು ನಿರ್ಮಿಸಲು ನೂರಾರು ಮಿಲಿಯನ್ ಪೌಂಡ್ಗಳು ಖರ್ಚಾಗುತ್ತದೆ, ಆದರೆ GPT-4 ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚು ವೆಚ್ಚವಾಗುತ್ತದೆ ಎಂದು ಊಹಿಸಲಾಗಿದೆ ಏಕೆಂದರೆ ಇದು ಪ್ರಮಾಣದಲ್ಲಿ ಐದು ನೂರು ಪಟ್ಟು ಹೆಚ್ಚಾಗಿರುತ್ತದೆ. ಇದನ್ನು ದೃಷ್ಟಿಕೋನದಲ್ಲಿ ಇರಿಸಲು,
GPT-4 ಮೆದುಳಿನಲ್ಲಿರುವ ಸಿನಾಪ್ಸಸ್ನಷ್ಟು ಗುಣಲಕ್ಷಣಗಳನ್ನು ಹೊಂದಿರಬಹುದು. GPT-4 ಮುಖ್ಯವಾಗಿ GPT-3 ಯಂತೆಯೇ ಅದೇ ವಿಧಾನಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳುತ್ತದೆ, ಹೀಗಾಗಿ ಒಂದು ಮಾದರಿ ಅಧಿಕವಾಗಿರುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ, GPT-4 ಪ್ರಸ್ತುತ GPT-3 ಏನು ಸಾಧಿಸುತ್ತದೆ ಎಂಬುದರ ಮೇಲೆ ವಿಸ್ತರಿಸುತ್ತದೆ - ಆದರೆ ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚಿನ ನಿರ್ಣಯ ಸಾಮರ್ಥ್ಯದೊಂದಿಗೆ.
ಪ್ರಾಯೋಗಿಕ ಉದ್ದೇಶಗಳಿಗಾಗಿ GPT-3 ಬಳಕೆದಾರರಿಗೆ ನೈಸರ್ಗಿಕ ಭಾಷೆಯನ್ನು ಪ್ರವೇಶಿಸಲು ಅವಕಾಶ ಮಾಡಿಕೊಟ್ಟಿತು, ಆದರೆ ಉತ್ತಮ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡುವ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲು ಇನ್ನೂ ಕೆಲವು ಪರಿಣತಿಯ ಅಗತ್ಯವಿದೆ. ಬಳಕೆದಾರರ ಉದ್ದೇಶಗಳನ್ನು ಊಹಿಸಲು GPT-4 ಗಮನಾರ್ಹವಾಗಿ ಉತ್ತಮವಾಗಿರುತ್ತದೆ.
GPT-4 ನಿಯತಾಂಕಗಳು ಯಾವುವು?
ಅತ್ಯಂತ ವ್ಯಾಪಕವಾಗಿ ನಿರೀಕ್ಷಿತ AI ಪ್ರಗತಿಗಳಲ್ಲಿ ಒಂದಾಗಿದ್ದರೂ, GPT-4 ಬಗ್ಗೆ ಏನೂ ತಿಳಿದಿಲ್ಲ: ಅದು ಹೇಗಿರುತ್ತದೆ, ಅದು ಯಾವ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ ಮತ್ತು ಅದು ಯಾವ ಶಕ್ತಿಯನ್ನು ಹೊಂದಿರುತ್ತದೆ.
ಕಳೆದ ವರ್ಷ, ಆಲ್ಟ್ಮ್ಯಾನ್ ಪ್ರಶ್ನೋತ್ತರವನ್ನು ಮಾಡಿದರು ಮತ್ತು GPT-4 ಗಾಗಿ OpenAI ನ ಮಹತ್ವಾಕಾಂಕ್ಷೆಗಳ ಕುರಿತು ಕೆಲವು ವಿವರಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸಿದರು. ಆಲ್ಟ್ಮ್ಯಾನ್ ಪ್ರಕಾರ ಇದು GPT-3 ಗಿಂತ ದೊಡ್ಡದಾಗಿರುವುದಿಲ್ಲ. GPT-4 ಅನ್ನು ಹೆಚ್ಚು ವ್ಯಾಪಕವಾಗಿ ಬಳಸುವ ಸಾಧ್ಯತೆಯಿಲ್ಲ ಭಾಷಾ ಮಾದರಿ. ಹಿಂದಿನ ತಲೆಮಾರುಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಮಾದರಿಯು ದೊಡ್ಡದಾಗಿದೆ ನರಮಂಡಲ ಜಾಲಗಳು, ಅದರ ಗಾತ್ರವು ಅದರ ವಿಶಿಷ್ಟ ಲಕ್ಷಣವಾಗಿರುವುದಿಲ್ಲ. GPT-3 ಮತ್ತು ಗೋಫರ್ ಹೆಚ್ಚು ತೋರಿಕೆಯ ಅಭ್ಯರ್ಥಿಗಳು (175B-280B).
ಎನ್ವಿಡಿಯಾ ಮತ್ತು ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಮೆಗಾಟ್ರಾನ್-ಟ್ಯೂರಿಂಗ್ ಎನ್ಎಲ್ಜಿ ದಾಖಲೆಯನ್ನು ಹೊಂದಿದ್ದವು ದಟ್ಟವಾದ ನರಮಂಡಲ 530B ನಲ್ಲಿ ಪ್ಯಾರಾಮೀಟರ್ಗಳು - GPT-3 ಗಿಂತ ಮೂರು ಪಟ್ಟು - ಇತ್ತೀಚಿನವರೆಗೂ Google ನ PalM ಅದನ್ನು 540B ನಲ್ಲಿ ತೆಗೆದುಕೊಂಡಿತು. ಆಶ್ಚರ್ಯಕರವಾಗಿ, ಎಂಟಿ-ಎನ್ಎಲ್ಜಿಗಿಂತ ಕಡಿಮೆ ಮಾದರಿಗಳು ಉತ್ತಮ ಪ್ರದರ್ಶನ ನೀಡಿವೆ.
ಪವರ್-ಕಾನೂನು ಸಂಪರ್ಕದ ಪ್ರಕಾರ, OpenAI ನ ಜೇರೆಡ್ ಕಪ್ಲಾನ್ ಮತ್ತು ಸಹೋದ್ಯೋಗಿಗಳು 2020 ರಲ್ಲಿ ನಿರ್ಧರಿಸಿದ್ದಾರೆ, ಬಜೆಟ್ ಹೆಚ್ಚಳವನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವಾಗ ಹೆಚ್ಚಾಗಿ ನಿಯತಾಂಕಗಳ ಸಂಖ್ಯೆಯನ್ನು ಹೆಚ್ಚಿಸಲು ಖರ್ಚುಮಾಡಲಾಗುತ್ತದೆ, ಕಾರ್ಯಕ್ಷಮತೆಯು ಅತ್ಯುತ್ತಮವಾಗಿ ಸುಧಾರಿಸುತ್ತದೆ. Google, Nvidia, Microsoft, OpenAI, DeepMind, ಮತ್ತು ಇತರ ಭಾಷಾ-ಮಾಡೆಲಿಂಗ್ ಕಂಪನಿಗಳು ವಿಧೇಯತೆಯಿಂದ ನಿಯಮಗಳನ್ನು ಅನುಸರಿಸುತ್ತವೆ.
ಆಲ್ಟ್ಮ್ಯಾನ್ ಅವರು ಇನ್ನು ಮುಂದೆ ಬೃಹತ್ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸಲು ಗಮನಹರಿಸುತ್ತಿಲ್ಲ, ಬದಲಿಗೆ ಸಣ್ಣ ಮಾದರಿಗಳ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಹೆಚ್ಚಿಸುವಲ್ಲಿ ಗಮನಹರಿಸುತ್ತಿದ್ದಾರೆ ಎಂದು ಸೂಚಿಸಿದರು.
OpenAI ಸಂಶೋಧಕರು ಸ್ಕೇಲಿಂಗ್ ಊಹೆಯ ಆರಂಭಿಕ ಪ್ರತಿಪಾದಕರಾಗಿದ್ದರು, ಆದರೆ ಹೆಚ್ಚುವರಿ, ಹಿಂದೆ ಕಂಡುಹಿಡಿಯದ ಮಾರ್ಗಗಳು ಉನ್ನತ ಮಾದರಿಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು ಅವರು ಕಂಡುಹಿಡಿದಿದ್ದಾರೆ. ಈ ಕಾರಣಗಳಿಗಾಗಿ GPT-4 GPT-3 ಗಿಂತ ಗಮನಾರ್ಹವಾಗಿ ದೊಡ್ಡದಾಗಿರುವುದಿಲ್ಲ.
OpenAI ಇತರ ಅಂಶಗಳ ಮೇಲೆ ಹೆಚ್ಚಿನ ಗಮನವನ್ನು ನೀಡುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ಡೇಟಾ, ಅಲ್ಗಾರಿದಮ್ಗಳು, ಪ್ಯಾರಾಮೀಟರೈಸೇಶನ್ ಮತ್ತು ಅಲೈನ್ಮೆಂಟ್, ಇದು ಗಮನಾರ್ಹ ಪ್ರಯೋಜನಗಳನ್ನು ತ್ವರಿತವಾಗಿ ನೀಡುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದೆ. 100T ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಯು ಏನು ಮಾಡಬಹುದೆಂದು ನಾವು ಕಾಯಬೇಕು ಮತ್ತು ನೋಡಬೇಕು.
ಮುಖ್ಯ ಅಂಶಗಳು:
- ಮಾದರಿಯ ಗಾತ್ರ: GPT-4 GPT-3 ಗಿಂತ ದೊಡ್ಡದಾಗಿರುತ್ತದೆ, ಆದರೆ ಹೆಚ್ಚು ಅಲ್ಲ (MT-NLG 530B ಮತ್ತು PalM 540B). ಮಾದರಿಯ ಗಾತ್ರವು ಗಮನಾರ್ಹವಾಗಿರುವುದಿಲ್ಲ.
- ಆಪ್ಟಿಮಾಲಿಟಿ: GPT-4 GPT-3 ಗಿಂತ ಹೆಚ್ಚಿನ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಬಳಸುತ್ತದೆ. ಇದು ಪ್ಯಾರಾಮೀಟರೈಸೇಶನ್ (ಸೂಕ್ತ ಹೈಪರ್ಪ್ಯಾರಾಮೀಟರ್ಗಳು) ಮತ್ತು ಸ್ಕೇಲಿಂಗ್ ವಿಧಾನಗಳಲ್ಲಿ ಹೊಸ ಆಪ್ಟಿಮಲಿಟಿ ಒಳನೋಟಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ (ತರಬೇತಿ ಟೋಕನ್ಗಳ ಸಂಖ್ಯೆಯು ಮಾದರಿ ಗಾತ್ರದಷ್ಟೇ ಮುಖ್ಯವಾಗಿದೆ).
- ಬಹುಮಾದರಿ: GPT-4 ಪಠ್ಯ ಸಂದೇಶಗಳನ್ನು ಕಳುಹಿಸಲು ಮತ್ತು ಸ್ವೀಕರಿಸಲು ಮಾತ್ರ ಸಾಧ್ಯವಾಗುತ್ತದೆ (ಮಲ್ಟಿಮೋಡಲ್ ಅಲ್ಲ). ನಂತಹ ಮಲ್ಟಿಮೋಡಲ್ ಮಾದರಿಗಳಿಗೆ ಪರಿವರ್ತನೆಯಾಗುವ ಮೊದಲು ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಅವುಗಳ ಮಿತಿಗಳಿಗೆ ತಳ್ಳಲು OpenAI ಪ್ರಯತ್ನಿಸುತ್ತದೆ ಡಾಲ್ 2, ಇದು ಅಂತಿಮವಾಗಿ ಏಕರೂಪದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಮೀರಿಸುತ್ತದೆ ಎಂದು ಅವರು ಊಹಿಸುತ್ತಾರೆ.
- ಸ್ಪಾರ್ಸಿಟಿ: GPT-4, ಅದರ ಪೂರ್ವವರ್ತಿಗಳಾದ GPT-2 ಮತ್ತು GPT-3 ನಂತೆ, ದಟ್ಟವಾದ ಮಾದರಿಯಾಗಿರುತ್ತದೆ (ಯಾವುದೇ ಇನ್ಪುಟ್ ಅನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು ಎಲ್ಲಾ ನಿಯತಾಂಕಗಳು ಬಳಕೆಯಲ್ಲಿವೆ). ಭವಿಷ್ಯದಲ್ಲಿ, ವಿರಳತೆ ಹೆಚ್ಚು ಮುಖ್ಯವಾಗುತ್ತದೆ.
- ಸಾಲು: GPT-4 GPT-3 ಗಿಂತ ಹೆಚ್ಚು ನಿಕಟವಾಗಿ ನಮ್ಮನ್ನು ಸಂಪರ್ಕಿಸುತ್ತದೆ. ಇದು ಮಾನವ ಇನ್ಪುಟ್ನೊಂದಿಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾದ InstructGPT ನಿಂದ ಕಲಿತದ್ದನ್ನು ಹಾಕುತ್ತದೆ. ಇನ್ನೂ, AI ಒಮ್ಮುಖವು ಬಹಳ ದೂರದಲ್ಲಿದೆ ಮತ್ತು ಪ್ರಯತ್ನಗಳನ್ನು ಉತ್ಪ್ರೇಕ್ಷೆ ಮಾಡುವ ಬದಲು ಎಚ್ಚರಿಕೆಯಿಂದ ನಿರ್ಣಯಿಸಬೇಕು.
ತೀರ್ಮಾನ
ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿಮತ್ತೆ. ಇದು ಒಂದು ದೊಡ್ಡ ಉದ್ದೇಶವಾಗಿದೆ, ಆದರೆ OpenAI ಡೆವಲಪರ್ಗಳು ಅದನ್ನು ಸಾಧಿಸಲು ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದಾರೆ. ಒಬ್ಬ ವ್ಯಕ್ತಿಯು ಮಾಡಬಹುದಾದ ಯಾವುದೇ ಚಟುವಟಿಕೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ಮಾಡುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿರುವ ಮಾದರಿ ಅಥವಾ "ಏಜೆಂಟ್" ಅನ್ನು ರಚಿಸುವುದು AGI ಯ ಗುರಿಯಾಗಿದೆ.
ಈ ಗುರಿಯನ್ನು ಸಾಧಿಸಲು GPT-4 ಮುಂದಿನ ಹಂತವಾಗಿರಬಹುದು ಮತ್ತು ಇದು ವೈಜ್ಞಾನಿಕ ಕಾಲ್ಪನಿಕ ಚಲನಚಿತ್ರದಿಂದ ಹೊರಬಂದಂತೆ ತೋರುತ್ತದೆ. AGI ಅನ್ನು ಸಾಧಿಸುವುದು ಎಷ್ಟು ವಾಸ್ತವಿಕವಾಗಿದೆ ಎಂದು ನೀವು ಆಶ್ಚರ್ಯ ಪಡಬಹುದು.
ಗೂಗಲ್ನ ಇಂಜಿನಿಯರಿಂಗ್ ನಿರ್ದೇಶಕ ರೇ ಕುರ್ಜ್ವೀಲ್ ಪ್ರಕಾರ, ನಾವು 2029 ರ ವೇಳೆಗೆ ಈ ಮೈಲಿಗಲ್ಲನ್ನು ಮುಟ್ಟುತ್ತೇವೆ. ಇದನ್ನು ಮನಸ್ಸಿನಲ್ಲಿಟ್ಟುಕೊಂಡು, ನಾವು AGI (ಕೃತಕ ಜನರಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್) ಗೆ ಹತ್ತಿರವಾಗುತ್ತಿದ್ದಂತೆ GPT-4 ಮತ್ತು ಈ ಮಾದರಿಯ ಶಾಖೆಗಳನ್ನು ಆಳವಾಗಿ ನೋಡೋಣ.
ಪ್ರತ್ಯುತ್ತರ ನೀಡಿ