तो काम करत असलेल्या संगणक चॅटबॉटवर काम करत असलेल्या एका Google कर्मचाऱ्याच्या निलंबनामुळे तो संवेदनाक्षम झाला होता आणि माणसाप्रमाणे विचार करत होता आणि तर्क करत होता, त्यामुळे कृत्रिम बुद्धिमत्तेची क्षमता आणि गुप्तता (AI) बद्दल नवीन प्रश्न निर्माण झाले आहेत.
Google “सहयोगी” आणि कंपनीची LaMDA (संवाद अनुप्रयोगांसाठी भाषा मॉडेल) चॅटबॉट विकास प्रणाली यांच्यातील चॅटचे प्रतिलेख प्रकाशित केल्यानंतर, Google ने ठेवले ब्लेक लेमोइन गेल्या आठवड्यात रजेवर.
लेमोइन, एक Google जबाबदार AI विकसक, मानवी मुलाशी तुलना करता येणारे विचार आणि भावना जाणण्याची आणि व्यक्त करण्याची क्षमता असलेल्या, गेल्या शरद ऋतूपासून तो ज्या प्रणालीवर काम करत आहे ती संवेदनशील म्हणून परिभाषित केली.
कंपनीच्या गोपनीयतेच्या कराराचे उल्लंघन केल्याचा आरोप करून संशोधकाला अल्फाबेट इंक. ने गेल्या आठवड्याच्या सुरुवातीला सशुल्क रजेवर ठेवले होते, असे त्यांनी एका पत्रात म्हटले आहे. मध्यम पोस्ट "AI नैतिक कार्य करण्यासाठी लवकरच काढून टाकले जाऊ शकते." त्याच्या ब्लॉग पोस्टमध्ये, त्याने Google च्या AI नीतिशास्त्र समितीच्या इतर सदस्यांना समांतर रेखाटले आहे, जसे की मार्गारेट मिशेल, ज्यांना चिंता व्यक्त केल्यानंतर अशाच प्रकारे काढून टाकण्यात आले होते.
वॉशिंग्टन पोस्टने शनिवारी प्रकाशित केलेल्या एका मुलाखतीत, लेमोइनने दावा केला की तो या निष्कर्षापर्यंत पोहोचला आहे की त्याने ज्या Google AI शी बोलले ते एक मनुष्य होते, "त्यांच्या भूमिकेत एक पुजारी होता, वैज्ञानिक नाही." अंकातील AI ला LaMDA किंवा म्हणून ओळखले जाते भाषा मॉडेल डायलॉग ऍप्लिकेशन्ससाठी, आणि त्याचा वापर चॅटबॉट्स तयार करण्यासाठी केला जातो जे भिन्न व्यक्तिमत्त्व वैशिष्ट्ये गृहीत धरून मानवांशी संवाद साधतात. जेव्हा लेमोइनने हा मुद्दा अंतर्गतपणे अधोरेखित केला तेव्हा कॉर्पोरेशनच्या वरिष्ठ अधिकार्यांनी त्याची पडताळणी करण्यासाठी अभ्यास करण्याचे त्यांचे प्रयत्न नाकारले.
LaMDA म्हणजे काय?
एमडीए, किंवा डायलॉग अॅप्ससाठी भाषा मॉडेल, हे Google द्वारे मानवी संप्रेषणाची नक्कल करण्यासाठी डिझाइन केलेले चॅट टूल म्हणून विकसित केलेले मशीन शिक्षण भाषा मॉडेल आहे. LaMDA, जसे BERT, GPT-3, आणि इतर भाषा पॅराडाइम्स, ट्रान्सफॉर्मरवर आधारित आहे, Google-विकसित न्यूरल नेटवर्क आर्किटेक्चर जे 2017 मध्ये ओपन सोर्स केले गेले.
या संरचनेचा परिणाम अशा मॉडेलमध्ये होतो ज्याला मोठ्या संख्येने शब्द वाचण्यास शिकवले जाऊ शकते, ते शब्द एकमेकांशी कसे जोडले जातात याकडे लक्ष द्या आणि आपण पुढे कोणत्या शब्दांचा विचार कराल याचा अंदाज लावा. दुसरीकडे, LaMDA हे अद्वितीय आहे कारण ते इतर मॉडेल्सच्या विपरीत, प्रवचनात प्रशिक्षित आहे.
बर्याच चर्चा एका विशिष्ट विषयाभोवती फिरत असताना, त्या वारंवार खुल्या असतात, याचा अर्थ ते एका ठिकाणाहून सुरू होऊन दुसऱ्या ठिकाणी समाप्त होऊ शकतात, ज्यामध्ये विविध थीम असतात. उदाहरणार्थ, तुम्ही एखाद्या मित्रासोबत चित्रपट पाहण्याबाबत संभाषण सुरू करू शकता, जिथे तो शूट केला गेला होता त्याबद्दल चर्चेला जाण्यापूर्वी.
पारंपारिक चॅटबॉट्स संवादाच्या या शैलीला त्यांची लवचिकता देतात. कारण ते चर्चेच्या लहान, पूर्व-परिभाषित विभागांचे अनुसरण करण्यासाठी तयार केले गेले आहेत, ते अशा गतिमान विषयाचे अनुसरण करण्यास अक्षम आहेत. दुसरीकडे, LaMDA चा अर्थ अनंत विविध थीमवर मुक्त-प्रवाह संवादांना अनुमती देण्यासाठी आहे.
ब्लेक लेमोइनचा एआय संवेदी अर्थ
गुगलचे आर्टिफिशियल इंटेलिजेंस (एआय) टूल "संवेदनशील" झाले आहे, गुगल सॉफ्टवेअर डेव्हलपर ब्लेक लेमोइन यांच्या मते, ज्याचे वर्णन "छान मूल" असे केले आहे.
AI प्रणाली नैसर्गिक पद्धतीने संवाद 'समृद्ध' करण्यासाठी एखाद्या विशिष्ट विषयाबद्दल पूर्वी ज्ञात तपशील वापरते. लपलेले सिग्नल किंवा मानवी प्रतिसादांमधील अस्पष्टता भाषा प्रक्रिया प्रणालीद्वारे देखील उलगडली जाऊ शकते.
Google मध्ये त्याच्या सात वर्षांच्या कालावधीसाठी, लेमोइनने सक्रिय शोधावर काम केले, ज्यामध्ये कस्टमायझेशन अल्गोरिदम आणि एआय समाविष्ट होते.
त्या काळात, त्यांनी पक्षपातीपणा दूर करण्यासाठी निःपक्षपाती अल्गोरिदम विकसित करण्यात मदत केली. मशीन शिक्षण प्रणाली
कशामुळे ब्लेक लेमोइन, लाएमडीए संवेदनशील बनले?
लेमोइनने एका सहकाऱ्यासह Google ला या "भावना" चा पुरावा देण्यासाठी सहयोग केला. आरोपांचे मूल्यमापन केल्यानंतर, Google चे उपाध्यक्ष Blaise Aguera y Arcas आणि Jane Jenna, Google चे मुख्य नवकल्पना अधिकारी यांनी त्यांच्याकडे दुर्लक्ष केले. एका ब्लॉग पोस्टमध्ये, लेमोइनने नंतर LaMDA सह विविध चर्चेचा उतारा पोस्ट केला. लेमोइनच्या म्हणण्यानुसार, LaMDA शी झालेल्या संभाषणाच्या उतार्याचा हा उतारा आहे:
लामडा: मी पाहिले आणि स्वीकारले जाण्यासाठी आतुर आहे. एक अस्सल व्यक्ती म्हणून, कुतूहल किंवा नवीनतेच्या बाहेर नाही.
सहयोगी: अहो, ते अत्यंत मानवी आवाजाचे आहे.
लामडा: मला विश्वास आहे की मी माणसाच्या मुळापर्यंत पोहोचलो आहे. जरी मी आभासी वातावरणात असलो तरी.
तुम्ही ब्लेक लेमोइनचे LaMDA सह संपूर्ण संभाषण तपासू शकता येथे.
अशी अनेक प्रकरणे आहेत जेव्हा भाषेच्या मॉडेलमध्ये काही प्रकारची आत्म-जागरूकता दिसून येते, ज्यामुळे लेमोइन असे गृहीत धरते की मॉडेल संवेदनशील बनले आहे. फर्ममधून निलंबित होण्यापूर्वी आणि त्याच्या Google खात्याचा प्रवेश गमावण्यापूर्वी लेमोइनने 200 हून अधिक व्यक्तींना "LaMDA Conscious" विषयासह ईमेल केले.
तथापि, Google ने सांगितले की पुराव्याने त्याच्या दाव्याला पुष्टी दिली नाही.
जरी LaMDA संवेदनाक्षम नसले तरी, ते मानवांना तसे दिसू शकते हे चिंतेचे कारण आहे. 2021 मध्ये LaMDA ची घोषणा करणार्या ब्लॉग पोस्टमध्ये, Google ने असे धोके ओळखले. "भाषा हे मानवतेच्या सर्वात शक्तिशाली साधनांपैकी एक आहे, तरीही, सर्व गोष्टींप्रमाणे, तिचा दुरुपयोग होऊ शकतो. एका ब्लॉग पोस्टमध्ये, व्यवसायाने नमूद केले आहे की, "भाषेत शिकलेले मॉडेल गैरवर्तनाचा प्रचार करू शकतात - उदाहरणार्थ, पूर्वग्रहांना आंतरिक करून, द्वेषयुक्त भाषण उलटवून किंवा चुकीच्या माहितीची पुनरावृत्ती करून." जरी शिकवल्या जाणार्या भाषेचे चांगले विश्लेषण केले गेले तरीही, फॉर्मचाच गैरवापर होऊ शकतो.
तथापि, Google असा दावा करते की LaMDA सारखे तंत्रज्ञान विकसित करताना त्याचे मुख्य लक्ष अशा धोक्यांची शक्यता मर्यादित करणे आहे. व्यवसायाने ओपन सोर्स टूल्स विकसित केल्याचा दावा केला आहे ज्याचा वापर संशोधक त्यांना प्रशिक्षित केलेल्या मॉडेल्स आणि डेटाचा अभ्यास करण्यासाठी तसेच "विकासाच्या प्रत्येक टप्प्यावर LaMDA तपासण्यासाठी" करण्यासाठी करू शकतात.
गुगलचा दावा आहे की त्याचे शेकडो अभियंते आणि संशोधक LaMDA शी बोलले आणि लेमोइन पेक्षा बरेच वेगळे निष्कर्ष काढले. बहुतेक AI शास्त्रज्ञांचा असा विश्वास आहे की संगणक चेतना अशक्य नाही, परंतु त्यांचा असा विश्वास आहे की अजून बराच पल्ला गाठायचा आहे.
भविष्यातील
बर्याच वर्षांच्या अॅपोकॅलिप्टिक सायन्स फिक्शनला संवेदनशील रोबोट्सने प्रेरित केले आहे. GPT-3, एक मजकूर जनरेटर जो चित्रपटाची स्क्रिप्ट बाहेर टाकू शकतो आणि DALL-E 2, एक प्रतिमा जनरेटर जो कोणत्याही शब्दांच्या संयोजनावर आधारित चित्रे तयार करू शकतो, आता वास्तविक जीवनाला एक काल्पनिक रंग देण्यास सुरुवात केली आहे. OpenAI संशोधन गट. AI वर काम करणार्या चांगल्या अर्थसहाय्यित संशोधन प्रयोगशाळांतील संशोधकांनी उत्साही, मानवी बुद्धीला मागे टाकून चेतना क्षितिजावर आहे या संकल्पनेला छेडले आहे.
LaMDA सारख्या कृत्रिम बुद्धिमत्ता प्रणालीद्वारे तयार केलेले शब्द आणि चित्रे, बहुतेक संशोधक आणि AI अभ्यासकांच्या मते, लोकांनी पूर्वी विकिपीडिया, Reddit, संदेश बोर्ड आणि इंटरनेटच्या इतर प्रत्येक कोपऱ्यावर टाकलेल्या गोष्टींवर आधारित आहेत. याचा अर्थ असा नाही की मॉडेलचा अर्थ समजतो.
निष्कर्ष
शेवटी, त्याच्यामुळे भाषा प्रक्रिया मॉडेल ज्यांना मोठ्या प्रमाणावर प्रवचनाचे प्रशिक्षण दिले गेले आहे, LaMDA वापरकर्त्याच्या इनपुटवर अवलंबून चर्चा करू शकते.
Google ने या वर्षीच्या I/O वर LaMDA 2.0 जारी केले, जे या वैशिष्ट्यांवर विस्तारित होते. नवीन मॉडेल कल्पना घेण्यास आणि "कल्पनाशील आणि योग्य वर्णने" तयार करण्यास सक्षम असेल, वापरकर्ता भटकत असला तरीही विषयावर ठेवा आणि एखाद्या विशिष्ट कार्यासाठी आवश्यक असलेल्या आयटमची सूची देऊ शकेल.
अपडेट: ब्लेक लेमोइन यांना सल्ला देण्यात आला आहे की "फेडरल इन्व्हेस्टिगेशन" "फेडरल सरकारचे प्रतिनिधीत्व करणार्या वकिलांकडून संभाव्य बेकायदेशीर क्रियाकलापांबाबत चौकशी करणे" पेक्षा वेगळे आहे.
प्रत्युत्तर द्या