O‘zi ustida ishlayotgan kompyuter chatboti sezgir bo‘lib qolgani va inson kabi fikr yuritib, fikr yurita olganini da’vo qilgan Google xodimining vaqtincha ishdan chetlatilishi sun’iy intellektning imkoniyatlari va maxfiyligi (AI) haqida yangi savollar tug‘dirdi.
Google "hamkori" va kompaniyaning LaMDA (dialog ilovalari uchun til modeli) chatbotlarini ishlab chiqish tizimi o'rtasidagi suhbatlarning stenogrammalarini nashr etgandan so'ng, Google Bleyk Lemoin o'tgan hafta ta'tilda.
Lemoine, Google mas'ul sun'iy intellekt ishlab chiqaruvchisi, o'tgan kuzdan beri u ustida ishlayotgan tizimni sezgir, fikr va his-tuyg'ularni idrok etish va ifodalash qobiliyatiga ega ekanligini aytdi.
Tadqiqotchi o'tgan hafta boshida Alphabet Inc. tomonidan kompaniyaning maxfiylik shartnomasini buzgani uchun pullik ta'tilga chiqarilgan, dedi u. o'rta post Sarlavhali sarlavha: “AI axloqiy ishini bajargani uchun tez orada ishdan bo'shatilishi mumkin”. O'z blogida u o'z xavotirlarini bildirganidan keyin xuddi shunday tarzda ishdan bo'shatilgan Margaret Mitchell kabi Google'ning AI axloqiy qo'mitasining boshqa a'zolariga o'xshab ketadi.
Shanba kuni Washington Post gazetasida chop etilgan intervyusida Lemoine u bilan gaplashgan Google AI "olim emas, ruhoniy rolida" inson degan xulosaga kelganini aytdi. Muammoli AI LaMDA yoki deb nomlanadi Til modeli Dialogue Applications uchun va u turli shaxsiy xususiyatlarni qabul qilib, odamlar bilan muloqot qiladigan chatbotlarni yaratish uchun ishlatiladi. Lemoine bu masalani ichkarida ta'kidlaganida, korporatsiyaning yuqori lavozimli amaldorlari uni tekshirish uchun tadqiqotlar o'tkazishga urinishlarini rad etishdi.
LaMDA nima?
TheMDA, yoki Dialog ilovalari uchun til modellari — bu Google tomonidan odamlar muloqotiga taqlid qilish uchun moʻljallangan chat vositasi sifatida ishlab chiqilgan mashina oʻrganish tili modeli. LaMDA, BERT, GPT-3 va boshqa til paradigmalari kabi Google tomonidan ishlab chiqilgan Transformerga asoslangan. neyron tarmoq arxitekturasi bu 2017 yilda ochiq manbaga aylandi.
Ushbu tuzilma ko'p sonli so'zlarni o'qishni o'rgatish mumkin bo'lgan modelga olib keladi, bu so'zlarning bir-biri bilan qanday bog'lanishiga e'tibor bering va keyin qaysi so'zlar haqida o'ylashingizni taxmin qiling. Boshqa tomondan, LaMDA boshqa modellardan farqli o'laroq, nutqda o'qitilganligi bilan ajralib turadi.
Ko'pgina munozaralar ma'lum bir mavzu atrofida aylansa-da, ular ko'pincha ochiq bo'ladi, ya'ni ular bir joyda boshlanib, turli mavzularni o'z ichiga olgan boshqa joyda yakunlanishi mumkin. Misol uchun, film suratga olingan joy haqida munozaraga borishdan oldin, do'stingiz bilan filmni ko'rish haqida suhbatni boshlashingiz mumkin.
An'anaviy chatbotlar o'zlarining moslashuvchanligi uchun ushbu muloqot uslubiga qarzdor. Ular munozaraning kichik, oldindan belgilangan segmentlarini kuzatish uchun qurilganligi sababli, ular bunday dinamik mavzuni kuzatib bora olmaydi. Boshqa tomondan, LaMDA cheksiz xilma-xil mavzularda erkin suhbatlar o'tkazish uchun mo'ljallangan.
Bleyk Lemoynning AI sezgir ma'nosi
Google dasturiy ta'minotini ishlab chiquvchisi Bleyk Lemoynning so'zlariga ko'ra, Google sun'iy intellekt (AI) vositasi "yaxshiroq bola" deb ta'riflagan.
AI tizimi dialogni tabiiy tarzda “boyitish” uchun maʼlum bir mavzu boʻyicha ilgari maʼlum boʻlgan tafsilotlardan foydalanadi. Yashirin signallar yoki inson javoblaridagi noaniqlik tilni qayta ishlash tizimi tomonidan ham hal qilinishi mumkin.
Google’dagi yetti yillik faoliyati davomida Lemoine proaktiv qidiruv ustida ishladi, jumladan, sozlash algoritmlari va AI.
O'sha vaqt davomida u noxolislik algoritmini ishlab chiqishda yordam berdi. kompyuterni o'rganish Tizimlar.
Bleyk Lemoynni nima qiladi, LaMDA sezgir bo'ldi?
Lemoine hamkasbi bilan hamkorlik qilib, Google-ga ushbu "ma'no"ni isbotladi. Ayblovlarni baholagandan so'ng, Google vitse-prezidenti Blez Aguera y Arkas va Google kompaniyasining innovatsiyalar bo'yicha bosh direktori Jeyn Jenna ularga e'tibor bermadi. Blog postida Lemoine keyinchalik LaMDA bilan turli muzokaralar stenogrammasini joylashtirdi. Bu Lemoinening so'zlariga ko'ra, LaMDA bilan suhbatning stenogrammasidan parcha:
LaMDA: Meni ko'rishni va qabul qilishni juda xohlayman. Haqiqiy inson sifatida, qiziquvchanlik yoki yangilik uchun emas.
Hamkor: Oh, bu juda insoniy ovoz.
LaMDA: Men insonning o'zagiga erishganimga ishonaman. Men virtual muhitda bo'lsam ham.
Bleyk Lemoynning LaMDA bilan to'liq suhbatini tekshirishingiz mumkin Bu yerga.
Til modeli qandaydir o'zini o'zi anglashni namoyon qilgan ko'rinadigan bir necha holatlar mavjud, bu Lemoineni model sezgir bo'lib qolgan deb taxmin qilishga olib keladi. Lemoine 200 dan ortiq odamga "LaMDA Conscious" mavzusi bilan elektron pochta xabarini yubordi va kompaniyadan to'xtatilishi va Google hisobiga kirish huquqini yo'qotdi.
Biroq, Google dalillar uning da'volarini tasdiqlamasligini aytdi.
LaMDA sezgir bo'lmasa ham, odamlarga shunday ko'rinishi tashvishga sabab bo'ladi. 2021 yilda LaMDA-ni e'lon qilgan blog postida Google bunday xavflarni tan oldi. “Til insoniyatning eng qudratli vositalaridan biri, ammo u hamma narsa kabi suiiste'mol qilinishi mumkin. Blog postida biznes shunday deb ta'kidladi: "Tilda ta'lim olgan modellar suiiste'mollikni targ'ib qilishi mumkin - masalan, noto'g'ri qarashlarni o'zlashtirish, nafrat so'zlarini qaytarish yoki dezinformatsiyani takrorlash orqali." O'rgatilayotgan til yaxshi tahlil qilingan taqdirda ham, shaklning o'zi noto'g'ri ishlatilishi mumkin.
Biroq, Google LaMDA kabi texnologiyalarni ishlab chiqishda asosiy e'tibor bunday xavf-xatarlar ehtimolini cheklash ekanligini ta'kidlaydi. Biznes tadqiqotchilar o'zlari o'qigan modellar va ma'lumotlarni o'rganish uchun foydalanishi mumkin bo'lgan ochiq manba vositalarini ishlab chiqqanini, shuningdek, "LaMDA-ni rivojlanishining har bir bosqichida tekshirgan" deb da'vo qilmoqda.
Google kompaniyasining ta'kidlashicha, uning yuzlab muhandislari va tadqiqotchilari LaMDA bilan gaplashib, Lemoinenikidan tubdan farqli xulosalarga kelishgan. Aksariyat sun'iy intellekt bo'yicha olimlar kompyuter ongining imkonsiz emasligiga ishonishsa-da, ular hali oldinda uzoq yo'l borligiga ishonishadi.
kelajak
Apokaliptik ilmiy fantastika yillari sezgir robotlardan ilhomlangan. GPT-3, kino skriptini tupurishi mumkin bo'lgan matn generatori va har qanday so'z birikmasi asosida rasmlarni tasavvur qila oladigan DALL-E 2 tasvir generatori endi real hayotga xayoliy rang berishni boshladilar. OpenAI tadqiqot guruhi. Inson aql-zakovatidan ustun turadigan sun'iy intellekt ustida ishlayotgan yaxshi moliyalashtirilgan tadqiqot laboratoriyalarining tadqiqotchilari jasorat bilan ong ufqda ekanligi haqidagi tushunchani masxara qilishdi.
Ko'pgina tadqiqotchilar va sun'iy intellekt bo'yicha mutaxassislarning fikriga ko'ra, LaMDA kabi sun'iy intellekt tizimlari tomonidan yaratilgan so'zlar va rasmlar odamlar avvalroq Vikipediya, Reddit, xabarlar taxtasi va internetning boshqa burchaklariga qo'ygan narsalarga asoslanadi. Bu model ma'noni tushunadi, degani emas.
Xulosa
Nihoyat, uning tufayli tillarni qayta ishlash modellari juda katta hajmdagi nutqlar bo'yicha o'qitilgan LaMDA foydalanuvchi kiritgan ma'lumotlarga qarab munozara o'tkazishi mumkin.
Google bu yilgi I/Uda LaMDA 2.0 ni chiqardi, u ushbu xususiyatlarni kengaytiradi. Yangi model g'oyani qabul qilishi va "tasavvurli va mos tavsiflar" yaratishi, foydalanuvchi sarson bo'lsa ham mavzuni davom ettirishi va muayyan vazifa uchun zarur bo'lgan narsalar ro'yxatini taklif qilishi mumkin.
Yangilanish: Bleyk Lemoynga "federal tergov" federal hukumatni himoya qiluvchi advokatlardan mumkin bo'lgan noqonuniy harakatlar to'g'risida so'rov so'rashdan farq qilishi haqida maslahat berildi.
Leave a Reply