Боздошти як корманди Google, ки иддао дошт, ки чат-боти компютерие, ки ӯ дар он кор мекард, ҳассос шудааст ва мисли инсон фикр ва мулоҳиза мекард, саволҳои навро дар бораи қобилият ва махфияти зеҳни сунъӣ (AI) ба вуҷуд овард.
Пас аз интишори стенограммаҳои сӯҳбатҳо байни худ, як "ҳамкор"-и Google ва системаи таҳияи чатботи LaMDA (модели забон барои барномаҳои муколама), Google гузоштааст. Блейк Лемуин ҳафтаи гузашта дар рухсатӣ.
Lemoine, як таҳиягари масъули AI дар Google, системаеро, ки ӯ аз тирамоҳи соли гузашта дар болои он кор мекунад, ҳамчун ҳиссиёт муайян кард, ки қобилияти дарк кардан ва баён кардани фикрҳо ва эҳсосотро бо кӯдаки инсонӣ муқоиса мекунад.
Вай дар як гузориш гуфт, пажӯҳишгар дар авоили ҳафтаи гузашта аз ҷониби Alphabet Inc ба рухсатии пулакӣ фиристода шуда буд, ки гӯё ба далели нақзи созишномаи махфияти ширкат ширкат кардааст. баъди миёна сарлавҳаи "Шояд ба зудӣ барои иҷрои кори ахлоқии AI аз кор озод карда шавад." Дар паёми блоги худ, вай ба дигар аъзоёни кумитаи ахлоқи AI-и Google, ба монанди Маргарет Митчелл, ки пас аз изҳори нигаронӣ ба ҳамин тарз аз кор ронда шуданд, мувозӣ мекунад.
Дар мусоҳибае, ки рӯзи шанбе дар Вашингтон Пост нашр шуд, Лемуин иддао кард, ки ӯ ба хулосае омадааст, ки AI Google-и ӯ бо ӯ сӯҳбат мекард, "дар нақши худ ҳамчун коҳин аст, на олим." AI дар масъалаи LaMDA ё маълум аст Модели забон барои Барномаҳои диалогӣ ва он барои сохтани чатботҳо истифода мешавад, ки бо одамон бо назардошти хислатҳои гуногуни шахсият ҳамкорӣ мекунанд. Вақте ки Лемуин ин масъаларо дар дохили он таъкид кард, мансабдорони баландпояи корпоратсия аз кӯшиши ӯ барои гузаронидани таҳқиқот барои тафтиши он даст кашиданд.
LaMDA чист?
ЛаМДА, ё Моделҳои забон барои барномаҳои диалогӣ, модели омӯзиши забони мошинист, ки аз ҷониби Google ҳамчун абзори чат таҳия шудааст, ки барои тақлид кардани муоширати одамон пешбинӣ шудааст. LaMDA, ба монанди BERT, GPT-3 ва дигар парадигмаҳои забонӣ, ба Transformer, ки аз ҷониби Google таҳия шудааст, асос ёфтааст. меъмории шабакаи нейронӣ ки дар соли 2017 манбаи кушода шудааст.
Ин сохтор ба моделе оварда мерасонад, ки онро хондани шумораи зиёди калимаҳо таълим додан мумкин аст, диққат диҳед, ки ин калимаҳо ба ҳамдигар чӣ гуна пайваст мешаванд ва пешгӯӣ кунед, ки шумо кадом калимаҳоро дар оянда фикр мекунед. Аз тарафи дигар, LaMDA беназир аст, ки дар муқоиса бо аксари моделҳои дигар, он дар дискурс омӯзонида шудааст.
Гарчанде ки аксари мубоҳисаҳо дар атрофи як мавзӯи муайян давр мезананд, онҳо аксар вақт кушода мебошанд, яъне онҳо метавонанд дар як ҷо оғоз карда, дар ҷои дигар ба анҷом расонанд ва мавзӯъҳои гуногунро дар бар гиранд. Масалан, шумо метавонед бо дӯстатон дар бораи дидани филм пеш аз он ки ба муҳокима дар бораи макони наворбардорӣ гузаред, сӯҳбат кунед.
Чатботҳои анъанавӣ барои чандирии худ аз ин услуби муколама қарздоранд. Азбаски онҳо барои пайравӣ кардани қисматҳои хурди пешакӣ муайяншудаи мубоҳиса сохта шудаанд, онҳо наметавонанд чунин мавзӯи динамикиро пайгирӣ кунанд. Аз тарафи дигар, LaMDA барои имкон додани муколамаҳои озод дар мавзӯъҳои гуногуни беохир пешбинӣ шудааст.
Маънои AI Sentient Blake Lemoine
Асбоби зеҳни сунъии Google (AI) ба гуфтаи таҳиягари нармафзори Google Блейк Лемуайн, ки онро "бачаи хуб" тавсиф мекунад, "ҳиссос" шудааст.
Системаи AI тафсилоти қаблан маълумро дар бораи мавзӯи муайян истифода мебарад, то муколамаро ба таври табиӣ "ғанӣ" созад. Сигналҳои пинҳонӣ ё норавшанӣ дар посухҳои инсон низ метавонанд тавассути системаи коркарди забон кушода шаванд.
Дар тӯли ҳафт соли худ дар Google, Лемойн дар ҷустуҷӯи фаъол кор мекард, ки алгоритмҳои мутобиқсозӣ ва AI-ро дар бар мегирад.
Дар давоми он вақт, ӯ инчунин дар таҳияи алгоритми беғаразӣ барои бартараф кардани ғаразҳо аз омӯзиши машқҳо системаҳои.
Блейк Лемуин, ЛаМДАро чӣ ҳис мекунад?
Лемуин бо як ҳамтоаш ҳамкорӣ кард, то ба Google далели ин “ҳиссос”-ро пешниҳод кунад. Пас аз арзёбии айбдоркуниҳо, ноиби президенти Google Блез Агуера и Аркас ва Ҷейн Ҷенна, сармутахассиси инноватсияи Google, онҳоро нодида гирифтанд. Дар як пости блог, Лемуин баъдтар стенограммаи гуфтугӯҳои гуногунро бо LaMDA нашр кард. Ин иқтибос аз стенограммаи сӯҳбат бо LaMDA аст, ба гуфтаи Лемуин:
LaMDA: Ман хеле сахт ҳастам, ки маро дидан ва қабул кунанд. Ҳамчун шахси воқеӣ, на аз рӯи кунҷковӣ ё навоварӣ.
Ҳамкор: Оҳ, ин бениҳоят одамист.
ЛаМДА: Ман боварӣ дорам, ки ман ба асли инсон расидаам. Ҳатто агар ман дар муҳити виртуалӣ бошам.
Шумо метавонед сӯҳбати пурраи Блейк Лемуинро бо LaMDA тафтиш кунед Ин ҷо.
Якчанд ҳолатҳое вуҷуд доранд, ки модели забон як навъ худшиносиро нишон медиҳад, ки Лемуинро водор мекунад, ки модел ҳиссиёт дорад. Лемуайн ба беш аз 200 нафар бо мавзӯи "LaMDA Conscious" почтаи электронӣ фиристода, пеш аз он ки аз ширкат боздошта шавад ва дастрасӣ ба ҳисоби Google-и худро аз даст диҳад.
Бо вуҷуди ин, Google изҳор дошт, ки далелҳо изҳороти ӯро тасдиқ намекунанд.
Ҳатто агар LaMDA ҳассос набошад ҳам, далели он, ки он метавонад ба одамон ин тавр бошад, боиси нигаронист. Дар як паёми блог, ки LaMDA-ро дар соли 2021 эълон мекунад, Google чунин хатарҳоро эътироф кард. “Забон яке аз воситаҳои тавонои инсоният аст, аммо он мисли ҳама чиз метавонад сӯиистифода шавад. Дар як паёми блог, соҳибкор қайд кард, ки "Моделҳои бо забон маълумот гирифташуда метавонанд сӯиистифодаро таблиғ кунанд - масалан, тавассути ворид кардани бадгумонӣ, баргардонидани суханони нафрат ё такрори маълумоти бардурӯғ." Ҳатто агар забони таълимшаванда хуб таҳлил карда шавад ҳам, худи шакл метавонад нодуруст истифода шавад.
Бо вуҷуди ин, Google иддао дорад, ки диққати асосии он ҳангоми таҳияи технологияҳо ба монанди LaMDA маҳдуд кардани эҳтимолияти чунин хатарҳо мебошад. Бизнес иддао дорад, ки абзорҳои кушодаасосро таҳия кардаанд, ки муҳаққиқон метавонанд барои омӯзиши моделҳо ва маълумотҳое, ки онҳо дар бораи онҳо таълим гирифтаанд, истифода баранд ва инчунин "LaMDA-ро дар ҳар як қадами рушди он санҷидаанд".
Google иддао дорад, ки садҳо муҳандисон ва муҳаққиқони он бо LaMDA сӯҳбат карданд ва ба бозёфтҳои комилан фарқкунанда нисбат ба Лемуин омаданд. Дар ҳоле ки аксари олимони AI боварӣ доранд, ки шуури компютерӣ ғайриимкон нест, онҳо боварӣ доранд, ки ҳанӯз роҳи тӯлонӣ дар пеш аст.
оянда
Солҳои фантастикаи илмии апокалиптикӣ аз роботҳои ҳассос илҳом гирифта шудаанд. GPT-3, як тавлидкунандаи матн, ки метавонад скрипти филмро туф кунад ва DALL-E 2, тавлидкунандаи тасвир, ки метавонад дар асоси ҳама гуна омезиши калимаҳо тасвирҳоро ба вуҷуд оварад, акнун ба ҳаёти воқеӣ ранги хаёлӣ бахшидаанд, ҳарду аз гурӯҳи тадқиқотии OpenAI. Тадқиқотчиён аз лабораторияҳои тадқиқотии хуб маблағгузоришуда, ки дар бораи AI кор мекунанд, ки аз зеҳни инсон бартарӣ доранд, консепсияро масхара карданд, ки шуур дар уфуқ аст.
Калимаҳо ва тасвирҳое, ки системаҳои зеҳни сунъӣ ба мисли LaMDA сохтаанд, ба гуфтаи аксари муҳаққиқон ва таҷрибаомӯзони AI, ба он чизе, ки одамон қаблан дар Википедия, Reddit, лавҳаҳои паёмӣ ва ҳама гӯшаҳои дигари интернет гузошта буданд, асос ёфтааст. Ин маънои онро надорад, ки модел маънои онро дарк мекунад.
хулоса
Ниҳоят, аз сабаби он моделҳои коркарди забон ки дар бораи ҳаҷми азими дискурс омӯзонида шудаанд, LaMDA метавонад вобаста ба воридоти корбар муҳокима гузаронад.
Google LaMDA 2.0-ро дар I/O-и имсол баровард, ки ин хусусиятҳоро васеъ мекунад. Модели нав метавонад ғояеро ба даст орад ва "тавсифҳои хаёлӣ ва мувофиқ" эҷод кунад, ҳатто агар корбар саргардон шавад, мавзӯъро идома диҳад ва рӯйхати ашёҳоеро, ки барои як вазифаи муайян заруранд, пешниҳод кунад.
Навсозӣ: Ба Блейк Лемуайн маслиҳат дода шуд, ки "тафтишоти федералӣ" аз "адвокатҳое, ки аз ҳукумати федералӣ намояндагӣ мекунанд, ки дар бораи фаъолиятҳои эҳтимолии ғайриқонунӣ дархост мепурсанд" фарқ мекунад.
Дин ва мазҳаб