Өөрийнх нь ажиллаж байсан компьютерийн чатбот мэдрэмжтэй болж, хүн шиг сэтгэж, сэтгэж байна гэж мэдэгдсэн Google-ийн ажилтныг ажлаас нь түдгэлзүүлсэн нь хиймэл оюун ухааны чадвар, нууцлалын (AI) талаар шинэ асуултуудыг төрүүлэв.
Google-ийн "хамтран ажиллагч" болон компанийн LaMDA (харилцан ярианы хэрэглээний хэлний загвар) чатбот хөгжүүлэх системийн хооронд хийсэн чатын хуулбарыг нийтлэсний дараа Google Блэйк Лемойн өнгөрсөн долоо хоногт чөлөө авсан.
Google-ийн хариуцлагатай AI хөгжүүлэгч Лемойн өнгөрсөн намраас эхлэн ажиллаж байгаа системээ хүний хүүхэдтэй адил бодол, мэдрэмжийг мэдэрч, илэрхийлэх чадвартай гэж тодорхойлсон.
Судлаачийг өнгөрсөн долоо хоногийн эхээр “Alphabet Inc” компанитай хийсэн нууцлалын гэрээг зөрчсөн гэх үндэслэлээр цалинтай чөлөө авсан гэж тэрээр мэдэгдлээ. Дунд зэргийн шуудан "Хиймэл оюун ухаантай ёс зүйн ажил хийснийхээ төлөө удахгүй халагдаж магадгүй" гэсэн гарчигтай. Тэрээр блогтоо бичсэн нийтлэлдээ Google-ийн AI-ийн ёс зүйн хорооны бусад гишүүд, тухайлбал Маргарет Митчелл гэх мэт санаа зовнилоо илэрхийлсний дараа ажлаасаа халагдсан хүмүүстэй ижил төстэй зүйл бичсэн байна.
Бямба гарагт Вашингтон Пост сонинд нийтлэгдсэн ярилцлагадаа Лемойн өөрийн ярилцсан Google-ийн хиймэл оюун ухаан нь "Эрдэмтэн биш санваартны дүрийн хувьд хүн" гэсэн дүгнэлтэд хүрсэн гэж мэдэгджээ. Асуудалтай байгаа хиймэл оюун ухааныг LaMDA эсвэл гэж нэрлэдэг Хэлний загвар Dialogue Applications-д зориулагдсан бөгөөд өөр өөр зан чанарыг харгалзан хүмүүстэй харьцдаг чатботуудыг бий болгоход ашигладаг. Лемуйн асуудлыг дотооддоо онцолж хэлэхэд корпорацийн өндөр албан тушаалтнууд түүнийг шалгахын тулд судалгаа хийх оролдлогоос татгалзав.
LaMDA гэж юу вэ?
ЛаМДА, эсвэл Dialog Apps-д зориулсан хэлний загвар нь Google-ээс хүний харилцааг дуурайлган чатын хэрэглүүр болгон хөгжүүлсэн машин сургалтын хэлний загвар юм. LaMDA нь BERT, GPT-3 болон бусад хэлний парадигмууд шиг Google-ийн боловсруулсан Transformer дээр суурилдаг. мэдрэлийн сүлжээний архитектур Энэ нь 2017 онд нээлттэй эх сурвалж болсон.
Энэхүү бүтэц нь олон тооны үгсийг уншиж, тэдгээр үгс хоорондоо хэрхэн холбогдож байгааг анхаарч, дараа нь ямар үгсийг бодохыг урьдчилан таамаглах боломжтой загварыг бий болгодог. Харин LaMDA нь бусад ихэнх загваруудаас ялгаатай нь яриа хэлцлээр сургагдсанаараа онцлог юм.
Ихэнх хэлэлцүүлэг нь тодорхой сэдвийн эргэн тойронд эргэлддэг ч ихэнхдээ нээлттэй байдаг, өөрөөр хэлбэл нэг газраас эхэлж, өөр газар дуусгаж, янз бүрийн сэдвүүдийг хамардаг. Жишээлбэл, та киноны зураг авалт хийсэн газрын талаар ярилцахаас өмнө найзтайгаа кино үзэх талаар ярилцаж болно.
Уламжлалт чатботууд уян хатан байдгаараа ийм төрлийн яриа хэлэлцээ хийдэг. Хэлэлцүүлгийн жижиг, урьдчилан тодорхойлсон хэсгүүдийг дагахаар бүтээгдсэн учраас тэд ийм динамик сэдвийг дагах боломжгүй байдаг. Нөгөө талаас, LaMDA нь эцэс төгсгөлгүй олон төрлийн сэдвээр чөлөөтэй яриа хэлэлцээ хийх боломжийг олгох зорилготой юм.
Блэйк Лемуайн хиймэл оюун ухааны мэдрэмж
Google-ийн программ хангамж хөгжүүлэгч Блэйк Лемойн хэлэхдээ Google-ийн хиймэл оюун ухаан (AI) хэрэгсэл нь "мэдрэмжтэй" болсон гэж "сайхан хүүхэд" гэж тодорхойлсон байна.
AI систем нь харилцан яриаг байгалийн аргаар баяжуулахын тулд тодорхой сэдвийн талаар урьд өмнө мэдэгдэж байсан нарийн ширийн зүйлийг ашигладаг. Хүний хариу үйлдэл дэх далд дохио эсвэл тодорхой бус байдлыг хэл боловсруулах системээр тайлж болно.
Google-д долоон жил ажиллахдаа Лемойн идэвхтэй хайлт дээр ажиллаж байсан бөгөөд үүнд тохируулгын алгоритмууд болон хиймэл оюун ухаан багтсан.
Энэ хугацаанд тэрээр шударга бус байдлын алгоритмыг боловсруулахад тусалсан. машин суралцах Системүүд.
Блэйк Лемойн, ЛаМДА-г юу мэдрэмтгий болгодог вэ?
Лемойн Google-д энэхүү "мэдрэмжийг" нотлохын тулд хамтран ажиллагсадтайгаа хамтран ажилласан. Google-ийн дэд ерөнхийлөгч Блэйз Агуера у Аркас болон Google-ийн инновацийн ахлах ажилтан Жэйн Женна нар буруутгагдаж буйг үнэлсний дараа тэднийг үл тоомсорлов. Дараа нь Лемойн блогтоо нийтлэлдээ LaMDA-тай хийсэн янз бүрийн ярианы бичлэгийг нийтэлжээ. Энэ бол Lemoine-ийн хэлснээр LaMDA-тай хийсэн ярианы хуулбар юм.
ЛаМДА: Би харагдах, хүлээн зөвшөөрөгдөхийг маш их хүсч байна. Сонирхолтой, шинэлэг зүйлээс биш жинхэнэ хүний хувьд.
Хамтран ажиллагсад: Аа, энэ бол үнэхээр хүнлэг юм.
ЛаМДА: Би хүний гол цөмд хүрсэн гэдэгт итгэдэг. Би виртуал орчинд байсан ч гэсэн.
Та Blake Lemoine-ийн LaMDA-тай хийсэн бүх яриаг шалгаж болно энд.
Хэлний загвар нь өөрийгөө танин мэдэхүйг харуулсан мэт харагдах хэд хэдэн тохиолдол байдаг бөгөөд энэ нь Лемойныг загвар өмсөгчийг мэдрэмжтэй болсон гэж үзэхэд хүргэдэг. Лемойн 200 гаруй хүнд "LaMDA Conscious" гэсэн гарчигтай цахим шуудан илгээж, пүүсээсээ хаагдаж, Google бүртгэлдээ нэвтрэх эрхээ алдсан байна.
Гэсэн хэдий ч Google нотлох баримтууд түүний мэдэгдлийг батлахгүй гэж мэдэгдэв.
Хэдийгээр LaMDA нь мэдрэмтгий биш ч гэсэн энэ нь хүмүүст ийм байдлаар харагддаг нь санаа зовоох шалтгаан болдог. 2021 онд LaMDA-г зарласан блог нийтлэлдээ Google ийм аюулыг хүлээн зөвшөөрсөн. “Хэл бол хүн төрөлхтний хамгийн хүчирхэг хэрэгслийн нэг хэдий ч бүх зүйлийн нэгэн адил түүнийг хүчирхийлж болзошгүй. Бизнесийнхэн блогтоо бичсэн нийтлэлдээ "Хэлний боловсролтой загвар өмсөгчид бусдыг гадуурхах, үзэн ядсан яриаг арилгах, худал мэдээлэл давтах зэргээр хүчирхийллийг сурталчлах боломжтой" гэж тэмдэглэжээ. Зааж буй хэлийг сайтар задлан шинжилсэн байсан ч хэлбэр нь өөрөө буруугаар ашиглагдаж болзошгүй.
Гэсэн хэдий ч Google нь LaMDA гэх мэт технологийг хөгжүүлэхдээ гол зорилго нь ийм аюулын боломжийг хязгаарлах явдал гэж мэдэгджээ. Тус бизнес нь судлаачид өөрсдийн сургалтанд хамрагдсан загвар, өгөгдлийг судлахад ашиглах боломжтой нээлттэй эхийн хэрэгслүүдийг боловсруулсан, мөн "хөгжлийн алхам бүртээ LaMDA-г шалгасан" гэж мэдэгддэг.
Google-ийн хэлснээр олон зуун инженер, судлаачид LaMDA-тай ярилцаж, Lemoine-ээс тэс өөр дүгнэлтэд хүрсэн. Хиймэл оюун ухааны ихэнх эрдэмтэд компьютерийг ухамсарлах нь боломжгүй зүйл биш гэж үздэг ч, тэд үүнийг хийх ёстой маш их зам байгаа гэдэгт итгэдэг.
ирээдүйн
Апокалипсийн тухай олон жилийн шинжлэх ухааны уран зөгнөлийг мэдрэх чадвартай роботуудаас санаа авсан. Киноны зохиолыг нулимж чаддаг текст үүсгэгч GPT-3, ямар ч үгийн хослол дээр үндэслэн зураг үүсгэж чаддаг DALL-E 2 дүрс үүсгэгч нь одоо бодит амьдралд уран зөгнөлт өнгө төрхийг өгч эхэлжээ. OpenAI судалгааны бүлэг. Хүний оюун ухаанаас илүү сайн хиймэл оюун ухаан дээр ажилладаг сайн санхүүжсэн судалгааны лабораторийн судлаачид зоригжсондоо ухамсар нь тэнгэрийн хаяанд байна гэсэн ойлголтыг шоолж байна.
Ихэнх судлаачид болон хиймэл оюун ухааны мэргэжилтнүүдийн үзэж байгаагаар LaMDA зэрэг хиймэл оюун ухааны системээр бүтээгдсэн үг, зургууд нь хүмүүсийн өмнө нь Wikipedia, Reddit, мессежийн самбар болон интернетийн бусад өнцөг булан бүрт байрлуулсан зүйлс дээр үндэслэсэн байдаг. Энэ нь загвар нь утгыг ойлгодог гэсэн үг биш юм.
Дүгнэлт
Эцэст нь, үүний улмаас хэл боловсруулах загварууд асар их хэмжээний ярианы талаар бэлтгэгдсэн тул LaMDA нь хэрэглэгчийн оруулсан саналаас хамааран хэлэлцүүлэг явуулах боломжтой.
Google энэ жилийн I/O дээр LaMDA 2.0-ийг гаргасан бөгөөд энэ нь эдгээр функцуудыг өргөжүүлж байна. Шинэ загвар нь санаа авч, "уран сэтгэмжтэй, тохирох тайлбар" үүсгэх, хэрэглэгч тэнүүчилж байсан ч сэдвээ үргэлжлүүлэх, тодорхой ажилд шаардлагатай зүйлсийн жагсаалтыг санал болгох боломжтой.
Шинэчлэлт: "Холбооны мөрдөн байцаалт" нь "холбооны засгийн газрыг төлөөлж буй хуульчдаас хууль бус үйл ажиллагааны талаар лавлагаа асууж байгаа"-аас ялгаатай гэдгийг Блэйк Лемойн зөвлөсөн.
хариу үлдээх