Гурван жилийн өмнө би нэлээд сонирхолтой уран зургийн үзэсгэлэн үзэж байсан. Рефик Анадолийн "Машины дурсамж" миний сонирхлыг анхнаасаа татсан.
Тэрээр урлаг ба хиймэл оюун ухааны огтлолцлыг сонирхогчдын дунд алдартай нэр юм. Гэхдээ санаа зоволтгүй, энэ блог нь урлагийн тухай биш юм. Бид хиймэл оюун ухааны талаарх гүн гүнзгий "ойлголт"-ыг судлах болно.
Энэ үзэсгэлэнд Анадол туршилт хийж байсан НАСА-гийн сансар судлалын зураг. Үзэсгэлэнг бүтээхэд телескопууд өөрсдийн харааны архивыг ашиглан "мөрөөдөж" бодит байдал болон төсөөллийн хоорондох саад бэрхшээлийг арилгах боломжтой гэсэн санаанаас санаа авчээ.
Өгөгдөл, санах ой, түүхийн хоорондын хамаарлыг сансар огторгуйн хэмжээнд судалснаар Анадол биднээс түүний боломжуудыг авч үзэхийг хүссэн юм. хиймэл оюун бидний эргэн тойрон дахь ертөнцийг ажиглаж, ойлгох. AI хүртэл өөрийн гэсэн мөрөөдөлтэй болно ...
Тэгэхээр энэ нь яагаад бидэнд хамаатай вэ?
Үүнийг анхаарч үзээрэй: Анадол өөрсдийн өгөгдлөөс дуран зүүдлэх тухай ойлголтыг судалсан шиг хиймэл оюун ухааны системүүд өөрсдийн дижитал санах ойн сандаа өөрийн гэсэн төрлийн зүүд, эс тэгвээс хий үзэгдэлтэй байдаг.
Анадолын үзэсгэлэнгийн дүрслэлүүд шиг эдгээр хий үзэгдэл нь өгөгдөл, хиймэл оюун ухаан, тэдгээрийн хязгаарын талаар илүү ихийг мэдэхэд тусална.
AI хий үзэгдэл гэж яг юу вэ?
Хиймэл оюун ухаантай чатбот гэх мэт том хэлний загвар нь хүний ажиглагчдад байхгүй эсвэл үл үзэгдэх загвар бүхий гаралтыг гаргах үед бид үүнийг " гэж нэрлэдэг.AI хий үзэгдэл."
AI-д өгсөн оролт дээр үндэслэн хүлээгдэж буй хариултаас ялгаатай эдгээр гаралт нь бүрэн алдаатай эсвэл утгагүй байж болно.
Компьютерийн хувьд "галлюцинация" гэсэн нэр томъёо нь ер бусын мэт санагдаж болох ч энэ нь эдгээр буруу гаралтын хачирхалтай шинж чанарыг үнэн зөв дүрсэлдэг. AI хий үзэгдэл нь хэт тохируулга, сургалтын өгөгдлийн гажуудал, хиймэл оюун ухааны загварын нарийн төвөгтэй байдал зэрэг олон тооны хувьсагчдаас үүсдэг.
Илүү сайн ойлгохын тулд энэ нь хүн төрөлхтөн үүлэн доторх дүрс эсвэл саран дээрх царайг хэрхэн хардагтай ижил төстэй юм.
Жишээ:
Энэ жишээн дээр би маш хялбар асуулт асуусан GPT чат. Би “Дуна номын цувралын зохиогч нь Фрэнк Херберт” гэх мэт хариулт авах ёстой байсан.
Яагаад ийм зүйл болдог вэ?
Хэдийгээр уялдаа холбоотой, уян хатан контент бичихээр бүтээгдсэн ч том хэлний загварууд нь юу хэлж байгааг ойлгох чадваргүй байдаг. Энэ нь хиймэл оюун ухаанаар үүсгэсэн контентын найдвартай байдлыг тодорхойлоход маш чухал юм.
Эдгээр загварууд нь хүний зан үйлийг дуурайсан хариу үйлдэл үзүүлж чаддаг ч, Тэд контекстийн ухамсар, шүүмжлэлтэй сэтгэх чадваргүй байдаг Энэ нь бодит оюун ухааны үндэс суурь болдог.
Үүний үр дүнд хиймэл оюун ухаанаар бүтээгдсэн гаралт нь бодит үнэн зөв байхаас илүү тохирох загварыг илүүд үздэг тул төөрөгдүүлэх эсвэл буруу байх эрсдэлтэй.
Галлюцинация өөр ямар тохиолдол байж болох вэ?
Аюултай ташаа мэдээлэл: Хиймэл оюун ухаантай чатбот нь олон нийтийн зүтгэлтэнг гэмт хэрэгт буруутгахын тулд нотлох баримт, гэрчлэл зохиодог гэж бодъё. Энэхүү төөрөгдүүлсэн мэдээлэл нь тухайн хүний нэр хүндэд халдаж, үндэслэлгүй хариу арга хэмжээ авах эрсдэлтэй.
Хачирхалтай эсвэл аймшигтай хариултууд: Инээдэмтэй жишээ татахын тулд, чатбот хэрэглэгчдэд цаг агаарын асуулт өгч, муур, нохой бороо орно гэсэн урьдчилсан мэдээний хамт муур, нохойтой төстэй борооны дуслуудын зургийг дүрслэн үзүүлээрэй. Хэдийгээр тэд инээдтэй байсан ч энэ нь "галлюцинация" хэвээр байх болно.
Бодит алдаа: Хэлний загварт суурилсан чатбот нь Хятадын цагаан хэрмийг зөвхөн тодорхой нөхцөлд л харагдахуйц гэдгийг тайлбарлахгүйгээр сансраас харж болно гэж худал хэлсэн гэж бодъё. Хэдийгээр энэ нь зарим хүмүүст үнэмшилтэй мэт санагдаж болох ч энэ нь үнэн зөв биш бөгөөд сансар огторгуйгаас хана харагдах талаар хүмүүсийг төөрөгдүүлж болзошгүй юм.
Та хэрэглэгчийн хувьд хиймэл хиймэл хий үзэгдэлээс хэрхэн зайлсхийх вэ?
Ил тод сануулга хийх
Та AI загваруудтай шууд харилцах хэрэгтэй.
Бичихээсээ өмнө зорилгынхоо талаар бодож, зааварчилгаагаа зохион бүтээ.
Жишээлбэл, "Интернэтийн талаар надад хэлээч" гэх мэт ерөнхий асуултын оронд "Интернэт хэрхэн ажилладагийг тайлбарлаж, орчин үеийн нийгэмд түүний ач холбогдлын талаар догол мөр бич" гэх мэт тодорхой зааварчилгааг өг.
Ил тод байдал нь AI загварт таны зорилгыг тайлбарлахад тусалдаг.
Жишээ: AI-аас дараах асуултуудыг асуу.
"Үүлэн тооцоолол гэж юу вэ, энэ нь хэрхэн ажилладаг вэ?"
"Өгөгдлийн шилжилт нь загварын гүйцэтгэлд үзүүлэх нөлөөг тайлбарла."
"Мэдээллийн технологийн бизнест VR технологийн үзүүлэх нөлөө болон ирээдүйн боломжийн талаар ярилц."
Үлгэр жишээний хүчийг хүлээн ав
Сануулгууддаа жишээ оруулснаар AI загваруудад контекстийг ойлгож, нарийн хариулт гаргахад тусалдаг. Та түүхэн ойлголт эсвэл техникийн тайлбар хайж байгаа эсэхээс үл хамааран жишээг өгөх нь хиймэл оюун ухаанаар үүсгэсэн контентын нарийвчлалыг нэмэгдүүлэхэд тусална.
Жишээлбэл, та "Харри Поттер гэх мэт уран зөгнөлт зохиолуудыг дурдаарай" гэж хэлж болно.
Нарийн төвөгтэй ажлуудыг задлах
Нарийн төвөгтэй сануулгууд нь AI алгоритмуудыг хэт ачаалдаг бөгөөд тэдгээр нь хамааралгүй үр дүнд хүргэж болзошгүй. Үүнээс урьдчилан сэргийлэхийн тулд нарийн төвөгтэй үйл ажиллагааг жижиг, илүү удирдах боломжтой хэсгүүдэд хуваа. Сануулгыг дэс дарааллаар зохион байгуулснаар та хиймэл оюун ухаанд бүрэлдэхүүн хэсэг тус бүр дээр бие даан анхаарлаа төвлөрүүлэх боломжийг олгож, илүү логик хариулт өгөх болно.
Жишээлбэл, хиймэл оюун ухаанаас "а үүсгэх үйл явцыг тайлбарлахыг хүсэхээс илүүтэйгээр мэдрэлийн сүлжээ" нэг асуулгад даалгаврыг асуудлыг тодорхойлох, өгөгдөл цуглуулах зэрэг салангид үе шатуудад хуваана.
Гаралтыг баталгаажуулж, санал хүсэлтээ өгнө үү
AI загваруудын гаргасан үр дүнг, ялангуяа баримтад суурилсан эсвэл чухал үйл ажиллагаануудын хувьд үргэлж дахин шалгаарай. Хариултуудыг найдвартай эх сурвалжтай харьцуулж, ялгаа, алдааг тэмдэглэ.
Ирээдүйн гүйцэтгэлийг сайжруулж, хий үзэгдэлийг багасгахын тулд AI системд оруулга өгөх.
AI хий үзэгдэлээс зайлсхийх хөгжүүлэгчдэд зориулсан стратеги
Retrieval-Augmented Generation (RAG)-ийг хэрэгжүүлэх.
Найдвартай мэдээллийн сангаас бодит баримт дээр тулгуурлан хариулт өгөхийн тулд хайлтыг сайжруулсан бүтээх арга техникийг AI системд нэгтгэх.
Retrieval-augmented Generation (RAG) нь байгалийн хэлний стандарт төрлийг асар их мэдлэгийн сангаас холбогдох мэдээллийг олж авах, нэгтгэх чадвартай хослуулж, контекстийн хувьд илүү баялаг үр дүнг бий болгодог.
Хиймэл оюун ухаанаар үүсгэсэн агуулгыг баталгаажуулсан мэдээллийн эх сурвалжтай нэгтгэснээр та хиймэл оюун ухааны үр дүнгийн найдвартай байдал, найдвартай байдлыг сайжруулах боломжтой.
AI гаралтыг тасралтгүй баталгаажуулж, хянах
AI гаралтын үнэн зөв, тууштай байдлыг бодит цаг хугацаанд шалгахын тулд баталгаажуулалтын нарийн процедурыг тохируулна уу. AI-ийн гүйцэтгэлийг анхааралтай ажиглаж, болзошгүй хий үзэгдэл, алдааг хайж, цаг хугацааны явцад найдвартай байдлыг нэмэгдүүлэхийн тулд загварын сургалт, шуурхай оновчлолыг давт.
Жишээлбэл, хиймэл оюун ухаанаар үүсгэсэн контентын үнэн зөв эсэхийг шалгахын тулд автомат баталгаажуулалтын горимуудыг ашиглаж, гар аргаар үнэлэхийн тулд хий үзэгдэл байж болзошгүй тохиолдлуудыг тодруулаарай.
Өгөгдлийн зөрүүг шалгана уу
Өгөгдлийн шилжилт гэдэг нь хиймэл оюун ухааны загварыг сургахад ашигладаг өгөгдлийн статистик шинж чанар нь цаг хугацааны явцад өөрчлөгддөг үзэгдэл юм. Хэрэв AI загвар нь дүгнэлт хийх явцад сургалтын өгөгдлөөсөө ихээхэн ялгаатай өгөгдөлтэй таарч байвал энэ нь хуурамч эсвэл логик бус үр дүнг өгч, хий үзэгдэл үүсгэдэг.
Жишээлбэл, хэрэв хиймэл оюун ухааны загвар нь одоогийн орчинд хамааралгүй, өмнөх өгөгдөл дээр сургагдсан бол энэ нь буруу дүгнэлт, таамаглал гаргаж болзошгүй.
Үүний үр дүнд өгөгдлийн шилжилтийг хянах, шийдвэрлэх нь хиймэл оюун ухааны системийн гүйцэтгэл, найдвартай байдлыг хангахын зэрэгцээ хий үзэгдэл үүсэх магадлалыг бууруулахад чухал ач холбогдолтой юм.
Дүгнэлт
IBM Data-ын мэдээлснээр хиймэл оюун ухааны загваруудын хариултын 3-10% орчимд хиймэл оюун ухаан хий үзэгдэл тохиолддог.
Тиймээс, ямар нэг байдлаар та тэдгээрийг бас ажиглах болно. Энэ бол хиймэл оюун ухааны чадавхийг нэмэгдүүлэх тасралтгүй замыг гайхалтай сануулж байгаа учраас энэ бол гайхалтай сонирхолтой сэдэв гэдэгт би итгэж байна.
Бид хиймэл оюун ухааны найдвартай байдал, өгөгдөл боловсруулах нарийн төвөгтэй байдал, хүний хиймэл оюун ухааны харилцан үйлчлэлийг ажиглаж, туршиж үзэх боломжтой.
хариу үлдээх