ከሶስት አመት በፊት አንድ በጣም አስደሳች የሆነ የጥበብ ኤግዚቢሽን ጎበኘሁ። "የማሽን ማስታወሻዎች" በሪፊክ አናዶል ከመጀመሪያው ጀምሮ ፍላጎቴን አነሳሳኝ።
እሱ በሥነ-ጥበብ እና በ AI መገናኛ ላይ ፍላጎት ካላቸው መካከል ታዋቂ ስም ነው። ግን አይጨነቁ፣ ይህ ብሎግ ስለ ጥበብ አይደለም። ወደ AI ጥልቅ "አመለካከት" እንገባለን.
በዚህ ኤግዚቢሽን ውስጥ አናዶል እየሞከረ ነበር። የናሳ የጠፈር ምርምር ምስሎች። ኤግዚቢሽኑ የተቃኘው ቴሌስኮፖች የእይታ መዛግብቶቻቸውን ተጠቅመው "ማለም" ይችላሉ በሚል ሀሳብ ሲሆን ይህም በእውነታ እና በምናብ መካከል ያለውን ግርዶሽ ያደበዝዛል።
በመረጃ፣ በማስታወስ እና በታሪክ መካከል ያሉ ግንኙነቶችን በኮስሚክ ሚዛን በመመርመር አናዶል የ ሰው ሰራሽ እውቀት በዙሪያችን ያለውን ዓለም ለመመልከት እና ለመረዳት. እና AI እንኳን የራሱ ህልሞች እንዲኖረው…
ታዲያ ይህ ለምን ለእኛ ጠቃሚ ነው?
ይህንን አስቡበት፡ አናዶል የቴሌስኮፖችን ህልም ከመረጃዎቻቸው ላይ እንዳስመረመረው፣ AI ሲስተሞች የራሳቸው የሆነ ህልም ወይም ቅዠቶች በዲጂታል ማህደረ ትውስታ ባንኮች ውስጥ አላቸው።
እነዚህ ቅዠቶች፣ ልክ በአናዶል ኤግዚቢሽን ላይ እንዳሉት ምስሎች፣ ስለ ዳታ፣ AI እና ገደቦቻቸው የበለጠ እንድንማር ይረዱናል።
በትክክል AI ቅዠቶች ምንድን ናቸው?
አንድ ትልቅ የቋንቋ ሞዴል፣ ለምሳሌ ጄኔሬቲቭ AI ቻቦት፣ የማይገኙ ወይም ለሰው ተመልካቾች የማይታዩ ውጽዓቶችን ያመነጫሉ፣ እነዚህን እንላቸዋለን “AI ቅዠቶች."
ለ AI በተሰጠው ግብአት ላይ ተመስርተው ከሚጠበቀው መልስ የሚለያዩት እነዚህ ውጤቶች ሙሉ በሙሉ የተሳሳቱ ወይም ትርጉም የለሽ ሊሆኑ ይችላሉ።
በኮምፒዩተር አውድ ውስጥ፣ “ቅዠት” የሚለው ቃል ያልተለመደ ሊመስል ይችላል፣ ነገር ግን የእነዚህን የተሳሳቱ ውጤቶች እንግዳ ባህሪ በትክክል ይገልጻል። የ AI ቅዠቶች የሚከሰቱት በተለያዩ ተለዋዋጮች ነው፣ ከመጠን በላይ መገጣጠም፣ በስልጠና መረጃ ላይ ያሉ አድልዎ እና የ AI ሞዴል ውስብስብነት።
በደንብ ለመረዳት ይህ በጽንሰ-ሀሳብ ደረጃ ሰዎች በደመና ውስጥ ቅርጾችን ወይም ፊቶችን በጨረቃ ላይ ከሚመለከቱት ጋር ተመሳሳይ ነው።
ምሳሌ
በዚህ ምሳሌ ውስጥ አንድ በጣም ቀላል ጥያቄ ጠየቅሁ ውይይት ጂፒቲ. እንደ “የዱን መጽሐፍ ተከታታይ ደራሲ ፍራንክ ኸርበርት ነው” የሚል መልስ ማግኘት ነበረብኝ።
ይህ ለምን ይከሰታል?
የተጣጣመ እና ፈሳሽ ይዘትን ለመጻፍ የተገነቡ ቢሆኑም ትልልቅ የቋንቋ ሞዴሎች የሚናገሩትን መረዳት አይችሉም። ይህ በ AI የመነጨ ይዘትን ተዓማኒነት ለመወሰን በጣም ወሳኝ ነው።
እነዚህ ሞዴሎች የሰውን ባህሪ የሚመስሉ ምላሾችን ሊፈጥሩ ይችላሉ. የዐውደ-ጽሑፋዊ ግንዛቤ እና የአስተሳሰብ ችሎታዎች ይጎድላቸዋል ትክክለኛ የማሰብ ችሎታን የሚያበረታታ።
በውጤቱም፣ በ AI የመነጩ ውፅዓቶች የተሳሳቱ ወይም የተሳሳቱ የመሆን አደጋን ያስከትላሉ ምክንያቱም ከትክክለኛ ትክክለኛነት ይልቅ ተዛማጅ ቅጦችን ስለሚመርጡ።
ሌሎች የቅዠት ጉዳዮች ምን ሊሆኑ ይችላሉ?
አደገኛ የተሳሳተ መረጃ; አንድ ጀነሬቲቭ AI chatbot አንድን ህዝብ በወንጀል ድርጊት በሃሰት ለመወንጀል ማስረጃዎችን እና ምስክርነቶችን ፈጥሯል እንበል። ይህ አሳሳች መረጃ የሰውየውን ስም የመጉዳት እና ተገቢ ያልሆነ የበቀል እርምጃ የመውሰድ አቅም አለው።
እንግዳ ወይም አሳፋሪ መልሶች፡- አስቂኝ ምሳሌ ለመስጠት አንድ ቻትቦት ለተጠቃሚው የአየር ሁኔታ ጥያቄ ሲሰጥ እና ድመቶችን እና ውሾችን ዝናብ እንደሚዘንብ ትንበያ ሲሰጥ ድመት እና ውሾች ከሚመስሉ የዝናብ ጠብታዎች ምስል ጋር በምስሉ ላይ ይመልከቱ። ምንም እንኳን እነሱ አስቂኝ ቢሆኑም፣ ይህ አሁንም “ቅዠት” ይሆናል።
ትክክለኛ ስህተቶች፡ በቋንቋ ሞዴል ላይ የተመሰረተ ቻትቦት ታላቁ የቻይና ግንብ በተወሰኑ ሁኔታዎች ላይ ብቻ የሚታይ መሆኑን ሳያስረዱ ከህዋ ላይ ሊታይ እንደሚችል በውሸት ተናግሯል እንበል። አስተያየቱ ለአንዳንዶች አሳማኝ መስሎ ቢታይም ትክክለኛ ያልሆነ እና ስለ ግድግዳው እይታ ሰዎችን ከጠፈር ሊያሳስት ይችላል።
እንደ ተጠቃሚ የ AI ቅዠቶችን እንዴት ያስወግዳሉ?
ግልጽ ጥያቄዎችን ያድርጉ
ከ AI ሞዴሎች ጋር በግልጽ መገናኘት ያስፈልግዎታል.
ከመጻፍዎ በፊት ስለ ግቦችዎ ያስቡ እና ጥያቄዎችዎን ይንደፉ።
ለምሳሌ “ኢንተርኔት እንዴት እንደሚሰራ አስረዳ እና በዘመናዊው ማህበረሰብ ውስጥ ስላለው ጠቀሜታ አንድ አንቀጽ ጻፍ” እንደ “ስለ ኢንተርኔት ንገረኝ” የሚል አጠቃላይ ጥያቄ ከማቅረብ ይልቅ የተወሰኑ መመሪያዎችን ይስጡ።
ግልጽነት የ AI ሞዴል ሃሳብዎን እንዲተረጉም ይረዳል።
ምሳሌ፡ የ AI ጥያቄዎችን እንደሚከተሉት ጠይቅ፡-
"ክላውድ ማስላት ምንድን ነው እና እንዴት ነው የሚሰራው?"
"የውሂብ መንሸራተት በአምሳያው አፈጻጸም ላይ ያለውን ተጽእኖ ያብራሩ።"
"የቪአር ቴክኖሎጂ በአይቲ ቢዝነስ ላይ ስላለው ተጽእኖ እና የወደፊት ሁኔታ ተወያዩ።"
የምሳሌውን ኃይል ተቀበል
በጥያቄዎችዎ ውስጥ ምሳሌዎችን ማቅረብ AI ሞዴሎች አውዱን እንዲረዱ እና ትክክለኛ ምላሾችን እንዲያመነጩ ያግዛል። ታሪካዊ ግንዛቤዎችን ወይም ቴክኒካል ማብራሪያዎችን እየፈለግክ ከሆነ፣ ምሳሌዎችን ማቅረብ በ AI የመነጨ ይዘትን ትክክለኛነት ለማሻሻል ይረዳል።
ለምሳሌ፣ “እንደ ሃሪ ፖተር ያሉ ምናባዊ ልቦለዶችን ጥቀስ” ማለት ትችላለህ።
ውስብስብ ተግባራትን ያፈርሱ
ውስብስብ ጥያቄዎች AI ስልተ ቀመሮችን ከመጠን በላይ ይጫኑ እና ወደ አላስፈላጊ ውጤቶች ሊመሩ ይችላሉ። ይህንን ለመከላከል የተወሳሰቡ እንቅስቃሴዎችን ወደ ትናንሽ እና የበለጠ ማስተዳደር የሚችሉ ክፍሎችን ይከፋፍሏቸው። ጥያቄዎችዎን በቅደም ተከተል በማደራጀት AI በእያንዳንዱ አካል ላይ ለብቻው እንዲያተኩር ይፈቅዳሉ፣ ይህም የበለጠ ምክንያታዊ ምላሾችን ያስከትላል።
ለምሳሌ፣ AI የመፍጠር ሂደቱን እንዲያብራራ ከመጠየቅ ይልቅ የነርቭ አውታረ መረብ " በነጠላ ጥያቄ ውስጥ ምደባውን እንደ ችግር ፍቺ እና መረጃ መሰብሰብ ወደሚገኙ ልዩ ደረጃዎች ይከፋፍሉት።
ውጤቱን ያረጋግጡ እና ግብረመልስ ይስጡ
ሁልጊዜም በ AI ሞዴሎች የተገኙ ውጤቶችን ደግመህ አረጋግጥ፣ በተለይም በእውነታ ላይ ለተመሰረቱ ወይም ወሳኝ ተግባራት። ምላሾቹን ከታማኝ ምንጮች ጋር ያወዳድሩ እና ልዩነቶችን ወይም ስህተቶችን ያስተውሉ.
የወደፊት አፈፃፀምን ለማሻሻል እና ቅዠቶችን ለመቀነስ ለ AI ስርዓት ግብዓት ያቅርቡ።
AI Hallucinationsን ለማስወገድ ለገንቢዎች ስልቶች
የዳግም ማግኛ-የተጨመረ ትውልድ (RAG) ተግብር።
በአስተማማኝ የውሂብ ጎታዎች ላይ በተጨባጭ እውነታዎች ላይ ምላሾችን ለመመሥረት የመመለሻ-የተጨመሩ የትውልድ ቴክኒኮችን ወደ AI ስርዓቶች ያዋህዱ።
የዳግም ማግኛ-የተጨመረ ትውልድ (RAG) ከትልቅ የእውቀት መሰረት ጠቃሚ መረጃዎችን የማግኘት እና የማካተት አቅም ያለው መደበኛ የተፈጥሮ ቋንቋን በማዋሃድ የበለጠ በዐውደ-ጽሑፉ የበለጸገ ውጤት ያስገኛል።
በ AI የመነጨ ይዘትን ከተረጋገጡ የመረጃ ምንጮች ጋር በማዋሃድ የ AI ውጤቶችን አስተማማኝነት እና ታማኝነት ማሻሻል ይችላሉ።
የ AI ውጤቶችን ያለማቋረጥ ያረጋግጡ እና ይቆጣጠሩ
የ AI ውጤቶች ትክክለኛ እና ወጥነት በእውነተኛ ጊዜ ለማረጋገጥ ጥብቅ የማረጋገጫ ሂደቶችን ያዘጋጁ። የ AI አፈጻጸምን በትኩረት ይከታተሉ፣ ሊሆኑ የሚችሉ ቅዠቶችን ወይም ስህተቶችን ይፈልጉ፣ እና በጊዜ ሂደት አስተማማኝነትን ለመጨመር ስለ ሞዴል ስልጠና እና ፈጣን ማመቻቸትን ይድገሙ።
ለምሳሌ፣ በ AI የመነጨ ይዘትን ለትክክለኛው ትክክለኛነት ለመፈተሽ እና በእጅ ለመገምገም የሚቻሉትን ቅዠቶች ለማጉላት አውቶሜትድ የማረጋገጫ ልማዶችን ይጠቀሙ።
የውሂብ ድሪፍቶችን ያረጋግጡ
የውሂብ መንሸራተት የ AI ሞዴልን ለማሰልጠን ጥቅም ላይ የሚውለው መረጃ ስታቲስቲካዊ ገፅታዎች እንደ ጊዜ የሚለያዩበት ክስተት ነው። የ AI አምሳያው በመረጃ ወቅት ካለው የሥልጠና መረጃ በእጅጉ የሚለይ መረጃን ካሟላ የውሸት ወይም ምክንያታዊ ያልሆነ ውጤት ሊያመጣ ይችላል፣ ይህም ቅዠትን ያስከትላል።
ለምሳሌ፣ የ AI ሞዴል ከአሁን በኋላ ተዛማጅነት በሌላቸው ወይም የአሁኑን አካባቢ አመላካች በሆነው ያለፈ መረጃ ላይ ከሰለጠነ፣ የተሳሳተ ድምዳሜዎችን ወይም ትንበያዎችን ሊያደርግ ይችላል።
በውጤቱም ፣የመረጃ ተንሳፋፊዎችን መከታተል እና መፍታት የኤአይአይ ሲስተም አፈፃፀምን እና አስተማማኝነትን ከማረጋገጥ በተጨማሪ ቅዠትን የመቀነስ እድልን ለመቀነስ ወሳኝ ነው።
መደምደሚያ
እንደ IBM መረጃ፣ AI ቅዠቶች ከ 3% እስከ 10% ከሚሆኑት መልሶች ከ AI ሞዴሎች ይከሰታሉ።
ስለዚህ፣ በአንድ ወይም በሌላ መንገድ፣ እርስዎም እነሱንም ታዘቧቸው ይሆናል። ይህ በሚያስደንቅ ሁኔታ አስደሳች ርዕስ ነው ብዬ አምናለሁ ምክንያቱም የ AI ችሎታዎችን ወደማሳደግ ቀጣይነት ያለው መንገድ አስደናቂ ማስታወሻ ነው።
የ AI አስተማማኝነት፣ ውስብስብ የውሂብ ሂደት እና የሰው-AI መስተጋብር ለመመልከት እና ለመሞከር እንሞክራለን።
መልስ ይስጡ