Fyrir þremur árum heimsótti ég frekar áhugaverða myndlistarsýningu. „Machine Memoirs“ eftir Refik Anadol vakti áhuga minn frá upphafi.
Hann er vinsælt nafn meðal þeirra sem hafa áhuga á mótum list og gervigreindar. En ekki hafa áhyggjur, þetta blogg snýst ekki um list. Við munum kafa ofan í djúpa „skynjun“ gervigreindar.
Á þessari sýningu var Anadol að gera tilraunir með Geimkönnunarmyndir NASA. Sýningin var innblásin af hugmyndinni um að sjónaukar gætu „dreymt“ með því að nota sjónræn skjalasafn þeirra, þannig að múrarnir milli staðreyndar og ímyndunar óskýrast.
Með því að rannsaka tengsl gagna, minnis og sögu á heimsmælikvarða var Anadol að biðja okkur um að íhuga möguleika á gervigreind að fylgjast með og skilja heiminn í kringum okkur. Og jafnvel gervigreind að eiga sína eigin drauma...
Svo, hvers vegna er þetta viðeigandi fyrir okkur?
Hugleiddu þetta: Á sama tíma og Anadol rannsakaði hugmyndina um sjónauka sem dreymir úr gögnum sínum, hafa gervigreind kerfi sína eigin tegund af draumi - eða öllu heldur ofskynjunum - innan stafrænna minnisbankanna.
Þessar ofskynjanir, eins og sjónmyndirnar á sýningu Anadols, geta hjálpað okkur að læra meira um gögn, gervigreind og takmörk þeirra.
Hvað nákvæmlega eru gervigreind ofsjónir?
Þegar stórt tungumálalíkan, eins og skapandi gervigreind spjallbotni, framleiðir úttak með mynstrum sem eru annaðhvort engin eða ósýnileg mönnum, köllum við þetta „AI ofskynjanir."
Þessi úttak, sem er frábrugðin væntanlegu svari byggt á inntakinu sem gefið er til gervigreindar, getur verið algjörlega rangt eða vitlaust.
Í samhengi við tölvur kann hugtakið „ofskynjanir“ að virðast óvenjulegt, en það lýsir nákvæmlega furðulega eðli þessara rangu úttaks. Gervigreindarofskynjanir stafa af ýmsum breytum, þar á meðal offitun, hlutdrægni í þjálfunargögnum og hversu flókið gervigreind líkanið er.
Til að skilja betur er þetta hugmyndalega svipað því hvernig menn sjá form í skýjum eða andlitum á tunglinu.
Dæmi:
Í þessu dæmi spurði ég mjög auðveldrar spurningar til SpjallGPT. Ég átti að fá svar eins og: „Höfundur Dune bókaseríunnar er Frank Herbert.“.
Af hverju gerist þetta?
Þrátt fyrir að vera smíðuð til að skrifa efni sem er samhangandi og fljótandi, eru stór mállíkön í raun ekki fær um að skilja hvað þau eru að segja. Þetta er mjög mikilvægt til að ákvarða trúverðugleika gervigreindarefnis.
Þó að þessi líkön geti framkallað viðbrögð sem líkja eftir mannlegri hegðun, þá skortir samhengisvitund og gagnrýna hugsun sem liggja til grundvallar raunverulegri upplýsingaöflun.
Afleiðingin er sú að úttak sem mynda gervigreind eiga á hættu að vera villandi eða rangt þar sem þau eru hlynnt samsvörunarmynstri fram yfir staðreyndir.
Hver gætu önnur tilfelli ofskynjana verið?
Hættulegar rangar upplýsingar: Segjum að generative gervigreind spjallbotni búi til sönnunargögn og vitnisburði til að saka opinbera persónu ranglega um glæpsamlegt athæfi. Þessar villandi upplýsingar geta skaðað orðspor viðkomandi og valdið óréttmætum hefndaraðgerðum.
Skrítin eða hrollvekjandi svör: Til að gefa fyndið dæmi, sjáðu fyrir þér spjallbot sem gefur notanda spurningu um veður og svarar með spá sem segir að það muni rigna köttum og hundum, ásamt myndum af regndropum sem líkjast köttum og hundum. Jafnvel þó að þeir séu fyndnir, þá væri þetta samt „ofskynjun“.
Raunveruleg ónákvæmni: Gerum ráð fyrir að spjallbotn sem byggir á tungumálalíkönum segi ranglega að Kínamúrinn megi skoða úr geimnum án þess að útskýra að hann sé aðeins sýnilegur við sérstakar aðstæður. Þó að ummælin kunni að virðast trúverðug fyrir suma þá er hún ónákvæm og getur villt fólk um sjón múrsins úr geimnum.
Hvernig forðast þú gervigreindarofskynjanir sem notandi?
Gerðu skýrar leiðbeiningar
Þú þarft að hafa skýr samskipti við gervigreindarlíkön.
Hugsaðu um markmið þín og hannaðu leiðbeiningarnar þínar áður en þú skrifar.
Gefðu til dæmis sérstakar leiðbeiningar eins og "Útskýrðu hvernig internetið virkar og skrifaðu málsgrein um mikilvægi þess í nútímasamfélagi" í stað þess að setja fram almenna fyrirspurn eins og "Segðu mér frá internetinu."
Skýrleiki hjálpar gervigreindarlíkaninu að túlka ásetning þinn.
Dæmi: Spyrðu gervigreind spurninga eins og þessar:
"Hvað er tölvuský og hvernig virkar það?"
"Skýrðu áhrif gagnastreymis á frammistöðu líkansins."
"Ræddu áhrif og hugsanlega framtíð VR tækni á upplýsingatæknifyrirtækið."
Faðma mátt dæmisins
Að koma með dæmi í leiðbeiningunum þínum hjálpar gervigreindarlíkönum að skilja samhengið og búa til nákvæm svör. Hvort sem þú ert að leita að sögulegri innsýn eða tæknilegum skýringum, getur það að koma með dæmi hjálpað til við að auka nákvæmni gervigreindarefnis.
Til dæmis geturðu sagt: „Nemdu fantasíuskáldsögur eins og Harry Potter.
Brjóta niður flókin verkefni
Flóknar vísbendingar ofhlaða gervigreindarreikniritum og þær geta leitt til óviðkomandi niðurstaðna. Til að koma í veg fyrir þetta skaltu skipta flóknum athöfnum í smærri, meðfærilegri hluti. Með því að skipuleggja leiðbeiningarnar þínar í röð leyfirðu gervigreindinni að einbeita sér að hverjum íhlut sjálfstætt, sem leiðir til rökréttari svara.
Til dæmis, frekar en að biðja gervigreindina að „útskýra ferlið við að búa til a tauganet“ í einni fyrirspurn, skiptu verkefninu niður í staka áfanga eins og skilgreiningu vandamála og gagnasöfnun.
Staðfestu úttakið og gefðu endurgjöf
Athugaðu alltaf niðurstöðurnar sem framleiddar eru af gervigreindarlíkönum, sérstaklega fyrir staðreyndir eða mikilvægar aðgerðir. Berðu svörin saman við áreiðanlegar heimildir og taktu eftir mismun eða villum.
Gefðu inntak til gervigreindarkerfisins til að auka frammistöðu í framtíðinni og draga úr ofskynjunum.
Aðferðir fyrir þróunaraðila til að forðast gervigreind ofskynjanir
Innleiða Retrieval-Augmented Generation (RAG).
Samþættu endurheimtaraukna kynslóðartækni í gervigreindarkerfi til að byggja svör á staðreyndum úr áreiðanlegum gagnagrunnum.
Retrieval-augmented generation (RAG) sameinar staðlaða náttúrulega tungumálaframleiðslu með getu til að afla og fella inn viðeigandi upplýsingar úr risastórum þekkingargrunni, sem leiðir til samhengisríkari framleiðslu.
Með því að sameina AI-myndað efni við fullgiltar gagnaveitur geturðu bætt áreiðanleika og áreiðanleika AI niðurstöður.
Staðfestu og fylgstu með gervigreindarúttakum stöðugt
Settu upp strangar löggildingaraðferðir til að sannreyna réttmæti og samkvæmni gervigreindarúttakanna í rauntíma. Fylgstu gaumgæfilega með frammistöðu gervigreindar, leitaðu að hugsanlegum ofskynjunum eða mistökum og endurtóku líkanaþjálfun og hraða fínstillingu til að auka áreiðanleika með tímanum.
Notaðu til dæmis sjálfvirkar löggildingarrútur til að athuga AI-myndað efni fyrir staðreyndir og draga fram tilvik um hugsanlegar ofskynjanir fyrir handvirkt mat.
Athugaðu hvort gagnaskeyti
Gagnarek er fyrirbæri þar sem tölfræðilegir eiginleikar gagna sem notuð eru til að þjálfa gervigreind líkan eru mismunandi eftir tíma. Ef gervigreind líkanið hittir gögn sem eru talsvert frábrugðin þjálfunargögnum þess meðan á ályktun stendur, getur það gefið rangar eða órökréttar niðurstöður, sem leiðir til ofskynjana.
Til dæmis, ef gervigreind líkan er þjálfað á fyrri gögnum sem eru ekki lengur viðeigandi eða gefa til kynna núverandi umhverfi, getur það gert rangar ályktanir eða spár.
Fyrir vikið er eftirlit og úrlausn gagnastreymis mikilvægt til að tryggja afköst gervigreindarkerfisins og áreiðanleika en dregur einnig úr líkum á ofskynjunum.
Niðurstaða
Samkvæmt IBM Data koma gervigreindarofskynjanir fram í um 3% til 10% svara frá gervigreindarlíkönum.
Svo, með einum eða öðrum hætti, muntu líklega fylgjast með þeim líka. Ég tel að þetta sé ótrúlega áhugavert efni vegna þess að það er heillandi áminning um samfellda leið í átt að því að auka getu gervigreindar.
Við fáum að fylgjast með og gera tilraunir með áreiðanleika gervigreindar, ranghala gagnavinnslu og samskipti manna og gervigreindar.
Skildu eftir skilaboð