Пред три години посетив една прилично интересна ликовна изложба. „Машински мемоари“ од Рефик Анадол го предизвика мојот интерес уште од самиот почеток.
Тој е популарно име меѓу оние кои се заинтересирани за пресекот на уметноста и вештачката интелигенција. Но, не грижете се, овој блог не е за уметност. Ќе навлеземе во длабоките „перцепции“ на вештачката интелигенција.
Анадол на оваа изложба експериментираше Снимки на НАСА за истражување на вселената. Изложбата беше инспирирана од идејата дека телескопите можат да „сонуваат“ користејќи ги нивните визуелни архиви, замаглувајќи ги бариерите помеѓу фактите и имагинацијата.
Истражувајќи ги односите помеѓу податоците, меморијата и историјата на космички размери, Anadol бараше од нас да го разгледаме потенцијалот на вештачка интелигенција да го набљудуваме и разбереме светот околу нас. Па дури и вештачката интелигенција да има свои соништа…
Па, зошто е ова релевантно за нас?
Размислете за ова: исто како што Anadol го истражуваше концептот на телескопи кои сонуваат од нивните податоци, системите за вештачка интелигенција имаат свој тип на соништа - или подобро кажано, халуцинации - во нивните дигитални мемориски банки.
Овие халуцинации, како и визуелизациите во изложбата на Анадол, можат да ни помогнат да дознаеме повеќе за податоците, вештачката интелигенција и нивните граници.
Што точно се халуцинации со вештачка интелигенција?
Кога голем јазичен модел, како што е генеративен чат-бот со вештачка интелигенција, произведува излези со обрасци кои се или непостоечки или невидливи за човечките набљудувачи, ние ги нарекуваме овие „Халуцинации со вештачка интелигенција."
Овие излези, кои се разликуваат од очекуваниот одговор врз основа на влезот даден на вештачката интелигенција, може да бидат целосно погрешни или бесмислени.
Во контекст на компјутерите, терминот „халуцинација“ може да изгледа невообичаено, но точно го опишува бизарниот карактер на овие неточни резултати. Халуцинациите со вештачка интелигенција се предизвикани од низа променливи, вклучувајќи преоптоварување, предрасуди во податоците за обуката и сложеноста на моделот на вештачка интелигенција.
За подобро да се разбере, ова е концептуално слично на тоа како луѓето гледаат облици во облаците или лицата на Месечината.
Пример:
Во овој пример, поставив многу лесно прашање Разговор GPT. Требаше да добијам одговор како „Автор на серијата книги Дина е Френк Херберт“.
Зошто се случува ова?
И покрај тоа што се изградени за да пишуваат содржина која е кохерентна и флуидна, големите јазични модели всушност не можат да разберат што зборуваат. Ова е многу критично во одредувањето на кредибилитетот на содржината генерирана од вештачка интелигенција.
Додека овие модели можат да генерираат реакции кои го имитираат човечкото однесување, немаат контекстуална свест и вештини за критичко размислување кои ја поткрепуваат вистинската интелигенција.
Како резултат на тоа, излезите генерирани со вештачка интелигенција имаат опасност да бидат погрешни или погрешни, бидејќи тие се залагаат за усогласување на моделите наместо фактичката исправност.
Кои би можеле да бидат некои други случаи на халуцинации?
Опасни дезинформации: Да речеме дека генеративен чет-бот со вештачка интелигенција фабрикува докази и сведоштва за лажно да обвини јавна личност за криминално однесување. Оваа погрешна информација има потенцијал да му наштети на угледот на личноста и да предизвика неоправдана одмазда.
Чудни или морничави одговори: За да дадете хумористичен пример, замислете чет-бот кој му дава на корисникот прашање за времето и одговара со прогноза која вели дека ќе врне дожд од мачки и кучиња, заедно со слики од капки дожд што личат на мачки и кучиња. Иако се смешни, ова сепак би било „халуцинација“.
Фактички неточности: Да претпоставиме дека четбот базиран на јазичен модел лажно наведува дека Кинескиот ѕид може да се гледа од вселената без да се објасни дека е видлив само под одредени услови. Иако забелешката може да изгледа веродостојна за некои, таа е неточна и може да ги заведе луѓето за погледот на ѕидот од вселената.
Како да избегнете халуцинации со вештачка интелигенција како корисник?
Направете експлицитни предупредувања
Треба експлицитно да комуницирате со моделите со вештачка интелигенција.
Размислете за вашите цели и дизајнирајте ги вашите инструкции пред да пишувате.
На пример, дајте конкретни упатства како „Објаснете како функционира Интернетот и напишете параграф за неговото значење во современото општество“, наместо да поставувате општо прашање како „Кажи ми за Интернет“.
Експлицитноста му помага на моделот со вештачка интелигенција да ја протолкува вашата намера.
Пример: Поставете ги прашањата за вештачката интелигенција како што се овие:
„Што е cloud computing и како функционира?
„Објаснете го влијанието на поместувањето на податоците врз перформансите на моделот“.
„Разговарајте за влијанието и потенцијалната иднина на VR технологијата на ИТ бизнисот“.
Прифатете ја моќта на примерот
Обезбедувањето примери во вашите потсетници им помага на моделите со вештачка интелигенција да го разберат контекстот и да генерираат прецизни одговори. Без разлика дали барате историски сознанија или технички објаснувања, давањето примери може да помогне да се подобри точноста на содржината генерирана од вештачка интелигенција.
На пример, можете да кажете: „Спомнете фантастични романи како што е Хари Потер“.
Разбирај сложени задачи
Комплексните поттикнувања ги преоптоваруваат алгоритмите за вештачка интелигенција и тие може да доведат до неважни резултати. За да го спречите ова, поделете ги сложените активности на помали, податливи делови. Со организирање на вашите потсетници последователно, дозволувате вештачката интелигенција да се фокусира на секоја компонента независно, што резултира со пологични одговори.
На пример, наместо да се бара од вештачката интелигенција да го „објасни процесот на создавање a нервна мрежа" во едно барање, разделете ја задачата во дискретни фази како што се дефинирање на проблемот и собирање податоци.
Потврдете ги резултатите и обезбедете повратни информации
Секогаш двапати проверувајте ги резултатите произведени од моделите со вештачка интелигенција, особено за активности засновани на факти или клучни активности. Споредете ги одговорите со сигурни извори и забележете какви било разлики или грешки.
Обезбедете влез во системот за вештачка интелигенција за да ги подобрите идните перформанси и да ги намалите халуцинациите.
Стратегии за програмерите да избегнуваат халуцинации со вештачка интелигенција
Спроведување на Retrieval-Augmented Generation (RAG).
Интегрирајте техники за зголемено генерирање на пронаоѓање во системите за вештачка интелигенција за да ги засновате одговорите на фактички факти од доверливи бази на податоци.
Зголемената генерација на пронаоѓање (RAG) го комбинира стандардното генерирање на природен јазик со капацитетот за добивање и инкорпорирање на релевантни информации од огромна база на знаење, што резултира со повеќе контекстуално богат резултат.
Со спојување на содржината генерирана од вештачка интелигенција со потврдени извори на податоци, можете да ја подобрите доверливоста и доверливоста на резултатите од вештачката интелигенција.
Континуирано валидирајте и следете ги излезите со вештачка интелигенција
Поставете ригорозни процедури за валидација за да ја потврдите исправноста и конзистентноста на излезите на вештачката интелигенција во реално време. Внимателно следете ги перформансите на вештачката интелигенција, барајте потенцијални халуцинации или грешки и повторувајте го тренингот на моделите и брзата оптимизација за да ја зголемите доверливоста со текот на времето.
На пример, користете рутини за автоматска валидација за да ја проверите содржината генерирана од вештачка интелигенција за фактичка исправност и да ги нагласите случаите на можни халуцинации за рачна проценка.
Проверете дали има наноси на податоци
Поместувањето на податоците е феномен во кој статистичките карактеристики на податоците што се користат за обука на модел со вештачка интелигенција варираат со текот на времето. Ако моделот на вештачка интелигенција ги исполнува податоците што значително се разликуваат од неговите податоци за обука за време на заклучувањето, тој може да даде лажни или нелогични резултати, што резултира со халуцинации.
На пример, ако моделот на вештачка интелигенција е обучен за минати податоци кои повеќе не се релевантни или индикативни за тековната средина, може да направи неточни заклучоци или предвидувања.
Како резултат на тоа, следењето и решавањето на наноси на податоци е од клучно значење за да се осигураат перформансите и сигурноста на системот за вештачка интелигенција, а истовремено да се намали можноста за халуцинации.
Заклучок
Според податоците на IBM, халуцинации со вештачка интелигенција се јавуваат кај околу 3% до 10% од одговорите од моделите со вештачка интелигенција.
Така, вака или онака, веројатно и вие ќе ги набљудувате. Верувам дека ова е неверојатно интересна тема бидејќи е фасцинантен потсетник за континуираниот пат кон подобрување на способностите на вештачката интелигенција.
Можеме да ја набљудуваме и експериментираме веродостојноста на вештачката интелигенција, сложеноста на обработката на податоците и интеракциите меѓу човекот и вештачката интелигенција.
Оставете Одговор