Панорама

КАДА ЧЕТБОТ ИЗМИШЉА: Ево када АИ халуцинације могу да нам буду од користи

Предраг Стојковић

04. 09. 2025. у 00:30

ЧЕСТО чујемо да вештачка интелигенција може да "халуцинира" и измишља информације, што је једна велика мана АИ технологије.

КАДА ЧЕТБОТ ИЗМИШЉА: Ево када АИ халуцинације могу да нам буду од користи

Ипак, овај недостатак заправо може постати и предност, према стручњацима, јер у неким случајевима управо те халуцинације могу бити вредан алат за нас.

Халуцинације у генеративним АИ моделима су један од најчешћих изазова са којима се ова нова технологија суочава. Резултати које ови системи понекад генеришу немају основу у стварности и могу се кретати од мањих грешака, до потпуно измишљених или чак опасних информација.

Да би се унапредила, то значи да се халуцинације морају смањити или поптуно уклонити - али неки АИ стручњаци тврде да то можда није идеално решење, јер потпуно елиминисање халуцинација могло би ограничи креативност система и смањити његову способност да генерише занимљив садржај.

УТИЦАЈ НА ЉУДСКУ КРЕАТИВНОСТ

У областима где је тачност од суштинске важности - попут медицинске дијагностике, финансијских савета или сажимања важних вести - халуцинације могу бити проблематичне и штетне. Са друге стране, у креативним активностима као што су писање, уметност или поезија, оне могу представљати вредан алат. Било да су у питању слике или текст, АИ модел који понекад ствара садржај изван стварних чињеница може подстаћи иновативно размишљање и помоћи у развоју нових идеја.

Веза између халуцинација и креативности у вештачкој интелигенцији подсећа на људску машту - често развијамо креативне идеје када допустимо нашим мислима да "лутају", а слично томе, АИ модели који генеришу најиновативније резултате то постигну када стварају садржај који није заснован на чињеницама.

Када је потребно да АИ систем буде прецизан, халуцинације се могу исправити, али у неким случајевима се могу укинути строга ограничења и пружити мање контекста, што омогућава АИ систему да постане алат за развој креативног размишљања, тражења инспирације и унапређивања сопствених идеја.

Штавише, истраживачи већ користе измишљене сценарије генерисане вештачком интелигенцијом за праћење напредовања рака, развој нових лекова, откривање сложених образаца времена и проналажење нових начина за израду медицинских инструмената, према "Њујорк тајмсу".

ЗАШТО ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ХАЛУЦИНИРА

Халуцинације се јављају због начина на који генеративни системи креирају текст. Када одговара на упит, систем предлаже највероватнију следећу реч на основу претходних података. Ово је слично принципу који користе програми за аутоматско допуњавање текста на мобилним телефонима, али је много сложеније.

Ипак, то што систем предвиђа највероватнију следећу реч не гарантује да ће резултат бити тачан - вештачка интелигенција може груписати речи које звуче као да припадају заједно, али нису логичне, што доводи до појаве халуцинација, преноси "РБК Тренд".

Иако је потпуно елиминисање халуцинација готово немогуће, постоје неке технике које их значајно смањују. Један од приступа је тражити од АИ система да, поред података које је примио у обуци и контексту који му је корисник понудио на одређену тему, претражује и релевантне информације на другим веб сајтовима.

(рт.рс)

БОНУС ВИДЕО - Хеликоптери Ка-32 и Супер пума у акцији гашења пожара у Каменој гори