СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама
26. 05. 2025. у 00:00
ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.
Foto Arhiva
Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.
У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.
"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА
Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?
Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.
До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.
ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ
Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.
Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.
Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.
(рт.рс)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Restoran Miya Galerija
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTORestoran Miya Galerija
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTOПрепоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
МЕРКЕЛ УПОЗОРИЛА НА ТРАМПА: "Има невероватну количину моћи, треба га схватити врло озбиљно"
БИВША немачка канцеларка Ангела Меркел позвала је грађане Немачке да реално и уравнотежено процењују рад актуелне владе.
14. 05. 2026. у 16:14
РУСКИ АГЕНТИ СТИГЛИ И ДО ХРВАТСКЕ: Пуковник ФСБ бежао у лешу краве, тражили га на јахти у Јадрану
БИВШИ официр руске Федералне службе безбедности (ФСБ), Дмитриј Сенин, тврди да је у драматичном бекству од руских служби безбедности прешао границу Казахстана скривајући се – унутар угинуле краве, у покушају да избегне надзор термалних камера и граничних патрола.
15. 05. 2026. у 12:39
ФАРМЕР ОСТАВИО 5 КРАВА НА ПУСТОМ ОСТРВУ: 130 година касније научници нису могли да верују шта виде
ПРИЧА о пет крава остављених на изолованом острву Амстердам у Јужном океану прерасла је у једно од најнеобичнијих поглавља модерне биологије.
14. 05. 2026. у 14:24 >> 20:55
ПРЕЛОМНИ ТРЕНУЦИ ИСТОРИЈЕ: Како Доналд Трамп спасава Црвену звезду и Партизан?
Најновије вести везане за КК Црвена звезда, КК Партизан али и не само те европске клубове стижу из Америке. Доналд Трамп, председник Сједињених Америчких Држава, за то се побринуо.
14. 05. 2026. у 21:35
Сунце, море и савршен одмор: Водич кроз хит дестинације у Грчкој и Турској
ЛЕТОВАЊЕ доноси савршену прилику да откријете неке од најлепших дестинација Медитерана и уживате у одмору прилагођеном различитим стиловима путовања - од мирних породичних летовања до активног провода и истраживања скривених плажа.
11. 05. 2026. у 10:00
"НЕ ИГРАМ ДА БИХ РУШИО РЕКОРДЕ, ВЕЋ ДА...!" Јаник Синер након што је надмашио успех Новака Ђоковића
Рекорд који је држао Новак Ђоковић, оборио је Јаник Синер. Наиме, Италијан је у четвртфиналу савладао Андреја Рубљова, а том победом стигао је до невероватног низа од 32 узастопне победе на турнирима из серије 1.000, чиме је поставио апсолутни рекорд у овој категорији.
15. 05. 2026. у 08:16
РУСКИ ВОЈНИ СТРУЧЊАК: Један удар "орешника" и "сармата" може да уништи читав НАТО у Европи
КОМБИНОВАНО лансирање ракетних система „сармат“ и „орешник“ способно је да неутралише целу војну инфраструктуру Северноатлантске алијансе у Европи, рекао је за руске медије Александар Степанов, војни стручњак Института за право и националну безбедност Руске председничке академије за националну економију и јавну управу (РАНХЕГА).
13. 05. 2026. у 12:29
Срушио се авион код главног града: Погинули сви путници и пилот
Ваздухопловна цивилна управа Јужног Судана саопштила је данас да се срушио авион југозападно од главног града Џубе, при чему је погинуло свих 14 особа које су биле у летелици.
27. 04. 2026. у 16:49
ФАРМЕР ОСТАВИО 5 КРАВА НА ПУСТОМ ОСТРВУ: 130 година касније научници нису могли да верују шта виде
ПРИЧА о пет крава остављених на изолованом острву Амстердам у Јужном океану прерасла је у једно од најнеобичнијих поглавља модерне биологије.
14. 05. 2026. у 14:24 >> 20:55
Најновије из рубрике
КИНА УСПЕШНО ЛАНСИРАЛА „ЛИЂИЈАН-1 Y13“: Пет сателита успешно постављено у орбиту
КИНА је данас успешно лансирала ракету-носач "Лиђијан-1 Y13", која је у свемир понела пет сателита, пренела је Синхуа.
15. 05. 2026. у 11:41
ВЕЧИТИ СКЕПТИЦИ: Ова четири знака су највећи песимисти хороскопа
АСТРОЛОЗИ тврде да су ови хороскопски знакови склонији негативним размишљањима у односу на друге знакове и често су осјетљивије природе.
15. 05. 2026. у 09:09
ИЗБЕГАВАJТЕ РИЗИЧНЕ ФИНАНСИЈСКЕ ПОТЕЗЕ Астро савет за петак, 15. мај: Квадрат између Месеца и Плутона доноси потребу за доминацијом
МЕСЕЦ, симбол емоција, расположења, приватног живота, породице, мајке, жена, домовине, напушта ватрени, импулсивни знак Овна и улази у спорог, поузданог, лежерног Бика, симбол новца, љубави и хедонизма.
15. 05. 2026. у 07:00
ДА ЛИ СТЕ СПРЕМНИ? Новчаник никад пунији за три хороскопска знака - 20. мај ће им бити најсрећнији дан
МАЈ 2026. године већ важи за један од најдинамичнијих астролошких периода, а посебно се издваја 20. мај, када се формирају снажни планетарни аспекти који, према астролошким тумачењима, доносе нагли финансијски помак и прилив новца за одређене знакове Зодијака.
14. 05. 2026. у 22:27
ХОЋЕ ИХ НОВАЦ: Ако сте рођени у овом знаку, очекује вас седмица на лотоу
СКЛОНИ сте играма на срећу? Можда је то забавно, понекад чак и “заразно”, али чињеница је да неки људи једноставно имају више среће од других. И док већина нас понекад сања о великом добитку на лутрији или у казину, постоје хороскопски знакови којима звезде посебно “кроје” добитке.
14. 05. 2026. у 21:47
Коментари (0)