ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
МУКЕ БАЛКАНЦА У НЕМАЧКОЈ Купио сам стан, трошкови ме гуше: "Рата кредита је најмањи проблем!"
КАКО је објаснио сама рата кредита није проблем, али оно што многи купци не узимају у обзир пре потписивања уговора јесу фиксни месечни трошкови одржавања и комуналија који прате сваку некретнину.
10. 03. 2026. у 18:41
ШОК! Трамп: "Рат је практично ГОТОВ! Иран ће престати да постоји, никада више нећете чути то име ако покушају са триковима"
"АКО ураде нешто лоше, то ће бити крај Ирана и никада више нећете чути то име."
09. 03. 2026. у 21:44
ШТА ЋЕ РЕЋИ ЈЕЛЕНА?! Ево шта је Арина Сабелнка радила Новаку Ђоковићу у Индијан Велсу (ВИДЕО)
Најновије вести везане за АТП Индијан Велс 2026, турнир на коме данас наступа и Новак Ђоковић, нису уобичајене.
09. 03. 2026. у 15:39
ПРАВА ЛЕПОТИЦА: Ово је Луисова најмлађа ћерка (ФОТО)
ЉУБИША Стојановић Луис погинуо је 2011. године у саобраћајној несрећи и иза себе је оставио шесторо деце, док је његова најмлађа ћерка имала непуних три године у тренутку породичне трагедије.
09. 03. 2026. у 09:07
ПАРТИЗАН СМЕНИО ЧАКАРА! Срђан Благојевић је нови/стари тренер црно-белих!
ФК Партизан поново је поставио Срђана Благојевића на место главног тренера.
09. 03. 2026. у 11:30
Хришћански свештеник звао људе да се склоне у цркву, погинуо у нападу Израела! Одбио да напусти село смрти: "Храм је отворена, дочекаћемо да
"НИКАДА нисмо бежали и нећемо бежати ни сада."
10. 03. 2026. у 11:37
"НАДАМО СЕ ДА ЋЕ ОСТАТИ У СКЛАДИШТУ" Хрватски министар у паници због најновијих ракета: Вучићева Србија и снага наше војске једина тема!
СРБИЈА председника Александра Вучића и снага наше војске, која је Вучићевим залагањем подигнута из пепела, једина је тема у Хрватској!
10. 03. 2026. у 18:10
ШОК ИСТРАГА АМЕРИКАНАЦА: Ево ко је гађао иранску школу у којој су погинуле девојчице
АМЕРИЧКИ војни истражитељи верују да је вероватно да су америчке снаге одговорне за напад на иранску школу за девојчице у којем је у суботу погинуло више десетина деце, али још нису донели коначан закључак нити су завршили истрагу, рекли су за Ројтерс двојица америчких званичника.
06. 03. 2026. у 08:23
НОВИ ЕКСПЛИЦИТНИ СНИМЦИ МИРЈАНЕ ПАЈКОВИЋ: Полиција сумња КО је на снимку, други мушкарац - одмах саслушана
РАНИЈЕ је објављен и видео за који је део медија написао да је снимљен у просторијама Владе. Тим поводом огласили су се из Владе Црне Горе, и демантовали те наводе.
07. 03. 2026. у 22:55 >> 23:05
Најновије из рубрике
ДНЕВНИ ХОРОСКОП ЗА СРЕДУ 11. МАРТ: Рак увећава приходе преко иностранства, Вага има проблема са женама, а Јарац са љубавним партнером
САЗНАЈТЕ шта вас у среду, 11. марта, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
10. 03. 2026. у 20:00
НОТЕ У ПАРФЕМИМА КОЈЕ НАЈБОЉЕ ДЕЛУЈУ НА РАСПОЛОЖЕЊЕ: Директно утичу на емоције
ДОКАЗАНО је да способност опажања арома контролише део мозга који је повезан са емоцијама.
10. 03. 2026. у 20:00
30 МИЛИОНА ЕВРА ЗА ЈЕДНУ СЛИКУ: Италија купила ретко дело легендарног сликара (ФОТО/ВИДЕО)
ИТАЛИЈА је купила слику барокног мајстора Каравађа за око 30 милиона евра, што је уједино једна од највећих сума коју је држава платила за уметничко дело.
10. 03. 2026. у 17:28
ДОЖИВОТНИ ДАР СА НЕБА: Ако је ваш пријатељ рођен у овом хороскопском знаку, остаће уз вас заувек
КАЖУ да ако имате једног правог пријатеља богат сте човек, а ако је тај пријатељ рођен у знаку Водолије онда будите сигурни да сте добили доживотни дар, јер је то пријатељство створено да траје заувек.
10. 03. 2026. у 16:17
АЛАРМ РХМЗ-а ЗА МЕТЕОРОПАТЕ: Ако сте будни у 3 ујутру, ово је разлог – једна група људи је најугроженија
БУЂЕЊЕ усред ноћи, испрекидан сан, малаксалост, нервоза - симптоми су на које се многи жале ових дана, иако немају температуру или друге показатеље да су болесни. Ако је судити по биометеоролошкој прогнози РХМЗ, "кривац" би могло управо бити време.
10. 03. 2026. у 16:12
Коментари (0)