ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ДРАМАТИЧНО САОПШТЕЊЕ: "Чернобиљски штит не може више да блокира радијацију"
ШТИТ је постављен да би се задржао радиоактивни материјал преостао после катастрофе из 1986. године.
06. 12. 2025. у 22:06
ДРСКО: Јелисавета Орашанин БЕЗ ДОЊЕГ ВЕША шета улицом (ФОТО)
ГЛУМИЦА Јелисавета Орашанин поново је привукла сву пажњу када се појавила у комбинацији која је изазвала праву буру на мрежама.
06. 12. 2025. у 20:35
КАКАВ ШОК! Србија остала без четвртфинала Светског првенства! Наше рукометашице изгубиле од Црне Горе и то како!
Женска рукометна репрезентација Србије је на шокантан начин остала без пласмана у четвртфинале Светског првенства јер је у мечу у коме јој је и бод био довољан изгубила од Црне Горе - коначан резултат гласио је 17:33 (9:13) после заиста невероватних дешавања на паркету у Дортмунду, на коме је нарочито бриљирала Армел Кели Атинжре, голман Црногорки, која је остварила чак 18 одбрана, зауствивши нестварна 62% шутева који су ишли ка голу који је чувала.
06. 12. 2025. у 17:00 >> 17:01
ВЛАХОВИЋ ПРОПУШТА ДЕРБИ, АЛИ ДВА СРБИНА МОГУ ДА ОДЛУЧЕ ИСХОД: Милинковић Савић био херој Наполија а сада се нада првој победи над Јувентусом
У дербију 14. кола Серије А, италијански великани Наполи и Јувентус састаће се у недељу на стадиону Дијего Армандо Марадона.
07. 12. 2025. у 10:00
МАРИЈА ИХ ЈЕ ДОБИЛА: 4 милиона € за одовор "шта мисле кокошке" - а рођена је у граду
ПРОЈЕКАТ комбинује различите научне дисциплине: компаративну психологију, зоологију и биолошко понашање.
06. 12. 2025. у 21:06
Колико је ЕУ ИЗГУБИЛА милиона € због санкција Русији? Бројка незамисливо велика - Москва објавила тачну цифру по њеној процени
"ОВЕ мере представљају кључни алат неоколонијалне политике "колективног Запада", која има за циљ да задржи опадајуће доминирање и ограничи суверена права других земаља на политички избор и технолошки развој."
06. 12. 2025. у 21:38
"ТА КУЋА ЈЕ СТВАРНО УКЛЕТА" Мајци и оцу пререзао гркљан, па себи исекао вене: Нови детаљи породичне трагедије у Чачку
ПРВИ резултати истраге трагедије која је откривена у суботу ујутру у породичној кући у близини „Слободине“ раскрснице у Чачку, говоре да је Владимир Чарапић (47) ножем преклао врат својој мајци Мили (72), а потом и свом оцу Неђу (79). Затим је себи истим сечивом нанео више убода по грудима и стомаку, а на крају је пререзао вене леве руке и тако на смрт искрварио.
07. 12. 2025. у 13:36
НОВО РЕШЕЊЕ ЗА УКРАЈИНУ: Европа прави план у случају да се САД повуку из конфликта
ЕВРОПСКЕ дипломате припремају сценарио подршке Украјини у случају повлачења САД из конфликта, преноси Блумберг, позивајући се на изворе.
07. 12. 2025. у 13:19
Завршио глуму, па радио на мешалици, рат га удаљио од љубави - животни пут Јова Максића
ДЕТИЊСТВО глумца Јова Максића обликовало се у малој сеоској средини подно Динаре, у селу Плавно код Книна, где је породица живела због очевог свештеничког службовања. Рани период живота описује као време потпуне слободе и радости, када је готово читаво село било простор за игру и маштарије. У таквој атмосфери формирала се његова емотивна структура — везаност за заједницу, топлина породичних односа и захвалност за једноставне ствари.
07. 12. 2025. у 11:41
Најновије из рубрике
НАУЧНИЦИ УПОЗОРАВАЈУ НА ДРАМАТИЧНЕ ЗВУКЕ У ОКЕАНУ: Знак нечег много злокобнијег од џиновске ајкуле
НАУЧНИЦИ су открили порекло мистериозног звука у океану, за који су неки веровали да је позив изумрле ајкуле - Мегалодона.
07. 12. 2025. у 12:52
ОНИ ЋЕ ПРОЦВЕТАТИ У 2026. ГОДИНИ: Оставиће све бриге иза себе и окренути нови лист
ВЕРУЈЕТЕ ли у чуда? Ова четири хороскопска знака остављају све бриге иза себе и коначно улазе у период непрекидне среће!
07. 12. 2025. у 11:34
ДАН ЗА ДОГОВОРЕ И ФИНАНСИЈЕ Астро савет за недељу 7. децембар: Ево на којих ШЕСТ знакова највише утиче водени тригон Меркура и Сатурна
ВОДЕНЕ али и земљане знаке и даље прате срећне околности, будући да на небу и даље имамо велики водени тригон, с тим што данас Меркур на 25. степену Шкорпије прави егзактан тригон са Сатурном на 25. степену Риба, а обе планете имају подршку моћног Јупитера из Рака.
07. 12. 2025. у 07:07
ДНЕВНИ ХОРОСКОП ЗА НЕДЕЉУ, 7. ДЕЦЕМБАР: Бика и Рибе очекују нове романсе, Вагу пословни успех, Близанце и Стрелца улагање у некретнине
САЗНАЈТЕ шта вас у недељу, 7. децембра, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
06. 12. 2025. у 22:00
ЖЕНЕ РОЂЕНЕ У ОВИМ ХОРОСКОПСКИМ ЗНАЦИМА СУ НАЈГОРЕ СВЕКРВЕ: Снаје су им трн у оку, не може им се удовољити
ПОРОДИЧНИ односи често умеју да буду сложени, а улога свекрве једна је од оних која најчешће носи одређену дозу напетости. Док се неке жене природно уклапају у нове породичне динамике, постоје хороскопски знакови чије су особине посебно изражене управо у овој улози. Суздржаност, потреба за контролом и емоционална дистанца често их чине захтевнијим и тежим за разумевање.
06. 12. 2025. у 19:38
Коментари (0)