HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
OLGA O BRANKI: "Posle smrti svi se grabe za imovinu, kome će pripasti stan - ne dam moju kuću na Dedinju, crknite svi"
"BRANKA ne da ništa. Branka živi na Dedinju kao gospođa kojoj je suprug omogućio i ona neće da naruši njen komoditet."
21. 02. 2026. u 07:49
ZABRANjENA JOVANA JEREMIĆ: 6 meseci bez "Novog jutra" - evo zašto je cenzurisana u Crnog Gori
ANALIZA je pokazala da upotreba pogrdnih, stigmatizujućih i dehumanizujućih izraza u pomenutim emisijama nije incidentne prirode, već da se negativni narativi i kvalifikacije ponavljaju kroz više emisija i od strane istih ili ideološki srodnih gostiju.
20. 02. 2026. u 16:52
"PODLACI! APSOLUTNI NITKOVI!" Rusi u šoku, ovo uopšte nisu očekivali posle dobrih vesti!
RAT u Ukrajini, odnosno "specijalna vojna operacija" kako to Rusija naziva, ponovo je za jednu od sporednih stvari iznedrio i sportski potez. Najnovije vesti na temu "sportske sankcije Rusima" stižu u trenutku kada Rusi sumiraju pomešane utiske o spektaklu - a Zimske olimpijske igre Milano - Kortina 2026 se polako privode kraju.
21. 02. 2026. u 17:00
NAPAD NA IRAN SVE BLIŽI? Tramp dao rok Teheranu, pa upozorio: "Desiće se loše stvari!" Vojska u Persijskom zalivu, čeka se naređenje
PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp razmatra mogućnost ograničenog vojnog udara na Iran kako bi izvršio pritisak na Teheran da prihvati zahteve Vašingtona u vezi sa nuklearnim sporazumom, ali je istakao da i dalje preferira diplomatsko rešenje, objavio je "Volstrit džornal", pozivajući se na izvore.
20. 02. 2026. u 11:36
"KOSOVO, SRBIJA, USTANITE!" Tramp pozdravio i goste kojih nije bilo u sali
AMERIČKI predsednik Donald Tramp osnovao je Odbor za mir, ali je već na osnivačkom sastanku "Odbora za mir" zapretio ratom. Pretnju iz govora ponovio je i u avionu za Džordžiju. Ozbiljnost pokazuje i premeštanje nosača aviona u istočno Sredozemlje.
21. 02. 2026. u 09:40
"SKANDALOZNO!": Poslednje fotografije Melanije Tramp - RUGANjE javnosti "Izgleda smešno"
MELANIJA Tramp izazvala je buru na mrežama noseći naočare za sunce u mraku. Otkrijte reakcije javnosti na njen neobičan izbor.
21. 02. 2026. u 11:57
TRENUTAK KAD JE SRBIJA ZANEMELA! Vučić se uhvatio za glavu nakon priznanja ove hrabre žene: Dođe mi da zajedno sa vama plačem!
PREDSEDNIK Aleksandar Vučić se uhvatio za glavu nakon što mu je građanka Bora otkrila borbu za usvajanje deteta i probleme sa socijalnom pomoći, obećavši da će pokušati da učini sve što može da problem bude rešen.
20. 02. 2026. u 22:47
VAŠINGTONU STIGLO UPOZORENjE: Ne pokušavajte da narušite naše odnose sa Moskvom
BELORUSKI predsednik Aleksandar Lukašenko izjavio je danas da je na početku pregovora između Belorusije i SAD upozorio Vašington da ne pokušava da naruši odnose između Minska i Moskve.
16. 02. 2026. u 15:09
"KOSOVO, SRBIJA, USTANITE!" Tramp pozdravio i goste kojih nije bilo u sali
AMERIČKI predsednik Donald Tramp osnovao je Odbor za mir, ali je već na osnivačkom sastanku "Odbora za mir" zapretio ratom. Pretnju iz govora ponovio je i u avionu za Džordžiju. Ozbiljnost pokazuje i premeštanje nosača aviona u istočno Sredozemlje.
21. 02. 2026. u 09:40
Najnovije iz rubrike
NEDELJNI HOROSKOP OD 22. DO 28. FEBRUARA: Ovan se nervira zbog kašnjenja u poslu, Lav upoznaje šarmantnu osobu, Strelac ima vanredne izdatke
SAZNAJTE šta vam nedeljni horoskop predviđa od 22. do 28. februara, šta vas narednih sedam dana očekuje na poslu, u ljubavi, u domu i porodici, hoćete li se slagati sa ukućanima i prijateljima, kako će da vas služi zdravlje...
21. 02. 2026. u 19:00
DA LI SU ŽENE EMPATIČNIJE OD MUŠKARACA? Evo šta kaže nauka
PRIMETNO je da i dalje obično opisujemo osobine poput empatije kao prirodno ženstvene, a osobine poput dominacije i samouverenosti kao muške
21. 02. 2026. u 17:00
KAKO DA PREPOZNATE SOCIOPATE: Evo koje fraze koriste u svakodnevnoj komunikaciji
SAZNAJTE kako prepoznati bezdušne osobe kroz sedam fraza koje otkrivaju sociopate.
21. 02. 2026. u 15:38
NE PRITISKAJTE OVO DUGME U KOLIMA: Može da poremeti elektroniku i izazove kvar
U MODERNIM automobilima gotovo svaki prekidač ima svoju funkciju, ali postoji jedno dugme za koje stručnjaci upozoravaju da može izazvati neočekivane probleme u elektronici vozila.
21. 02. 2026. u 15:02
IMALA SKORO 300 KG, NIJE MOGLA DA HODA: Danas igleda sjajno - a na intenetu je prati više od 400 hiljada ljudi! (FOTO)
AMBER Račdi jedna je od najprepoznatljivijih i najuspešnijih učesnica popularne TLC-jeve emisije "Moj život sa 600 funti" (My 600-lb Life). Njena transformacija, koja je počela pred kamerama 2015. godine, postala je simbol nade i neverovatne istrajnosti. No, deset godina kasnije, Amber otvoreno govori ne samo o uspehu, već i o skrivenim izazovima koji prate tako drastičan gubitak težine.
21. 02. 2026. u 14:48
Komentari (0)