HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Šok: "Ceca je dala otkaz kompletnom obezbeđenju - videla je fotografiju šta su radili"
"JEDNA ptičica mi je rekla da je otpustila one radnike obezbeđenja."
22. 04. 2026. u 15:33
SAD napravile spisak NATO zemalja - "dobre i loše": Ko je sve na listi? Srpske komšije najveći dobitnici, a Tramp hoće da kazni "zločeste"
"SAVEZNICI koji nastave da ne ispunjavaju svoj deo obaveza kolektivne odbrane snosiće posledice."
22. 04. 2026. u 19:27 >> 19:39
"Najzgodnija prevarantkinja 21. veka" donela šok-odluku! Svet je zatečen, posle najnovijeg skandala je nestala, a sada...
Njena životna priča je pomalo nestvarna. Uostalom, filmski deluje scenario: teniserka nestaje s terena bez pozdrava, bez saopštenja, bez reči zbogom. Svet saznaje da je penzionisana tek kad joj je uklonjeno ime sa liste aktivnih igrača i to od strane Agencije za integritet tenisa. Telefoni isključeni — i njen, i očev, i majčin. Mediji špekulišu o bekstvu. Poslednji meč odigrala je u drugom kolu Majami opena protiv Ige Švjontek u martu 2024. Tako se, tiho i misteriozno, u maju iste godine završila karijera Kamile Đorđi — a tek onda je počela prava priča.
22. 04. 2026. u 20:01
Evo zašto je Sarapi pozlilo usred jutarnjeg - otkriveni detalji: "Još je i dobro kako je moglo da bude"
VODITELj je istakao da je moguće da su na njegovo stanje uticale i vremenske promene, kao i problemi sa pritiskom i mučninom koji su se javili iznenada.
22. 04. 2026. u 16:01
Posle vesti da se ukida dečji program RTS-a, stiglo saopštenje: "Ko želi da razume - shvatiće"
"UPRAVNI odbor neće donositi odluke vodeći se glasnoćom pojedinih profila na društvenim mrežama, već isključivo interesom javnog servisa i građana Srbije. Upravo zato ostajemo posvećeni odgovornom upravljanju, transparentnosti i unapređenju programa. Istina nije stvar interpretacije. Ona je stvar činjenica. A činjenice su, u ovom slučaju, nedvosmislene."
22. 04. 2026. u 20:05
Ćerka JK napušta majčin dom, pevačica se javno obratila Tošiću: "Nadam se da će i Duško da učestvuje, ne samo mama!"
"OD TOGA nema ništa jer mama sada ulaže u novi album. Može tata..."
22. 04. 2026. u 17:04
Sada je definitivno puklo savezništvo SAD i Ukrajine: Zelenski uradio nešto nezamislivo
UKRAJINSKO rukovodstvo, nakon više od godinu dana napora da održi stabilne odnose sa administracijom predsednika SAD Donalda Trampa, javno je priznalo krah dosadašnjeg partnerstva.
20. 04. 2026. u 20:41
Mađar bi da hapsi Putina i Netanjahua: "Zakon je jasan, to je obaveza"
BUDUĆI mađarski premijer Peter Mađar izjavio je da će se njegova zemlja ponovo pridružiti Međunarodnom krivičnom sudu i biti spremna da sprovodi naloge za hapšenje, uključujući i onaj koji se odnosi na izraelskog premijera Benjamina Netanjahua.
20. 04. 2026. u 20:04
"Potvrđena idiotkinja!" Rus izvređao Melonijevu, Italija uputila protest: "Fašistički ološ, izdala birače"
ITALIJA je uputila oštar protest Rusiji nakon uvredljivih izjava ruskog TV voditelja na račun premijerke Đorđe Meloni, dok joj je predsednik države pružio podršku i osudio skandalozne komentare.
22. 04. 2026. u 08:44
Najnovije iz rubrike
Razbijen veo misterije: NASA došla do novih otkrića na Marsu
NAUČNICI američke svemirske agencije NASA saopštili su da je rover "Kjuriositi" otkrio do sada najraznovrsniji skup organskih molekula na Marsu, uključujući i jedinjenja koja nikada ranije nisu zabeležena na toj planeti.
22. 04. 2026. u 23:00
Ovaj predmet vam "ubija" kućni internet: Ako se nalazi u blizini rutera, odmah ga sklonite
PLAĆATE skupu pretplatu za brz internet, a signal u spavaćoj sobi vam je očajan? Pre nego što pozovete operatere i počnete da se raspravljate, pogledajte gde vam stoji ruter.
22. 04. 2026. u 22:16
Počinje pet godina sreće za ova 3 znaka: Postajete magnet za novac, zaboravite na večito preračunavanje
DOK drugi krpe kraj s krajem, ova tri znaka okreću ozbiljan list.
22. 04. 2026. u 22:00
Dnevni horoskop za četvrtak, 23. april: Lava očekuju turbulencije u ljubavi, Škorpiju sukob s autoritetima, Vodoliju pravni problemi
SAZNAJTE šta vas u četvrtak, 23. aprila, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
22. 04. 2026. u 20:00
Mesta na kojima ne treba da stoje ikone: Veruje se da se tako stvara nemir i privlači nesreća
SAZNAJTE na kojih sedam mesta u kući ne bi trebalo da stoji ikona.
22. 04. 2026. u 19:00
Komentari (0)