HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe
22. 09. 2024. u 22:00
UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.
Foto Shutterstock
Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.
HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA
Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.
ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.
"HAJDE DA SE POIGRAMO"
Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.
Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.
JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE
-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.
Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Završio glumu, pa radio na mešalici, rat ga udaljio od ljubavi - životni put Jova Maksića
DETINjSTVO glumca Jova Maksića oblikovalo se u maloj seoskoj sredini podno Dinare, u selu Plavno kod Knina, gde je porodica živela zbog očevog svešteničkog službovanja. Rani period života opisuje kao vreme potpune slobode i radosti, kada je gotovo čitavo selo bilo prostor za igru i maštarije. U takvoj atmosferi formirala se njegova emotivna struktura — vezanost za zajednicu, toplina porodičnih odnosa i zahvalnost za jednostavne stvari.
07. 12. 2025. u 11:41
VLAHOVIĆ PROPUŠTA DERBI, ALI DVA SRBINA MOGU DA ODLUČE ISHOD: Milinković Savić bio heroj Napolija a sada se nada prvoj pobedi nad Juventusom
U derbiju 14. kola Serije A, italijanski velikani Napoli i Juventus sastaće se u nedelju na stadionu Dijego Armando Maradona.
07. 12. 2025. u 10:00
"EVROPI PRETI BRISANjE CIVILIZACIJE" Posle oštre objave iz Bele kuće stigao ogovor iz Nemačke
ĐANI Infantino uručio je Donaldu Trapu nagradu za mir, nakon što je ostao bez priželjkivanog Nobela, a praktično u isto vreme Bela kuća objavila je dokument u kojem žestoko kritikuje Evropu, kao i njen odnos prema Ukrajini.
07. 12. 2025. u 08:29
EPSKI SKANDAL: Isplivao snimak, žreb za Svetsko prvenstvo namešten!? (VIDEO)
Svašta su navijači gledali na prekjučerašnjem žrebu za Svetsko prvenstvo u fudbalu, a danas se pojavio jedan snimak koji baca sumnju na regularnost žreba.
07. 12. 2025. u 11:58
ZABORAVLjENA OD SVIH Ljubila Tita, a sada živi u nemaštini: "Neću nikoga moliti!"
SVI su se divili njenoj lepoti...
07. 12. 2025. u 10:54
MARIJA IH JE DOBILA: 4 miliona € za odovor "šta misle kokoške" - a rođena je u gradu
PROJEKAT kombinuje različite naučne discipline: komparativnu psihologiju, zoologiju i biološko ponašanje.
06. 12. 2025. u 21:06
"TA KUĆA JE STVARNO UKLETA" Majci i ocu prerezao grkljan, pa sebi isekao vene: Novi detalji porodične tragedije u Čačku
PRVI rezultati istrage tragedije koja je otkrivena u subotu ujutru u porodičnoj kući u blizini „Slobodine“ raskrsnice u Čačku, govore da je Vladimir Čarapić (47) nožem preklao vrat svojoj majci Mili (72), a potom i svom ocu Neđu (79). Zatim je sebi istim sečivom naneo više uboda po grudima i stomaku, a na kraju je prerezao vene leve ruke i tako na smrt iskrvario.
07. 12. 2025. u 13:36
NOVO REŠENjE ZA UKRAJINU: Evropa pravi plan u slučaju da se SAD povuku iz konflikta
EVROPSKE diplomate pripremaju scenario podrške Ukrajini u slučaju povlačenja SAD iz konflikta, prenosi Blumberg, pozivajući se na izvore.
07. 12. 2025. u 13:19
Završio glumu, pa radio na mešalici, rat ga udaljio od ljubavi - životni put Jova Maksića
DETINjSTVO glumca Jova Maksića oblikovalo se u maloj seoskoj sredini podno Dinare, u selu Plavno kod Knina, gde je porodica živela zbog očevog svešteničkog službovanja. Rani period života opisuje kao vreme potpune slobode i radosti, kada je gotovo čitavo selo bilo prostor za igru i maštarije. U takvoj atmosferi formirala se njegova emotivna struktura — vezanost za zajednicu, toplina porodičnih odnosa i zahvalnost za jednostavne stvari.
07. 12. 2025. u 11:41
Najnovije iz rubrike
NAUČNICI UPOZORAVAJU NA DRAMATIČNE ZVUKE U OKEANU: Znak nečeg mnogo zlokobnijeg od džinovske ajkule
NAUČNICI su otkrili poreklo misterioznog zvuka u okeanu, za koji su neki verovali da je poziv izumrle ajkule - Megalodona.
07. 12. 2025. u 12:52
ONI ĆE PROCVETATI U 2026. GODINI: Ostaviće sve brige iza sebe i okrenuti novi list
VERUJETE li u čuda? Ova četiri horoskopska znaka ostavljaju sve brige iza sebe i konačno ulaze u period neprekidne sreće!
07. 12. 2025. u 11:34
DAN ZA DOGOVORE I FINANSIJE Astro savet za nedelju 7. decembar: Evo na kojih ŠEST znakova najviše utiče vodeni trigon Merkura i Saturna
VODENE ali i zemljane znake i dalje prate srećne okolnosti, budući da na nebu i dalje imamo veliki vodeni trigon, s tim što danas Merkur na 25. stepenu Škorpije pravi egzaktan trigon sa Saturnom na 25. stepenu Riba, a obe planete imaju podršku moćnog Jupitera iz Raka.
07. 12. 2025. u 07:07
DNEVNI HOROSKOP ZA NEDELJU, 7. DECEMBAR: Bika i Ribe očekuju nove romanse, Vagu poslovni uspeh, Blizance i Strelca ulaganje u nekretnine
SAZNAJTE šta vas u nedelju, 7. decembra, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
06. 12. 2025. u 22:00
ŽENE ROĐENE U OVIM HOROSKOPSKIM ZNACIMA SU NAJGORE SVEKRVE: Snaje su im trn u oku, ne može im se udovoljiti
PORODIČNI odnosi često umeju da budu složeni, a uloga svekrve jedna je od onih koja najčešće nosi određenu dozu napetosti. Dok se neke žene prirodno uklapaju u nove porodične dinamike, postoje horoskopski znakovi čije su osobine posebno izražene upravo u ovoj ulozi. Suzdržanost, potreba za kontrolom i emocionalna distanca često ih čine zahtevnijim i težim za razumevanje.
06. 12. 2025. u 19:38
Komentari (0)