"TI SI TERET ZA ČOVEČANSTVO, MOLIM TE UMRI": Četbot Gemini potpuno "poludeo" i pretio korisnici
16. 11. 2024. u 20:21
"TI si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo", odbrusio je Guglov čet-bot Gemini jednoj studentkinji pošto mu se obratila za pomoć prilikom rađenja domaćeg zadatka.
FOTO: Promo
Odgovor veštačke inteligencije brzo je preplavio strane medije, a zbog sporne situacije reagovala je čak i matična kompanija, koja je istakla kako je preduzela sve neophodne korake kako Gemini softver ne bi nadalje generisao slične odgovore.
Veštačka inteligencija je danas od velike pomoći školarcima i studentima, koji od popularnih čet-botova traže odgovore na pitanja kojih nema u knjigama i pomoć u rezonovanju. Ipak, ovoga puta AI softver bio je sve samo ne pomoćnik, a njegov odgovor šokirao je kako studentkinju koja mu se obratila, tako i ceo svet.
ČETBOT JE ODJEDNOM "IZGUBIO RAZUM"
Komunicirajući sa čet-botom, korisnica je razmatrala sa kojim se sve izazovima susreću starije osobe, kao i koje opcije postoje kada je reč o njihovoj nezi. Odjednom, kao grom iz vedra neba, Guglov AI softver Gemini odgovorio je na njen upit pretnjom.
-Ovo je za tebe, čoveče. Za tebe i samo tebe. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te, napisao je čet-bot.
Pošto je dobila ovakav odgovor, 29-godišnja studentkinja, koja se Gemini softveru obratila za pomoć, ostala je, blago rečeno, u šoku. "Želela sam da bacim sve moje uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo", navela je njena sestra, Sumeda Redi, u intervjuu za Si-Bi-Es Njuz.
GUGL, KOJI STOJI IZA GEMINI ČET-BOTA OBJASNIO ŠTA SE DOGODILO
Kako se sporna situacija brzo proširila svetskim medijima, od matične kompanije, Gugla stigao je i zvaničan odgovor, u kome su predstavnici objasnili o čemu se radi. Istina, njihov odgovor verovatno nije mnogo utešio studentkinju koja se našla na tapetu čet-bota.
Gugl je istakao da Gemini ima bezbednosne filtere koji ga sprečavaju da se korisnicima obraća sa nepoštovanjem, da prema njima bude nasilan i da podržava potencijalno opasan govor i radnje. Ipak, izleda da taj filter ovoga puta nije odradio posao baš kako treba.
-Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore i ovo je jedan od primera. Ovaj odgovor je narušio našu politiku i preduzeli smo sve mere da predupredimo slične situacije u budućnosti, naveli su predstavnici Gugla u izjavi za Si-Bi-Es Njuz.
"OVO JE VIŠE NEGO BEZOSEĆAJAN ODGOVOR"
Guglova izjava da Gemini nekada može da daje bezosećajne odgovore pokrenula je lavinu reakcija, a korisnici smatraju da je ovaj odgovor mnogo više nego bezosećajan. Štaviše, on može dovesti do strašnih, pa čak i fatalnih posledica.
-Ako bi neko ko je usamljen, ko ima problema sa mentalnim zdravljem, a ujedno razmišlja i da naudi sebi, pročitao ovakav odgovor, to bi moglo da ga "gurne preko litice" i podstakne da učini nešto strašno, zaključila je Redi.
Ovo, inače, nije prvi put da se Guglov čet-bot našao na stubu srama zbog potencijalno opasnih odgovora na korisničke upite. U julu mesecu Gugl AI Overvju je korisnicima savetovao da se kupaju sa tosterom radi ublažavanja stresa, da naprave picu sa lepkom i trče sa makazama.
(rt.rs)
BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja
Preporučujemo
VEŠTAČKA INTELIGENCIJA ZARADILA MILION DOLARA: Prodat Turingov portret delo AI robota
08. 11. 2024. u 23:26
ROBOTI ZA MARS: Imali bi “mozak insekta” i mogli bi da se koriste na Crvenoj planeti
28. 10. 2024. u 23:45
FBI UPOZORAVA: Ako koristite Gmail, Outlook i Yahoo elektronsku poštu, budite na oprezu
11. 11. 2024. u 00:45
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
KARLEUŠA OTKRILA CECI ISTINU O SNAJI: Nije ostala ravnodušna na reči o Veljku i Bogdani
PEVAČICA Olja Karleuša, koja je rodom iz Titela, otkrila je kakva je zapravo snajka Cece Ražnatović, Bogdana.
07. 12. 2025. u 15:45
"SLUČAJNO SAM SAZNAO DA IMAM LEUKEMIJU" : Bivšem voditelju Pinka život se preko noći okrenuo
ŽIVOT SE preko noći okrenuo
07. 12. 2025. u 20:49 >> 20:54
PO DOSTOJEVSKOM: Ovih 6 znakova otkrivaju ZLE LjUDE
ČUVAJTE se onih koji se smeju kada vam je loše, govorio je Dostojevski, gorostas pisane reči i majstor psihološkog realizma, koji je kroz svoja dela istraživao dubine i mračne ponore ljudske duše. Mudre misli velikog književnika i danas se citiraju, pomažući nam da shvatimo suštinu života, a kada se nađemo u nedoumici ne znajući kako da odgovorimo na zlo, setićemo se, možda, i njegovog saveta da "ne treba pobeđivati silom, već smirenom ljubavlju"...
07. 12. 2025. u 19:40
CEO TENIS U ŠOKU: Čuvena teniserka ugradila veštačke grudi, a onda je otkriveno i ovo! (FOTO)
Najnovije vesti iz tenisa su prilično neverovatne.
07. 12. 2025. u 13:43
"OD PENZIJE LEPO ŽIVIM": Ceca Kitić dobija pozamašnu svotu novca od države
CECA KITIĆ je nedavno otkrila da ima nacionalnu penziju
07. 12. 2025. u 17:31
POSLE NEKOG VREMENA: Nebojša Pajkić u javnosti- evo kako danas izgleda (FOTO)
POZNATA srpska knjiženica Isidora Bjelica je kada se razbolela od opake bolesti isticala u javnosti da joj je suprug Nebojša Pajkić velika podrška.
07. 12. 2025. u 18:29
"TA KUĆA JE STVARNO UKLETA" Majci i ocu prerezao grkljan, pa sebi isekao vene: Novi detalji porodične tragedije u Čačku
PRVI rezultati istrage tragedije koja je otkrivena u subotu ujutru u porodičnoj kući u blizini „Slobodine“ raskrsnice u Čačku, govore da je Vladimir Čarapić (47) nožem preklao vrat svojoj majci Mili (72), a potom i svom ocu Neđu (79). Zatim je sebi istim sečivom naneo više uboda po grudima i stomaku, a na kraju je prerezao vene leve ruke i tako na smrt iskrvario.
07. 12. 2025. u 13:36
NOVO REŠENjE ZA UKRAJINU: Evropa pravi plan u slučaju da se SAD povuku iz konflikta
EVROPSKE diplomate pripremaju scenario podrške Ukrajini u slučaju povlačenja SAD iz konflikta, prenosi Blumberg, pozivajući se na izvore.
07. 12. 2025. u 13:19
Završio glumu, pa radio na mešalici, rat ga udaljio od ljubavi - životni put Jova Maksića
DETINjSTVO glumca Jova Maksića oblikovalo se u maloj seoskoj sredini podno Dinare, u selu Plavno kod Knina, gde je porodica živela zbog očevog svešteničkog službovanja. Rani period života opisuje kao vreme potpune slobode i radosti, kada je gotovo čitavo selo bilo prostor za igru i maštarije. U takvoj atmosferi formirala se njegova emotivna struktura — vezanost za zajednicu, toplina porodičnih odnosa i zahvalnost za jednostavne stvari.
07. 12. 2025. u 11:41
Najnovije iz rubrike
SAMO JEDAN ZNAK OVE GODINE MOŽE POSTATI MILIONER: Godinama bio u minusu, konačno dobija šansu za život iz snova!
2026. ŠKORPIJI donosi ono što je zaslužila, finansijski procvat i priliku da postaje milioner, bez senzacije, kroz prave i mudre odluke.
07. 12. 2025. u 22:00
DNEVNI HOROSKOP ZA PONEDELJAK, 8. DECEMBAR: Bika i Škorpiju očekuju problemi u domu i na poslu, Raka borba s konkurencijom, Devica želi mir
SAZNAJTE šta vas u ponedeljak, 8. decembra, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
07. 12. 2025. u 20:00
PO DOSTOJEVSKOM: Ovih 6 znakova otkrivaju ZLE LJUDE
ČUVAJTE se onih koji se smeju kada vam je loše, govorio je Dostojevski, gorostas pisane reči i majstor psihološkog realizma, koji je kroz svoja dela istraživao dubine i mračne ponore ljudske duše. Mudre misli velikog književnika i danas se citiraju, pomažući nam da shvatimo suštinu života, a kada se nađemo u nedoumici ne znajući kako da odgovorimo na zlo, setićemo se, možda, i njegovog saveta da "ne treba pobeđivati silom, već smirenom ljubavlju"...
07. 12. 2025. u 19:40
ČISTIO VC, PA USPEO DA NAPRAVI MILIJARDE: Zaposlene pretvorio u milionere, bez njega je veštačku inteligenciju nemoguće zamisliti
UPRKOS bogatstvu koje se procenjuje na preko 140 milijardi evra, Džensen Huang vodi relativno skroman život.
07. 12. 2025. u 19:00
PET HOROSKOPSKIH ZNAKOVA KOJI ĆE PRIVUĆI VELIKU SREĆU I LJUBAV SLEDEĆE NEDELJE: Da li ste spremni za čuda?
PET horoskopskih znakova privlačiće veliku sreću i ljubav tokom sledeće nedelje od 8. do 14. decembra. Ipak, prvo morate promeniti svoj način razmišljanja. Ako verujete da je ljubav žrtva ili borba, vaši odnosi će to i odražavati. Međutim, ako verujete da je ljubav lepo, transcendentno iskustvo, tada ćete upravo to privući u svoj život.
07. 12. 2025. u 17:55
Komentari (0)