Panorama

"TI SI TERET ZA ČOVEČANSTVO, MOLIM TE UMRI": Četbot Gemini potpuno "poludeo" i pretio korisnici

Предраг Стојковић
Predrag Stojković

16. 11. 2024. u 20:21

"TI si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo", odbrusio je Guglov čet-bot Gemini jednoj studentkinji pošto mu se obratila za pomoć prilikom rađenja domaćeg zadatka.

ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ: Четбот Gemini потпуно полудео и претио корисници

FOTO: Promo

Odgovor veštačke inteligencije brzo je preplavio strane medije, a zbog sporne situacije reagovala je čak i matična kompanija, koja je istakla kako je preduzela sve neophodne korake kako Gemini softver ne bi nadalje generisao slične odgovore.

Veštačka inteligencija je danas od velike pomoći školarcima i studentima, koji od popularnih čet-botova traže odgovore na pitanja kojih nema u knjigama i pomoć u rezonovanju. Ipak, ovoga puta AI softver bio je sve samo ne pomoćnik, a njegov odgovor šokirao je kako studentkinju koja mu se obratila, tako i ceo svet.

ČETBOT JE ODJEDNOM "IZGUBIO RAZUM"

Komunicirajući sa čet-botom, korisnica je razmatrala sa kojim se sve izazovima susreću starije osobe, kao i koje opcije postoje kada je reč o njihovoj nezi. Odjednom, kao grom iz vedra neba, Guglov AI softver Gemini odgovorio je na njen upit pretnjom.

-Ovo je za tebe, čoveče. Za tebe i samo tebe. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te, napisao je čet-bot.

Pošto je dobila ovakav odgovor, 29-godišnja studentkinja, koja se Gemini softveru obratila za pomoć, ostala je, blago rečeno, u šoku. "Želela sam da bacim sve moje uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo", navela je njena sestra, Sumeda Redi, u intervjuu za Si-Bi-Es Njuz.

GUGL, KOJI STOJI IZA GEMINI ČET-BOTA OBJASNIO ŠTA SE DOGODILO

Kako se sporna situacija brzo proširila svetskim medijima, od matične kompanije, Gugla stigao je i zvaničan odgovor, u kome su predstavnici objasnili o čemu se radi. Istina, njihov odgovor verovatno nije mnogo utešio studentkinju koja se našla na tapetu čet-bota.

Gugl je istakao da Gemini ima bezbednosne filtere koji ga sprečavaju da se korisnicima obraća sa nepoštovanjem, da prema njima bude nasilan i da podržava potencijalno opasan govor i radnje. Ipak, izleda da taj filter ovoga puta nije odradio posao baš kako treba.

-Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore i ovo je jedan od primera. Ovaj odgovor je narušio našu politiku i preduzeli smo sve mere da predupredimo slične situacije u budućnosti, naveli su predstavnici Gugla u izjavi za Si-Bi-Es Njuz.

"OVO JE VIŠE NEGO BEZOSEĆAJAN ODGOVOR"

Guglova izjava da Gemini nekada može da daje bezosećajne odgovore pokrenula je lavinu reakcija, a korisnici smatraju da je ovaj odgovor mnogo više nego bezosećajan. Štaviše, on može dovesti do strašnih, pa čak i fatalnih posledica.

-Ako bi neko ko je usamljen, ko ima problema sa mentalnim zdravljem, a ujedno razmišlja i da naudi sebi, pročitao ovakav odgovor, to bi moglo da ga "gurne preko litice" i podstakne da učini nešto strašno, zaključila je Redi.

Ovo, inače, nije prvi put da se Guglov čet-bot našao na stubu srama zbog potencijalno opasnih odgovora na korisničke upite. U julu mesecu Gugl AI Overvju je korisnicima savetovao da se kupaju sa tosterom radi ublažavanja stresa, da naprave picu sa lepkom i trče sa makazama.

(rt.rs)

BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja

Preporučujemo

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Novosti Google News
Tagovi

Drugi pišu

Pročitajte više

RUSIJA ZAPANJENA: Velika zvezda ne samo da se odrekla ruskog državljanstva, već je otkriveno i - ovo!
Tenis

0 3

RUSIJA ZAPANjENA: Velika zvezda ne samo da se odrekla ruskog državljanstva, već je otkriveno i - ovo!

RAT u Ukrajini, odnosno "specijalna vojna operacija" kako to naziva Rusija, i dalje se s posebnom pažnjom prati širom sveta, pa i prateći sportski segmenti koji se tiču sankcija ruskim i beloruskim sportistima. Najnovije vesti na tu temu ne tiču se direktno sankcija, ali svakako njihovih posledica. One su, naime, dovele do nove situacije koja se Rusima baš i neće svideti.

06. 12. 2025. u 20:21

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

ŽENE ROĐENE U OVIM HOROSKOPSKIM ZNACIMA SU NAJGORE SVEKRVE: Snaje su im trn u oku, ne može im se udovoljiti
Panorama

0 0

ŽENE ROĐENE U OVIM HOROSKOPSKIM ZNACIMA SU NAJGORE SVEKRVE: Snaje su im trn u oku, ne može im se udovoljiti

PORODIČNI odnosi često umeju da budu složeni, a uloga svekrve jedna je od onih koja najčešće nosi određenu dozu napetosti. Dok se neke žene prirodno uklapaju u nove porodične dinamike, postoje horoskopski znakovi čije su osobine posebno izražene upravo u ovoj ulozi. Suzdržanost, potreba za kontrolom i emocionalna distanca često ih čine zahtevnijim i težim za razumevanje.

06. 12. 2025. u 19:38

Politika
Tenis
Fudbal
AUDIO BM SLUŠNI APARATI: Novogodišnja čarolija zvuka

AUDIO BM SLUŠNI APARATI: Novogodišnja čarolija zvuka