KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
Dodaj Novosti kao svoj Google izvor
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTORestoran Miya Galerija
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTOPreporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
Komplikacije na Anastasijinom prođaju? Ceca otrila detalje: "Želela je prirodno ali nije moglo"
ANASTASIJA Ražnatović nedavno se porodila, a Ceca ne krije sreću zbog četvrtog unuka.
18. 07. 2026. u 09:53
NIŠTA OD BRAKA, NIŠTA OD PRSTENA Anica i Lazar doneli tešku odluku: "Razgovarali smo satima..."
ANICA Lazić ne želi da se uda za 39 godina starijeg Lazara Ristovskog, a objašnjenje je mnoge začudilo isprva.
18. 07. 2026. u 12:53 >> 12:59
KAKO JE BAJAGA IZBEGAO VOJNI ROK? "Imao sam problema zbog toga..."
NIKADA nije krio da mu je popularnost u tako ranom periodu prijala.
18. 07. 2026. u 13:24
POTRES: Ostavka šefa Mercovih demohrišćana - dobio dete sa partnerom preko surogat majke u SAD, ostao bez funkcije
NEMAČKI političar Jens Špan podneo je ostavku jer je sa suprugom, novinarom Danijelom Funkeom, dobio bebu preko surogat majke u SAD.
18. 07. 2026. u 17:47
Zbog suncobrana i ležaljki Srpkinju uhapsili u Hrvatskoj - zabrana ulaska i to u kompletnu EU
SKUPO je koštalo.
18. 07. 2026. u 13:06
NEKI NOVI PARTIZAN: Legendarni Saša Ilić protiv Zemuna započinje svoju avanturu na klupi "crno-belih"
ZVANIČNI debi na klupi Partizana, Saša Ilić imaće večeras na "gostovanju" Zemunu u prvom kolu Superlige Srbije (19.00).
18. 07. 2026. u 07:30
SVE KLjUČA OKO FOKLANDSKIH OSTRVA: Argentinski predsednik poslao poruku koja će razbesneti Britance
PREDSEDNIK Argentine Havijer Milej izjavio je da je njegova vlada "svakim danom sve bliže" povratku suvereniteta nad Foklandskim ostrvima, produbljujući diplomatski spor izazvan politički obojenim slavljem reprezentacije Argentine nakon pobede nad Engleskom na Svetskom prvenstvu ranije ove sedmice, piše briselski portal Politiko.
17. 07. 2026. u 14:37
NOVA FAZA SUKOBA NA BLISKOM ISTOKU: Iran prvi put direktno napao ovu zemlju!
IRAN je saopštio da je u petak izveo nove napade na američke objekte na Bliskom istoku, uključujući i prvi direktan napad u Siriji, nakon šeste uzastopne noći američkih udara na iranske vojne objekte.
17. 07. 2026. u 12:51
KATASTROFA Koliko Ukrajina sada ima stanovnika - a koliko ih je bilo pre rata: brojevi zastrašujući, nema ljudi za obnovu zemlje
NA teritoriji pod kontrolom Kijeva ostalo je između 22 i 25 miliona stanovnika, dok ratni gubici, masovno iseljavanje, nizak natalitet i ubrzano starenje stanovništva guraju Ukrajinu ka demografskoj krizi koja bi mogla iz temelja da promeni nacionalnu, ekonomsku i društvenu strukturu zemlje, piše „Azija tajms”.
16. 07. 2026. u 19:23
Najnovije iz rubrike
POTRES: Ostavka šefa Mercovih demohrišćana - dobio dete sa partnerom preko surogat majke u SAD, ostao bez funkcije
NEMAČKI političar Jens Špan podneo je ostavku jer je sa suprugom, novinarom Danijelom Funkeom, dobio bebu preko surogat majke u SAD.
18. 07. 2026. u 17:47
ALBANAC PRAVI HAOOS U ENGLESKOJ: Hranio pse novčanicama, odbija da napusti Ostrvo
NA SVOM nalogu na Instagramu Puka je objavio više snimaka na kojima pokazuje skupocene satove marke "Rolex", luksuzne automobile, među kojima su "Ferari" i "Lamborgini Urus", kao i video u kojem svojim psima daje novčanice od 20 i 50 funti.
18. 07. 2026. u 17:25
MAĐAR MENJA PRAVILA IGRE! Evo ko bi uskoro mogao da odlučuje o vlasti u Mađarskoj
MAĐARSKI premijer Peter Mađar izjavio je da bi podržao smanjenje starosne granice za glasanje u zemlji sa 18 na 16 godina kao deo tekućeg procesa ustavne reforme vlade, tvrdeći da su današnji tinejdžeri dovoljno informisani da učestvuju u oblikovanju budućnosti zemlje.
18. 07. 2026. u 16:58
ZOHRAN HAPSI BIBIJA Lisice za Netanjahua usred NJujorka: "On je ratni zločinac, mesto mu je u Hagu!"
GRADONAČELNIK Njujorka Zohran Mamdani izjavio je da je u "aktivnim konsultacijama" sa pravnim odeljenjem grada Njujorka o mogućnosti da se uhapsi izraelski premijer Benjamin Netanjahu.
18. 07. 2026. u 16:35
AMERIČKE BAZE NA UDARU! Iran tvrdi da je uništio radarski sistem, dva borbena aviona i tri drona (VIDEO))
IRAN je danas pokrenuo nove napade na saveznike Sjedinjenih Država u Persijskom zalivu, nakon sedme noći zaredom američkih udara na iranske vojne ciljeve, uključujući logističke objekte, što je dodatno eskaliralo sukob nedelju dana nakon propasti primirja.
18. 07. 2026. u 16:24
Komentari (0)