KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
DR NOVOSTI: Zašto je transplantacija obrva toliko popularna među ženskom populacijom?
Sa Vladimirom Cvetkovićem razgovaramo o rešenju koje menja život.
12. 11. 2025. u 15:02
BIO JE MILjENIK ŽENA: Gde je danas Nebojša Bakočević?
TOKOM osamdesetih i početkom devedesetih Nebojša Bakočević bio je omiljeni glumac svake žene, a onda se iznenada povukao iz javnosti. Nakon više manjih uloga, u "Bošku Buhi" je igrao Dragutina Miloševića Čikala, da tada je tumačio sve važnije i veće uloge. Među najzapaženijima su one u "Zaboravljenima", "Kako je propao rokenrol", "Crnom bombarderu"...
13. 12. 2025. u 08:15
"IZAŠLA JE IZ BIZNIS KLASE": Voditeljka ŠOKIRANA ponašanjem Snežane Đurišić u avionu
"ONA JE žena laf"
12. 12. 2025. u 22:31
"SVI VIDE 4 SLOVA, A NE VIDE KRST": Najčemerniji srpski greh po vladiki Nikolaju
VLADIKA Nikolaj Velimirović rođen 1881. godine, u selu Lelić nedaleko od Valjeva. Njegovi roditelji, Dragomir i Katarina imali su devetoro dece od kojih su preživela samo dvojica sinova Nikolaj i Dušan, da bi i Dušan poginuo 1914. godine, a Nikolaj se zamonašio. Postao je jedan od najcenjenijih vladika, nije štedeo reči kada hvali naš narod, ali mu nije bilo strano ni da nam uputi po koju kritiku i ukaže na greške koje pravimo.
12. 12. 2025. u 16:23 >> 16:23
NELE NAPUSTIO BiH: "Da sam ostao u Sarajevu, ne bih bio živ - ne bi mogao da držim jezik za zubima"
NELE Karajlić je 11. decembra proslavio 63. rođendan, a svojevremeno se osvrnuo na svoje odrastanje, karijeru u Sarajevu i šta je sve preživeo kada je počeo rat.
12. 12. 2025. u 14:02
"ĆERKA MI JE INVALID OD ROĐENjA" Potresna ispovest Ere Ojdanića: "Babice su oštetile moždani nerv"
"NjU su babice na rođenju izvlačile na vakuum i…"
12. 12. 2025. u 12:20
SUKOB NAM JE PRED VRATIMA Rute upozorava: Mi smo sledeća meta Rusije
RUSIJA bi mogla da bude spremna da upotrebi vojnu silu protiv NATO-a u narednih pet godina, smatra generalni sekretar NATO-a Mark Rute.
11. 12. 2025. u 15:46 >> 16:40
OSUĐENI ZA UBISTVO STARCA U ZATVORU PADINSKA SKELA: Zrna saosećanja nemaju, izrečene višegodišnje kazne
SREĆKO Stefanović (22), Saša Stanković (22) i Dalibor Petrović (24) oglašeni su danas krivim u Višem sudu u Beogradu za teško ubistvo Stanimira Brajkovića (74) na bezobziran i nasilnički način u zatvoru Padinska Skela početkom februara 2024. godine. Ovom prvostepenom presudom Stefanović je osuđen na 19 godina zatvora, a Stanković i Petrović na po 18 godina.
11. 12. 2025. u 16:22
"STIGLI SRPSKI HULIGANI!" Austrijska policija plaši građane po ulicama Graca zbog navijača Zvezde
Šturm Grac i Crvena zvezda igraju utakmicu u Ligi Evrope, a pred taj meč austrijska policija je uradila nešto nesvakidašnje.
11. 12. 2025. u 16:15
Najnovije iz rubrike
VELIKA BRITANIJA SE PRIPREMA ZA RAT: Po hitnom postupku naređene pripreme za teške dane
VELIKA Britanija se priprema za rat. Kako je objavio britanski ministar oružanih snaga Alister Karns, zemlja se ubrzano priprema za moguće izbijanje sukoba.
13. 12. 2025. u 08:26
TRAMP DONEO ZNAČAJNU PROMENU: Severnna Koreja izostavljena iz nove strategije nacionalne bezbednosti, evo i zašto
U novoj Strategiji nacionalne bezbednosti SAD, koju je američki predsednik Donald Tramp objavio prošle nedelje, ne pominje se Severna Koreja i njen lider Kim Džong Un, a ovaj potez predstavlja značajnu promenu u odnosu na Trampovu prvu administraciju, koja je uključivala Severnu Koreju u listu globalnih pretnji.
13. 12. 2025. u 07:45
GORI POSTROJENJE SA OPASNIM MATERIJAMA: Ogroman požar buknuo u Hrvatskoj, na terenu veliki broj vatrogasaca
U mestu Gubaševo kod grada Zaboka u Hrvatskoj sinoć oko 23 sata izbio je požar u zgradi preduzeća CIAK, koje skladišti opasne materije, a u gašenju učestvuje više vatrogasnih ekipa.
13. 12. 2025. u 07:40
"NASTAVIĆEMO VOJNE OPERACIJE" Hitno se oglasio premijer Tajlanda: Ne stajemo dok teritorija i stanovništvo ne budu bezbedni
TAJLANDSKI premijer Anutin Čarnvirakul izjavio je danas da će Tajland nastaviti vojne operacije sve dok teritorija i stanovništvo zemlje više ne budu ugroženi.
13. 12. 2025. u 07:32
SVI VIDE ŠTA SLEDI Vojni stručnjak: Zauzimanje Severska označava početak nove faze operacija u Donbasu
LIBANSKI vojno-strateški ekspert Omar Marabuni izjavio je Sputza Sputnjik da zauzimanje Severska ima ključni značaj za dalji tok borbenih dejstava u Donbasu i predstavlja prelomni momenat u ruskoj ofanzivi.
13. 12. 2025. u 06:45
Komentari (0)