KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
RAZMENA ZA ERDOGANOVOG ROĐAKA? Turci osudili hrvatskog kapetana na 30 godina zatvora: "Slučaj Mustafe i Bekavca obavijen velom tajne"
VRHOVNI sud Turske potvrdio je kazne zatvora od 30 godina za kapetana Marka Bekavca i prvog oficira Alija Alboharija sa broda za rasute terete „Fenišan M“. Odluka je doneta uprkos apsurdnoj činjenici da je kapetan pušten na slobodu u avgustu prošle godine, dok njegov kolega, osuđen po istim optužbama za nemar, ostaje u zatvoru, javlja „Sitrejd Maritim njuz“ .
10. 03. 2026. u 16:44
"PREUZIMAM ODGOVORNOST ZA SVOJU ODLUKU": Andreana Ćekić se oglasila posle Ognjenove izjave da je više neće zvati u emisiju
ANDREANA Čekić se oglasila na svom Instagram profilu i objasnila zbog čega je u poslednjem trenutku otkazala gostovanje u emisiji kod Ognjena Amidžića.
11. 03. 2026. u 12:38
Ministar rata SAD čitao Bibliju tokom konferencije: "Bog uči ruke moje ratu i prste moje borbi - on je ljubav moja i tvrđava moja"
CITIRAO je stih koji se tradicionalno pripisuje biblijskom kralju Davidu.
10. 03. 2026. u 15:59 >> 16:10
10 GODINA OD SMRTI GAGE NIKOLIĆA: Ostao je upamćen kao večiti dečak i veliki šmeker, a evo kako ga se seća Verica koja mu je bila kao ćerka
U ZNAK sećanja na velikog glumca i boema prenosimo autorski tekst Verice Dravić, bratanice njegove supruge Milene, koju je umetnik voleo i gledao kao svoje dete.
11. 03. 2026. u 09:36
MARIJA MIKIĆ IMA NOVOG DEČKA: Pevačica ponovo srećna nakon razvoda
MARIJA Mikić je ponovo zaljubljena, ali ne želi da otkriva ko je muškarac kraj koga je pronašla sreću.
11. 03. 2026. u 11:12
"KREĆE EUTANAZIJA ZDRAVIH" Neljudski potezi stranaca koji beže iz Dubaija - skloništa pucaju po šavovima
SVI se još uvek sećamo scena sa početka rata u Ukrajini, kada su ljudi bežali iz zemlje noseći svoje pse i mačke u naručju. Njihovi ljubimci bili su članovi porodice i nisu nameravali da ih se odreknu bez borbe. Mnogima je prisustvo stvorenja u naručju komplikovalo bekstvo iz zemlje, ali nisu ni pomišljali da je ostave.
10. 03. 2026. u 22:45
"NADAMO SE DA ĆE OSTATI U SKLADIŠTU" Hrvatski ministar u panici zbog najnovijih raketa: Vučićeva Srbija i snaga naše vojske jedina tema!
SRBIJA predsednika Aleksandra Vučića i snaga naše vojske, koja je Vučićevim zalaganjem podignuta iz pepela, jedina je tema u Hrvatskoj!
10. 03. 2026. u 18:10
ŠOK ISTRAGA AMERIKANACA: Evo ko je gađao iransku školu u kojoj su poginule devojčice
AMERIČKI vojni istražitelji veruju da je verovatno da su američke snage odgovorne za napad na iransku školu za devojčice u kojem je u subotu poginulo više desetina dece, ali još nisu doneli konačan zaključak niti su završili istragu, rekli su za Rojters dvojica američkih zvaničnika.
06. 03. 2026. u 08:23
TRAMP NI NE POMIŠLjA DA UDARI NA OVO OSTRVO: Kad bi se to desilo Iran bi propao - bombe odjekuju po celoj zemlji, samo taj deo ne diraju FOTO
VEĆ više od nedelju dana, iz Teherana i ostatka Irana stižu dramatične slike uništenih skladišta goriva i stubova crnog dima koji su nastali usled izraelsko-američkog bombardovanja. Ali jedno mesto u severnom Persijskom zalivu ostalo je netaknuto.
10. 03. 2026. u 21:47
Najnovije iz rubrike
uživoRAKETE I DRONOVI IZNAD UAE, BRODOVI GORE U ORMUSKOM MOREUZU: Bliski istok na ivici velikog rata (FOTO/VIDEO)
DVANAESTI je dan rata na Bliskom istoku.
11. 03. 2026. u 07:17 >> 12:47
"EVROPA JE ČOPOR KUĆNIH MAČAKA..." Milanović isprozivao EU, pa pomenuo i Ursulu fon der Lajen
PREDSEDNIK Zoran Milanović danas je, nakon otvaranja konferencije Mani Moušn 2026. na Zagrebačkom velesajmu, dao izjavu za medije u kojoj je komentarisao niz aktuelnih političkih tema.
11. 03. 2026. u 12:39
NOVI UDARI U ORMUSKOM MOREUZU: Treći brod pogođen raketom (FOTO)
TRI BRODA su pogođena neidentifikovanim raketama u Ormuskom moreuzu, saopštile su u sredu agencije za pomorsku bezbednost i drugi izvori.
11. 03. 2026. u 12:32
"MI NISMO SAGOVORNICI, ISTI POLITIČKI NIVO" Milanović udario na Anušića - "Samo neka on putuje i vežba Krav Magu..."
HRVATSKI predsednik Zoran Milanović izjavio je danas da potpredsednik Vlade i ministar odbrane Ivan Anušić nije njegov sagovornik, već da to može biti premijer, ali i da se više neće uzdržavati kada vidi da je nešto nemoralno ili štetno.
11. 03. 2026. u 12:28
NESVAKIDAŠNJI PRIZOR U GRČKOJ: Ajkula u plićaku, meštani uznemireni (VIDEO)
VELIKA ajkula viđena je u ponedeljak popodne kako pliva veoma blizu obale u grčkom mestu Kavuriju u Atinskoj regiji.
11. 03. 2026. u 12:07
Komentari (0)