Svet

KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo

12. 08. 2024. u 21:22 >> 21:23

OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole

КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво

Foto: pixabay

OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je od‌jednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.

Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.

Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.

OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.

Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.

(Telegraf)

BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba

Preporučujemo

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Novosti Google News
Tagovi

Drugi pišu

Pročitajte više

PO DOSTOJEVSKOM: Ovih 6 znakova otkrivaju ZLE LJUDE
Panorama

0 0

PO DOSTOJEVSKOM: Ovih 6 znakova otkrivaju ZLE LjUDE

ČUVAJTE se onih koji se smeju kada vam je loše, govorio je Dostojevski, gorostas pisane reči i majstor psihološkog realizma, koji je kroz svoja dela istraživao dubine i mračne ponore ljudske duše. Mudre misli velikog književnika i danas se citiraju, pomažući nam da shvatimo suštinu života, a kada se nađemo u nedoumici ne znajući kako da odgovorimo na zlo, setićemo se, možda, i njegovog saveta da "ne treba pobeđivati silom, već smirenom ljubavlju"...

07. 12. 2025. u 19:40

TA KUĆA JE STVARNO UKLETA Majci i ocu prerezao grkljan, pa sebi isekao vene: Novi detalji porodične tragedije u Čačku
Zločin

0 12

"TA KUĆA JE STVARNO UKLETA" Majci i ocu prerezao grkljan, pa sebi isekao vene: Novi detalji porodične tragedije u Čačku

PRVI rezultati istrage tragedije koja je otkrivena u subotu ujutru u porodičnoj kući u blizini „Slobodine“ raskrsnice u Čačku, govore da je Vladimir Čarapić (47) nožem preklao vrat svojoj majci Mili (72), a potom i svom ocu Neđu (79). Zatim je sebi istim sečivom naneo više uboda po grudima i stomaku, a na kraju je prerezao vene leve ruke i tako na smrt iskrvario.

07. 12. 2025. u 13:36

Završio glumu, pa radio na mešalici, rat ga udaljio od ljubavi - životni put Jova Maksića
Poznati

0 0

Završio glumu, pa radio na mešalici, rat ga udaljio od ljubavi - životni put Jova Maksića

DETINjSTVO glumca Jova Maksića oblikovalo se u maloj seoskoj sredini podno Dinare, u selu Plavno kod Knina, gde je porodica živela zbog očevog svešteničkog službovanja. Rani period života opisuje kao vreme potpune slobode i radosti, kada je gotovo čitavo selo bilo prostor za igru i maštarije. U takvoj atmosferi formirala se njegova emotivna struktura — vezanost za zajednicu, toplina porodičnih odnosa i zahvalnost za jednostavne stvari.

07. 12. 2025. u 11:41

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

Politika
Tenis
Fudbal
OD PENZIJE LEPO ŽIVIM: Ceca Kitić dobija pozamašnu svotu novca od države

"OD PENZIJE LEPO ŽIVIM": Ceca Kitić dobija pozamašnu svotu novca od države