KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Iran gori, a Bela kuća se češka - i pravi sprdnju na mrežama
U DUHU "influensera".
12. 03. 2026. u 20:10
"ROĐENO MOJE, UVEK ĆEŠ BITI U MOM SRCU" Darko Lazić se potresnim rečima oprostio od brata
DRAGAN Lazić, rođeni brat pevača Darka Lazića, tragično je nastradao juče u saobraćajnoj nesreći u blizini Šapca u opštini Vladimirci.
12. 03. 2026. u 17:03
DECENIJAMA GA NIJE BILO U JAVNOSTI Simbol lepote u SFRJ, vidite kako danas izgleda u 8. deceniji - nestao sa scene '95 (FOTO)
OBOŽAVATELjKE su ga posebno pamtile po specifičnim, prodornim očima.
12. 03. 2026. u 21:20
PRVI SNIMAK, PRVI PUT U AKCIJI: Ameri upotrebili novo naoružanje u Iranu - iskopirali ga od Iranaca (VIDEO)
SJEDINjENE Američke Države počele su da koriste sopstvenu verziju niskobudžetne bespilotne letelice, direktno inspirisanu iranskim dronom "šahed" 136.
12. 03. 2026. u 21:09 >> 21:21
GOTOVA ANALIZA NA NARKOTIKE I ALKOHOL: Šta je pokazao test krvi vozača koji se sudario sa Darkovim bratom
ISTRAGU o slučaju vodi OJT u Šapcu.
12. 03. 2026. u 19:21
"VELIKE POSLEDICE ZA SVE ARAPSKE ZEMLjE": Putin hitno pozvao predsednika bin Zajeda
IZRAEL i Sjedinjene Države napale su Iran u subotu 28. februara u ranim jutarnjim časovima u vojnoj operaciji "Epski bes". U napadima su ubijeni vrhovni vođa Irana Ali Hamnei i bivši predsednik Irana Mahmud Ahmadinežad.
12. 03. 2026. u 23:21
HRVATI "VELIKI I JAKI" ŽALE SE CENTRALI NATO ZBOG SRPSKIH RAKETA: A ne smeta im vojni savez Zagreb-Tirana-Priština
PREMIJER Hrvatske Andrej Plenković rekao je danas, komentarišući to što Vojska Srbije raspolaže novom hipersoničnom kvazibalističkom raketom kineske proizvodnje CM-400, da će "razgovarati sa partnerima u NATO i upozoriti ih na takvo naoružanje".
12. 03. 2026. u 19:25
GORI AMERIČKI NOSAČ AVIONA: Hitno se oglasila Centralna komanda SAD
DANAS je na američkom nosaču aviona USS Gerald R. Ford (CVN-78) izbio požar, koji je u međuvremenu ugašen.
12. 03. 2026. u 16:38
IRANCI TVRDE - NETANJAHU JE UBIJEN: Šta se desilo Bibiju? Prvi put od početka rata i "Iranci izađite na ulice"
SPEKULACIJE o navodnoj smrti izraelskog premijera Benjamina Netanijahua pojavile su se juče na društvenim mrežama, a preneo ih je hebrejski veb-sajt iranske novinske agencije Tasnim. Šta se s njim dogodilo - odgovor je stigao dan kasnije. Živ je i zdrav i kako poručuje na prvoj konferenciji od početka rata - spreman je da borbe privede kraju.
12. 03. 2026. u 22:29 >> 22:37
Najnovije iz rubrike
NOVE PRETNJE NETANJAHUA: "Osećaju snagu naših udaraca, a osetiće i još više"
IRAN više nije ista zemlja nakon gotovo dve sedmice zajedničkih američko-izraelskih napada, izjavio je sinoć izraelski premijer Benjamin Netanjahu, dodajući da skoto svakog dana od početka rata razgovara sa američkim predsednikom Donaldom Trampom.
13. 03. 2026. u 07:40
OGLASILE SE SIRENE U NATO BAZI U TURSKOJ: Kruže snimci svetlećeg objekta na nebu (VIDEO)
SIRENE su se rano jutros oglasile u turskoj vazduhoplovnoj bazi Indžirlik, u blizini jugoistočnog grada Adane, prenela je Anadolija.
13. 03. 2026. u 07:29
SRUŠIO SE AMERIČKI AVION IZNAD IRAKA: Hitno se oglasila Centralna komanda SAD
AMERIČKI vazduhoplovni avion KC-135 Stratotanker, avion za dopunu goriva, srušio se u zapadnom Iraku, saopštila je američka vojska, dodajući da incident "nije bio posledica neprijateljske vatre ili prijateljske vatre", već da je u njemu učestvovao drugi američki tanker.
13. 03. 2026. u 07:15
uživoRAT NA BLISKOM ISTOKU: Odjekuju novi udari, avion američkog vazduhoplovstva se srušio iznad Iraka
RAT na Bliskom istoku ušao u 14. dan. U svom prvom obraćanju novi vrhovni vođa Irana pozvao na krvoproliće i zapretio osvetom. Tramp ponovo najavio skori kraj rata, ali je dodao da SAD "moraju da završe posao". Oštećena zgrada u Dubaiju nakon presretanja projektila. Sirene u NATO bazi Indžirlik kod Adane. Izrael pogodio stotine meta u Iranu, prijavljene eksplozije u Teheranu. Avion američkog vazduhoplovstva se srušio iznad Iraka.
13. 03. 2026. u 07:14
TRAMP: Verujem da je Hamnei živ u nekom obliku
PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp izjavio je da veruje da je novoimenovani vrhovni vođa Irana Modžtaba Hamnei još uvek živ "u nekom obliku", iako se nije pojavljivao u javnosti od početka rata u Iranu.
13. 03. 2026. u 07:11
Komentari (0)