KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
Dodaj Novosti kao svoj Google izvor
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
RUSKA MISICA NAĐENA U TORBI - RASKOMADANA: Pas pomogao policiji - danima bio na mestu ubistva
OSUMNjIČENI za ubistvo je partner manekenke, biznismen koji je, prema preliminarnim izveštajima, raskomadao njeno telo
31. 07. 2026. u 16:57 >> 17:17
ZAŠTO IH NIKO NE PRODAJE? Da li ćureća jaja smeju da se jedu
ĆUREĆE meso redovno pronalazimo u prodavnicama, restoranima i na prazničnim trpezama.
31. 07. 2026. u 17:59
PRERAN ODLAZAK NAŠEG GLUMCA: Preminuo Dragiša Milojković (55) posle kraće bolesti
GLUMAC Dragiša Milojković juče je preminuo, saopštilo matično pozorište.
01. 08. 2026. u 12:42
Proglašena vanredna situacija u Rumuniji
OVA mera dolazi u trenutku kada se Rumunija nalazi na ivici energetske krize
31. 07. 2026. u 22:49
OTKRIVEN RAZLOG POBUNE: 100 vojnika elitne IZR brigade napustilo bazu - stigle kazne! "Komandant je čekićem uništavao obeležja"
ČETRNAEST pripadnika bataljona Cabar iz sastava brigade Givati, koji su predvodili masovno napuštanje vojne baze Sde Tejman u četvrtak (oko 100 vojnika), osuđeni su na po 30 dana vojnog zatvora i udaljeni iz borbene službe, saopštila je izraelska vojska.
31. 07. 2026. u 20:58
Zašto NIJE MOGUĆE izgraditi most između Španije i Maroka? Svega 14 km deli Evropu i Afriku, a putuje se preko "pola" sveta
OKO 49.000 migranata prešlo je iz Maroka u špansku severnoafričku enklavu Seutu u poslednja 24 sata, prema preliminarnoj proceni španskog ministarstva unutrašnjih poslova. Među njima su i stotine dece, od kojih su neka na opasan put krenula bez znanja roditelja.
31. 07. 2026. u 22:22
RAMPA OD TRAMPA ZA MAKRONA: Diplomatski skandal na pomolu, Vašington sprema neviđeni udarac Parizu
SJEDINjENE Američke Države razmatraju odlaganje, ili čak blokiranje, imenovanja sledećeg francuskog ambasadora u Vašingtonu, što je potez bez presedana koji preti da produbi jaz između dva dugogodišnja saveznika, navode četiri izvora upoznata sa situacijom.
29. 07. 2026. u 19:12
HITNO UPOZORENjE ZA VOZAČE U SRBIJI: Opozvana dva popularna Nissan modela zbog rizika od požara i povreda
NA sajtu sistema NEPRO objavljen je opoziv dva modela putničkih vozila marke Nissan zbog bezbednosnih rizika koji mogu dovesti do povreda korisnika, odnosno povećanog rizika od požara.
24. 07. 2026. u 16:00
MASOVNO ZATVARANjE PLAŽA U CG: Voda opasna za kupanje, ambulante pune bolesne dece - i na Slovenskoj plaži zabranjeno kupanje
NA NEKOLIKO popularnih plaža u Crnoj Gori uvedena je zabrana kupanja nakon što su analize pokazale da morska voda nije bezbedna.
30. 07. 2026. u 16:55 >> 18:54
Najnovije iz rubrike
ZAPAD U NEVERICI! MOSKVA ŠOKIRALA NATO BROJKAMA! Objavljeno koliko je povećana proizvodnja oružja za SVO
OD početka Specijalne vojne operacije, obim isporuka naoružanja i vojne tehnike povećan je pet puta, izjavio je zamenik ruskog ministra odbrane, general-pukovnik Aleksandar Sančik, prenosi TASS.
01. 08. 2026. u 16:00
NATO NA KOLENIMA PRED RUSIJOM: Admiral priznao da je trenutna odbrana nemoćna
KOMANDANT NATO za transformaciju admiral Pjer Vanđe izjavio je da će zemlje članice Alijanse morati iz temelja da promene način razvoja i proizvodnje naoružanja kako bi odgovorile na izazove koje su pokazali rat u Ukrajini i sukobi na Bliskom istoku.
01. 08. 2026. u 15:43
PAKAO NA BLISKOM ISTOKU! Tramp zapalio fitilj, Iranci spremaju osvetu — Biće krvi do kolena!
AMERIČKI predsednik Donald Tramp odobrio je nove planove za napad na Iran, koji su mu predstavljeni dok je bio u golf klubu u Nju Džerziju.
01. 08. 2026. u 15:30
NOVA PRAVILA ZA ULAZAK U AMERIKU: Evo da li se Srbija nalazi na ovom spisku država
NOVA pravila odnose se na poslovne i turističke vize B1 i B2, a konzularni službenici će imati ovlašćenje da, prema sopstvenoj proceni, zahtevaju uplatu obveznice kao uslov za izdavanje vize.
01. 08. 2026. u 15:24
RUSKA MAŠINERIJA U NALETU: Oslobođena još dva naselja, razbijena skladišta dronova i pogođeni vojni ciljevi širom fronta
RUSKA vojska je preuzela kontrolu nad selom Olgovka u Harkovskoj i oslobodila Ljubicko u Zaporoškoj oblasti, saopštilo je Ministarstvo odbrane Ruske Federacije.
01. 08. 2026. u 14:45
Komentari (0)