КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Хришћански свештеник звао људе да се склоне у цркву, погинуо у нападу Израела! Одбио да напусти село смрти: "Храм је отворена, дочекаћемо да
"НИКАДА нисмо бежали и нећемо бежати ни сада."
10. 03. 2026. у 11:37
Тони дужан СПЕНСУ 100.000€? Скупљају паре да му помогну! Огласио се директор: "Тужићемо организатора вероватно, а они њега"
"ЗАБЛУДА је и то што за поврат новца упућују на Спенс, јер ми људе упућујемо ка организатору и онима који су продавали карте."
10. 03. 2026. у 18:38
СЛОБИНА УНУКА ДОШЛА У СРБИЈУ Досад се није појављивала у јавности: "Мој деда је био прави борац за правду и истину, одлучила сам да научим с
"И БАКА Мира ми је много причала о деди. Много ми недостаје. Много причамо и о Србији и о Слободану."
10. 03. 2026. у 14:47
МУКЕ БАЛКАНЦА У НЕМАЧКОЈ Купио сам стан, трошкови ме гуше: "Рата кредита је најмањи проблем!"
КАКО је објаснио сама рата кредита није проблем, али оно што многи купци не узимају у обзир пре потписивања уговора јесу фиксни месечни трошкови одржавања и комуналија који прате сваку некретнину.
10. 03. 2026. у 18:41
РАЗМЕНА ЗА ЕРДОГАНОВОГ РОЂАКА? Турци осудили хрватског капетана на 30 година затвора: "Случај Мустафе и Бекавца обавијен велом тајне"
ВРХОВНИ суд Турске потврдио је казне затвора од 30 година за капетана Марка Бекавца и првог официра Алија Албохарија са брода за расуте терете „Фенишан М“. Одлука је донета упркос апсурдној чињеници да је капетан пуштен на слободу у августу прошле године, док његов колега, осуђен по истим оптужбама за немар, остаје у затвору, јавља „Ситрејд Маритим њуз“ .
10. 03. 2026. у 16:44
ОД ЛОВА НА НАЦИСТЕ ДО ПЕЈЏЕРА И АЈАТОЛАХА: Спектакуларне акције Мосада - кад је тајна служба била успешна, а кад је заказала
У ДАНИМА непрестаних ваздушних удара, Израел гађа иранска нуклеарна постројења, војне базе и приватне резиденције. Тако је било и током прошлогодишњег напада на Иран.
10. 03. 2026. у 20:25
"НАДАМО СЕ ДА ЋЕ ОСТАТИ У СКЛАДИШТУ" Хрватски министар у паници због најновијих ракета: Вучићева Србија и снага наше војске једина тема!
СРБИЈА председника Александра Вучића и снага наше војске, која је Вучићевим залагањем подигнута из пепела, једина је тема у Хрватској!
10. 03. 2026. у 18:10
ШОК ИСТРАГА АМЕРИКАНАЦА: Ево ко је гађао иранску школу у којој су погинуле девојчице
АМЕРИЧКИ војни истражитељи верују да је вероватно да су америчке снаге одговорне за напад на иранску школу за девојчице у којем је у суботу погинуло више десетина деце, али још нису донели коначан закључак нити су завршили истрагу, рекли су за Ројтерс двојица америчких званичника.
06. 03. 2026. у 08:23
НОВИ ЕКСПЛИЦИТНИ СНИМЦИ МИРЈАНЕ ПАЈКОВИЋ: Полиција сумња КО је на снимку, други мушкарац - одмах саслушана
РАНИЈЕ је објављен и видео за који је део медија написао да је снимљен у просторијама Владе. Тим поводом огласили су се из Владе Црне Горе, и демантовали те наводе.
07. 03. 2026. у 22:55 >> 23:05
Најновије из рубрике
НЕТАНЈАХУ ПОЗИВА ИРАНЦЕ НА ПРЕВРАТ; Потопљено још 16 иранских бродова; Објављени подаци о америчким жртвама (ФОТО/ВИДЕО)
ЈЕДАНАЕСТИ је дан рата на Блиском истоку.
10. 03. 2026. у 06:54 >> 01:13
ПОГЛЕДАЈТЕ - АМЕРИЧКА ВОЈСКА: Уништено 16 иранских бродова за постављање мина у Ормуском мореузу (ВИДЕО)
АМЕРИЧКА војска саопштила је да је у уторак уништила 16 иранских бродова намењених постављању мина у близини Strait of Hormuz.
11. 03. 2026. у 01:02
СВЕ ЈЕ НА ПРОДАЈУ: Саудијска Арабија преговара о куповини система ПВО од Украјине
САУДИЈСКА Арабија се спрема да од Украјине купи средства противваздушне одбране, пише лист Волстрит џурнал.
11. 03. 2026. у 00:15
ШЕМА „ЛАЖНЕ КОМПАНИЈЕ“ ЗА УТАЈУ ПОРЕЗА: Превара од 1,3 милиона евра у Барију и његовој покрајини
ОПЕРАЦИЈА Финансијске полиције у Барију, Битонту, Ђовинацу и Саникандру, донела је резултат после обављене истраге против 26 особа због пореске преваре, заплењена имовина, а коришћене су лажне фактуре за непостојеће трансакције.
10. 03. 2026. у 23:22
НЕТАНЈАХУ ИРАНЦИМА: Наредни дани донеће прилику да се ослободите, будите спремни
ПРЕМИЈЕР Израела Бенјамин Нетанјаху поручио је иранском народу да ће Израел ускоро „створити услове“ да они „узму судбину у своје руке“.
10. 03. 2026. у 23:11
Коментари (0)