КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Кад чују како се Крушевљанин зове, сви се питају да ли му је матичар био пијан
БИВШИ успешни крушевачки маратонац је навикао да приликом упознавања своје име понови минимум два пута и није грешка матичара!
03. 05. 2026. у 12:37
Сестра Тошета Проеског објавила болне кадрове са гробља (фото)
"КАЖУ да време лечи све, али туга за онима које волимо остаје иста"
03. 05. 2026. у 15:48
Родила се Хана: Жена познатог Србина се порађала дуже од 2 дана - више од 50 сати, хтела да се породи у кући (ФОТО)
"ЧЕСТИТКЕ мами и тати на овом дивном дару живота."
02. 05. 2026. у 13:02 >> 13:04
Познати фолкер открио после пола века: "Годину дана сам био у вези са Снежаном Ђуришић - дала ми је број телефона и њену слику"
"Баш сам се био заљубио у њу. То није била љубав, била је заљубљеност, био сам клинац од 17 година."
03. 05. 2026. у 14:11
Хоће ли тако и у Србији? Нова правила за светла у ЕУ - стартују 27. јула
РЕЧ је о мери коју ЕУ уводи са циљем повећања безбедности у саобраћају и смањења броја судара на ауто-путевима и брзим саобраћајницама.
02. 05. 2026. у 12:29
МАНДИНЕ ГОРКЕ РЕЧИ ИЗ 90их: Учити децу да буду поштени је као да их учите да буду идиоти
НА данашњи дан, легендарни глумац Милорад Мандић Манда напунио би 65 година.
03. 05. 2026. у 17:28
Трампу стигле најгоре могуће вести: Није добро по америчког председника
Подршка америчком председнику Доналду Трампу пала је на најнижи ниво у његовом тренутном мандату, а Американци су све више незадовољни његовим поступањем са трошковима живота и ратом са Ираном, показују резултати нове анкете Ипсоса.
28. 04. 2026. у 20:51
Срушио се авион код главног града: Погинули сви путници и пилот
Ваздухопловна цивилна управа Јужног Судана саопштила је данас да се срушио авион југозападно од главног града Џубе, при чему је погинуло свих 14 особа које су биле у летелици.
27. 04. 2026. у 16:49
Шта се то десило на граници Украјине и Белорусије? Зеленски бесан, прети комшијама: "Спремни смо!"
ПРЕДСЕДНИК је такође најавио да Украјина припрема неколико нових пакета санкција који ће бити уведени одмах и у блиској будућности.
03. 05. 2026. у 09:37
Најновије из рубрике
Шта садржи Ирански предлог: Трампу и Нетанјахуу се неће свидети - Престанак рата у року од 30 дана, укидање санкција и блокада...
У ИРАНСКОМ предлогу Сједињеним Америчким Државама о окончању рата захтева се да се рат и "сви проблеми" окончају у року од 30 дана, на начин да се рат оконча, али примирје не продужи, пише данас Ал Џазира, позивајући се на изворе.
03. 05. 2026. у 17:50
Страховита претња Трампу: Иран ће претворити Ормуски мореуз у гробље америчких носача авиона
АМЕРИЧКИ председник Доналд Трамп има два избора — да настави војну операцију чији циљеви неће бити остварени или „лош договор“ са Ираном, саопштила је обавештајна служба Револуционарне гарде.
03. 05. 2026. у 17:33
Амерички тужилац за Округ Колумбија: Трампова влада има доказ да је упуцан федерални агент на вечери дописника Беле куће
АМЕРИЧКА тужитељка за Дистрикт Колумбија Жанин Пиро изјавила је данас да влада има доказе да је федерални агент погођен током пуцњаве на вечери Удружења дописника Беле куће, којој је прошлог викенда у Вашингтону присуствовао и амерички председник Доналд Трамп.
03. 05. 2026. у 17:20
Извештај са фронта: Руска војска у дану неутралисала око 1.235 украјинских војника, оборено 740 дронова (ВИДЕО)
РУСКЕ трупе су обориле четири вођене авио-бомбе, ракету ХИМАРС и 740 беспилотних летелица у зони СВО, саопштило је руско Министарство одбране.
03. 05. 2026. у 17:11
Хезболах уништио још један тенк: Док горе меркаве у Либану, Израел купује још Ф-35И
Хезболах ФПВ дроном уништио још једну израелску „меркаву“ на југу Либана.
03. 05. 2026. у 17:05
Коментари (0)