КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Колико је ЕУ ИЗГУБИЛА милиона € због санкција Русији? Бројка незамисливо велика - Москва објавила тачну цифру по њеној процени
"ОВЕ мере представљају кључни алат неоколонијалне политике "колективног Запада", која има за циљ да задржи опадајуће доминирање и ограничи суверена права других земаља на политички избор и технолошки развој."
06. 12. 2025. у 21:38
STAND UP ОПЕРА СРПСКОГ БОЧЕЛИЈА – ОВАЦИЈЕ ЗА НЕМАЊУ ЦРНАТОВИЋА НА ПРВОМ КОНЦЕРТУ У ФОНДАЦИЈИ MOZZART
„МУЗИКА се не гледа, музика се слушаˮ, поручио је суперталентовани тенор после два сата спектакла.
25. 11. 2025. у 16:27
Колико је ЕУ ИЗГУБИЛА милиона € због санкција Русији? Бројка незамисливо велика - Москва објавила тачну цифру по њеној процени
"ОВЕ мере представљају кључни алат неоколонијалне политике "колективног Запада", која има за циљ да задржи опадајуће доминирање и ограничи суверена права других земаља на политички избор и технолошки развој."
06. 12. 2025. у 21:38
"Глупа си и гадна! Занимљиво, ретко се о томе извештава - али све је ово било плаћено приватним донацијама"
"НИЈЕ коришћен ниједан долар пореских обвезника!"
06. 12. 2025. у 21:24
ТУЖАН ДАН ЗА РТС: Преминула ауторка "Једне песме, једне жеље" - одлазак бивше уреднице Ерне Перић
НАЈПОЗНАТИЈИ серијал који је ауторски потписала био је "Једна песма, једна жеља".
06. 12. 2025. у 15:52
"ЕВРОПИ ПРЕТИ БРИСАЊЕ ЦИВИЛИЗАЦИЈЕ" После оштре објаве из Беле куће стигао оговор из Немачке
ЂАНИ Инфантино уручио је Доналду Трапу награду за мир, након што је остао без прижељкиваног Нобела, а практично у исто време Бела кућа објавила је документ у којем жестоко критикује Европу, као и њен однос према Украјини.
07. 12. 2025. у 08:29
ЕКСКЛУЗИВНО - УРАНИЈУМ И ТЕШКИ МЕТАЛИ ОТКРИВЕНИ У ТКИВУ ГЕНЕРАЛА ПАВКОВИЋА: Из италијанске лабораторије стигли резултати анализа (ФОТО)
У ТУМОРСКОМ ткиву генерала Небојше Павковића, које је 15. септембра послато на анализе у специјализовану лабораторију у Италији, пронађени су уранијум и тешки метали у екстремно високим концентрацијама!
29. 11. 2025. у 08:00
ОТАЦ ПАДАО У НЕСВЕСТ, ХИТНА ИНТЕРВЕНИСАЛА НЕКОЛИКО ПУТА Мучне сцене на сахрани Ане Радовић - Из породичне куће је испратили на вечни починак
ДАНАС је на Златиборском гробљу сахрањена Ана Радовић из Чајетине, која је погинула у тешкој сабраћајној несрећи на магистралном путу код Чачка.
28. 11. 2025. у 14:45
ДРСКО: Јелисавета Орашанин БЕЗ ДОЊЕГ ВЕША шета улицом (ФОТО)
ГЛУМИЦА Јелисавета Орашанин поново је привукла сву пажњу када се појавила у комбинацији која је изазвала праву буру на мрежама.
06. 12. 2025. у 20:35
Најновије из рубрике
ВЕЛИКИ СТРАХ ЗАВЛАДАО У ЕВРОПИ Зеленског упозоравају: "Ништа не потписуј"
ЕВРОПСКИ челници потајно саветују украјинског председника Володимира Зеленског да буде опрезан поводом напора Сједињених Држава да постигну мировни споразум са Русијом.
07. 12. 2025. у 08:38
"ЕВРОПИ ПРЕТИ БРИСАЊЕ ЦИВИЛИЗАЦИЈЕ" После оштре објаве из Беле куће стигао оговор из Немачке
ЂАНИ Инфантино уручио је Доналду Трапу награду за мир, након што је остао без прижељкиваног Нобела, а практично у исто време Бела кућа објавила је документ у којем жестоко критикује Европу, као и њен однос према Украјини.
07. 12. 2025. у 08:29
РУСИ ЗАСУЛИ УКРАЈИНУ КИНЏАЛИМА И ДРОНОВИМА: Жесток напад на град на Дњепру, прекиди у снабдевању струјом и водом (ВИДЕО)
РУСКЕ снаге извеле су обимни напад на централни украјински град Кременчуг током ноћи 6. децембра, саопштили су званичници.
07. 12. 2025. у 07:46
УСТА ПУНА ПРАВДЕ, А ЏЕП НОВЦА: Који су све скандали дрмали европске институције
Ако би се показале као тачне, оптужбе против ректорке Колеџа Европе Федерике Могерини покренуле би највећи скандал који је погодио Брисел још од колективне оставке Комисије Жака Сантера 1999. године, после оптужби за лоше финансијско управљање.
07. 12. 2025. у 07:35
ДРАМА НА НЕБУ: Кинески војни авиону усмерили радар на ловце Ф-15
КИНЕСКИ војни авиони су у суботу усмерили радар на борбене авионе јапанских Снага за самоодбрану (СДФ) југоисточно од главног острва Окинаве, изјавио је данас јапански министар одбране Шинџиро Коизуми.
07. 12. 2025. у 07:33
Коментари (0)