КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Колико је ЕУ ИЗГУБИЛА милиона € због санкција Русији? Бројка незамисливо велика - Москва објавила тачну цифру по њеној процени
"ОВЕ мере представљају кључни алат неоколонијалне политике "колективног Запада", која има за циљ да задржи опадајуће доминирање и ограничи суверена права других земаља на политички избор и технолошки развој."
06. 12. 2025. у 21:38
МАРИЈА ИХ ЈЕ ДОБИЛА: 4 милиона € за одовор "шта мисле кокошке" - а рођена је у граду
ПРОЈЕКАТ комбинује различите научне дисциплине: компаративну психологију, зоологију и биолошко понашање.
06. 12. 2025. у 21:06
"ГАВРИЛОВА МАЈКА И МОЈ ПРАДЕДА...": Принцип ПРЕДАК нашег познатог певача (ФОТО)
ИСТОРИЈСКУ личност каква је Гаврило Принцип тешко је довести у везу са личностима из света популарне музике.
07. 12. 2025. у 16:40
Завршио глуму, па радио на мешалици, рат га удаљио од љубави - животни пут Јова Максића
ДЕТИЊСТВО глумца Јова Максића обликовало се у малој сеоској средини подно Динаре, у селу Плавно код Книна, где је породица живела због очевог свештеничког службовања. Рани период живота описује као време потпуне слободе и радости, када је готово читаво село било простор за игру и маштарије. У таквој атмосфери формирала се његова емотивна структура — везаност за заједницу, топлина породичних односа и захвалност за једноставне ствари.
07. 12. 2025. у 11:41
ЦЕО ТЕНИС У ШОКУ: Чувена тенисерка уградила вештачке груди, а онда је откривено и ово! (ФОТО)
Најновије вести из тениса су прилично невероватне.
07. 12. 2025. у 13:43
ДОШАО ЈЕ КРАЈ! Мирка се огласила: "Завршено је..."
ГЛУМИЦА се огласила на друштвеним мрежама...
07. 12. 2025. у 09:14
"ТА КУЋА ЈЕ СТВАРНО УКЛЕТА" Мајци и оцу пререзао гркљан, па себи исекао вене: Нови детаљи породичне трагедије у Чачку
ПРВИ резултати истраге трагедије која је откривена у суботу ујутру у породичној кући у близини „Слободине“ раскрснице у Чачку, говоре да је Владимир Чарапић (47) ножем преклао врат својој мајци Мили (72), а потом и свом оцу Неђу (79). Затим је себи истим сечивом нанео више убода по грудима и стомаку, а на крају је пререзао вене леве руке и тако на смрт искрварио.
07. 12. 2025. у 13:36
НОВО РЕШЕЊЕ ЗА УКРАЈИНУ: Европа прави план у случају да се САД повуку из конфликта
ЕВРОПСКЕ дипломате припремају сценарио подршке Украјини у случају повлачења САД из конфликта, преноси Блумберг, позивајући се на изворе.
07. 12. 2025. у 13:19
Завршио глуму, па радио на мешалици, рат га удаљио од љубави - животни пут Јова Максића
ДЕТИЊСТВО глумца Јова Максића обликовало се у малој сеоској средини подно Динаре, у селу Плавно код Книна, где је породица живела због очевог свештеничког службовања. Рани период живота описује као време потпуне слободе и радости, када је готово читаво село било простор за игру и маштарије. У таквој атмосфери формирала се његова емотивна структура — везаност за заједницу, топлина породичних односа и захвалност за једноставне ствари.
07. 12. 2025. у 11:41
Најновије из рубрике
ИСТОРИЈСКИ ТРЕНУТАК: Ужасна вест за Мерца
У НЕМАЧКОЈ је проценат људи незадовољних учинком немачке владе коју предводи канцелар Фридрих Мерц порастао на 70% – што је историјски максимум.
07. 12. 2025. у 18:30
УКРАЈИНСКА РАДА ПРИЗНАЛА ВЕЛИКИ ПРОБЛЕМ: Ситуација са испоруком оружја је критична
Ситуација са америчким ракетама у Украјини је већ критична, изјавио је Роман Костенко, посланик Голоса и секретар Одбора Врховне Раде за националну безбедност.
07. 12. 2025. у 18:10
БЕРЛИНЕР ЦАЈТУНГ: Амерички план довео украјинско руководство у тежак положај
АМЕРИЧКИ план за мир у Украјини довео је кијевске власти у тежак положај, наводи Берлинер Цајтунг.
07. 12. 2025. у 18:00
СТИГЛО УПОЗОРЕЊЕ НАТО ЧЛАНИЦЕ: "Следи тренутак када ћемо морати да обарамо руске авионе"
ЕВРОПСКЕ земље можда ће морати да почну да обарају руске авионе и дронове који нарушавају ваздушни простор НАТО-а уколико Москва настави да тестира одлучност Алијансе, изјавио је чешки председник Петр Павел у интервјуу за лондонски Сандеј Тајмс.
07. 12. 2025. у 17:40
ЗАПАД НЕ МОЖЕ ДА ПОБЕДИ У РАТУ СА РУСИЈОМ: Амерички официр објаснио
Запад не може да добије рат са Русијом ако буде увучен у украјински сукоб, сматра пензионисани потпуковник америчке војске Данијел Дејвис.
07. 12. 2025. у 17:38
Коментари (0)