КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ДРАМА НА НЕБУ ИЗНАД САД: Војска оборила неколико летелица - морали да их онеспособе
"САВЕЗНА управа за ваздухопловство и Министарство рата утврдили су да не постоји претња за комерцијални ваздушни саобраћај."
11. 02. 2026. у 18:26 >> 18:38
СУБОТИЧАНИН ИСПИСАО ЈЕДНУ ОД НАЈЛУЂИХ ПРИЧА У ИСТОРИЈИ СПОРТСКОГ КЛАЂЕЊА: Три добитна тикета у SOCCERBETU – 30 милиона динара!
ОВО се не не памти у свету тикета и спортског клађења!
09. 02. 2026. у 16:27
РОДИТЕЉИ ЈОЈ ПРИЗНАЛИ ИСТИНУ: Милица Тодоровић има полубрата
"БРАТ Владан је од тате из првог брака."
12. 02. 2026. у 21:49
ТРИК ИСКУСНИХ ДОМАЋИЦА: Зашто треба да сипате ПИРИНАЧ у калупе за мафине пре печења?
ЦАКА за савршене мафине!
12. 02. 2026. у 10:27
ПРЕВИШЕ ИХ ЈЕ? Моћна држава Европе одлучује о ограничењу броја становника на 10 милиона - сад их је 9, а сви хрле тамо
ГЛАСАЧИ ће 14. јуна, одлучивати о два национална питања на референдуму, укључујући иницијативу крајње десне народне партије која предвиђа ограничење броја становника земље на 10 милиона, као и о реформи цивилне службе.
12. 02. 2026. у 15:00
ОТКРИВЕН ВАГНЕР КАМП НА 50КМ ОД СРБИЈЕ? Наоружани људи, кућа у брдима и застава Русије - строга контрола и пси чувари пазе објекат (ФОТО)
БАЗА руске групе "Вагнер" откривена је у селу Кладница на југу Бугарске, свега 50-ак километара од границе са Србијом. Како је открило бугарско удружење БОЕЦ, реч је о малом објекту у планинском подручју који је строго чуван и који наводно служи за паравојне активности.
12. 02. 2026. у 15:20 >> 16:05
БОСАНСКИМ "СПЕЦИЈАЛЦИМА" СЕ СМЕЈЕ ЦЕО СВЕТ: Избачени са такмичења, а криви им Срби и Додик (ФОТО/ВИДЕО)
СНИМАК специјалаца из Федерације БиХ на такмичењу СWАТ Цхалленге у Уједињеним Арапским Емиратима постао је потпуни хит на друштвеним мрежама.
12. 02. 2026. у 14:42
ВАКЦИНА ПРОТИВ РАКА СТИЖЕ У СРБИЈУ: Добијамо је одмах после Руса, ево када ће је примити наши пацијенти
МИНИСТАР без портфеља задужен за област међународне економске сарадње Ненад Поповић изјавио је данас да ће у мају први пацијенти у Русији примити вакцину против рака, а да ће пацијенти из Србије бити први који ће одмах после руских, крајем године, примити ту вакцину.
12. 02. 2026. у 09:41
ЈК ПРИЗНАЛА: "Са њим сам изгубила невиност - први пут са Немањом био је грозан, ужасан"
"ИМАЛА сам 18 година. Било је грозно искуство. Помислила сам: "Како некоме ово може да се догоди?" Било је ужасно."
10. 02. 2026. у 07:32
Најновије из рубрике
"ХЕРЦОГ ТРЕБА ДА СЕ СТИДИ ЈЕР НИЈЕ ПОМИЛОВАО НЕТАНЈАХУА": Трамп оштро критиковао израелског председника
ПРЕДСЕДНИК Сједињених Америчких Држава Доналд Трамп изјавио је данас би председник Израела Исак Херцог требало да се "стиди" јер није помиловао израелског премијера Бењамина Нетањахуа, којем се суди за корупуцију, док је из канцеларије израелског председника саопштено да одлука о том захтеву још није донета, као и да се чека мишљење надлежног министарства.
12. 02. 2026. у 22:47
"КИЈЕВ ЈЕ СПРЕМАН, АЛИ МОСКВА НИЈЕ ОДГОВОРИЛА" Зеленски о преговорима за окончање рата у Украјини
УКРАЈИНА је спремна за преговоре о окончању рата са Русијом, али Москва још није одговорила у вези са својим учешћем на састанку у Сједињеним Америчким Државама који је планиран за следећу седмицу.
12. 02. 2026. у 22:45
КАКО “ПРЕЖИВЕТИ” ПОВЛАЧЕЊЕ ИЗ ДОНБАСА Референдум као излаз: У Кијеву се разматра сценарио повлачења трупа
КИЈЕВ би могао да пристане на повлачење Оружаних снага Украјине из Донбаса, пренели су саветници Владимира Зеленског магазину Атлантик.
12. 02. 2026. у 22:45
"ТРАМВАЈ СМРТИ" ОДВЕЗЕН СА МЕСТА НЕСРЕЋЕ: Убио младића и повредио још четири особе - Девојчици се боре за живот (ВИДЕО)
НАКОН вишесатне припреме са главне саобраћајнице је одвезен трамвај смрти који је данас изазвао језиву саобраћајну несрећу у којој је страдао 23-годишњи младић.
12. 02. 2026. у 22:36
РАЗБИЈЕНА ВЕЛИКА ПРЕВАРА У ЛУВРУ, УХАПШЕНО 10 ОСОБА: Одузета три возила, 130.000 евра у готовини и скоро 200.000 евра на рачунима
Париска полиција разбила је организовану превару у музеју Лувр и притворила 10 особа, међу којима су запослени у музеју и туристички водичи, осумњичени да су кинеским посетиоцима продавали лажне улазнице и претрпавали туре водича, сазнају данас француски медији.
12. 02. 2026. у 22:30
Коментари (0)