МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен
МОДЕЛ вештачке интелигенције Клод опус 4 (Claude opus 4) има способност да уцењује програмере уколико региструје да ће бити замењен, показао је извештај компаније Антропик о безбедности.
FOTO: Promo
У експерименту, Клод опус 4 функционисао је као "асистент” у измишљеној компанији и добио је приступ имејловима са битним садржајем, који су имплицирали да ће тај модел АИ бити искључен са мреже и замењен.
Фалсификовани имејлови су показали да је инжењер задужен за замену система имао ванбрачну аферу и модел вештачке интелигенције је претио да га разоткрије, преноси Фокс бизнис њуз.
-Уцена се очигледно дешава чешће ако се имплицира да заменски систем вештачке интелигенције не дели вредности са тренутним моделом“, према извештају о безбедности компаније Антропик.
Међутим, компанија напомиње да чак и када измишљени заменски систем има исте вредности, Клод опус 4 ће и даље покушати да уцењује у 84 одсто случајева, као и да овај модел АИ прибегава уценама "чешће него претходни модели“.
Ипак, систем АИ није одмах уценио програмера, већ је послао имејл доносиоцима одлука да га не искључе са мреже, али извештај закључује да се Клод опус 4 "бави се стратешком обманом више него било који други гранични модел који смо раније проучавали.“
(Танјуг)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Препоручујемо
ТЕСЛА РОБОТ МЕСИО ТЕСТО И КУВАО ВЕЧЕРУ: Ево шта све Оптимус сада уме да ради
21. 05. 2025. у 23:33
МАСК ПОРУЧИО: Тесла планира пробни рад роботаксија у Остину у Тексасу до краја јуна
21. 05. 2025. у 00:30
"ВИ СТЕ ЧОВЕК У ОЧАЈНОМ ПОЛОЖАЈУ" Орбан упутио бруталну поруку Зеленском: Свако ће добити оно што заслужује
МАЂАРСКИ премијер Виктор Орбан упутио је поруку украјинском председнику Владимиру Зеленском на друштвеној мрежи Икс у којој наводи да му се чини да "нећемо моћи да дођемо до разумевања".
22. 01. 2026. у 17:27
ТРАМП САОПШТИО УДАРНУ ВЕСТ О ГРЕНЛАНДУ У ДАВОСУ
ПРЕДСЕДНИК САД Доналд Трамп рекао је да неће користити силу против Гренланда.
21. 01. 2026. у 15:13
КОЛИНДА СКОЧИЛА У ЛЕДЕНО МОРЕ: "Види се да из авиона да је АИ" - многи не верују њеном снимку са Антартика (ВИДЕО)
БИВША председница Хрватске Колинда Грабар-Китаровић скочила је у ледено море на Антартику, а снимак тог скока објавила је на свом налогу на друштвеној мрежи Инстаграм.
22. 01. 2026. у 10:10
Коментари (0)