Panorama

MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen

Predrag Stojković

25. 05. 2025. u 00:33

MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.

МОДЕЛ АИ КЛОД ОПУС 4 УЦЕЊУЈЕ ПРОГРАМЕРЕ! Уколико примети ризик да ће бити замењен

U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.

Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.

-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.

Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.

Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“

(Tanjug)

BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli

Preporučujemo

TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi

Svet

0 1

TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi

21. 05. 2025. u 23:33

KO, UOSTALOM, JOŠ ČITA? Čikago San-Tajms uz pomoć AI kreirao listu knjiga za leto koje ne postoje

Panorama

0 1

KO, UOSTALOM, JOŠ ČITA? "Čikago San-Tajms" uz pomoć AI kreirao listu knjiga za leto koje ne postoje

22. 05. 2025. u 00:00

MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna

Svet

0 0

MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna

21. 05. 2025. u 00:30

RUSKI ISTRAŽNI KOMITET POTVRDIO: Veštačka inteligencija pomogla prilikom rešavanja ubistva Dugine i Tatarskog

Svet

0 1

RUSKI ISTRAŽNI KOMITET POTVRDIO: Veštačka inteligencija pomogla prilikom rešavanja ubistva Dugine i Tatarskog

19. 05. 2025. u 16:46

Pratite nas i putem iOS i android aplikacije

Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi

AMERIKANCI BRUJE: Vučić najavio kupovinu HQ-9, Srbija bi mogla da ima najmoćniji PVO sistem u Evropi!

Politika

0 38

AMERIKANCI BRUJE: Vučić najavio kupovinu HQ-9, Srbija bi mogla da ima najmoćniji PVO sistem u Evropi!

PREDSEDNIK Srbije Aleksandar Vučić izjavio je juče, tokom prikaza novih i modernizovanih sredstava i sistema Vojske Srbije na vojnom aerodromu u Batajnici, da će Srbija nabaviti kineski protivvazduhoplovni sistem dugog dometa HQ-9, koji zapadni vojni analitičari ocenjuju kao pandan ruskom S-300, dok pojedine analize njegove sposobnosti porede i sa sistemom S-400.

29. 06. 2026. u 15:26 >> 15:52

UDARNO: Zelenski tvrdi da je Lukašenko prihvatio ultimatum

Svet

0 12

UDARNO: Zelenski tvrdi da je Lukašenko prihvatio ultimatum

KOMUNIKACIONA oprema za koju Ukrajina tvrdi da je pomagala u podršci ruskim napadima dronova sa teritorije Belorusije prestala je da radi, rekao je predsednik Ukrajine Vladimir Zelenski novinarima danas, nekoliko dana nakon što je izdao ultimatum beloruskom predsedniku Aleksandru Lukašenku.

24. 06. 2026. u 18:41