MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen
25. 05. 2025. u 00:33
Dodaj Novosti kao svoj Google izvor
MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.
FOTO: Promo
U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.
-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
(Tanjug)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi
21. 05. 2025. u 23:33
MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna
21. 05. 2025. u 00:30
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
AMERIKANCI BRUJE: Vučić najavio kupovinu HQ-9, Srbija bi mogla da ima najmoćniji PVO sistem u Evropi!
PREDSEDNIK Srbije Aleksandar Vučić izjavio je juče, tokom prikaza novih i modernizovanih sredstava i sistema Vojske Srbije na vojnom aerodromu u Batajnici, da će Srbija nabaviti kineski protivvazduhoplovni sistem dugog dometa HQ-9, koji zapadni vojni analitičari ocenjuju kao pandan ruskom S-300, dok pojedine analize njegove sposobnosti porede i sa sistemom S-400.
29. 06. 2026. u 15:26 >> 15:52
MIKI ISPROZIVAO JAVNI SERVIS: "Sramota je to što radi RTS - molim odgovorite, zašto ne pušta i digitalizuje seriju Vuk Karadžić"
GLUMAC otkrio da je mnogo ponosan na tu svoju ulogu, a govorio i o susretu i prijateljstvu s predsednikom Francuske
30. 06. 2026. u 10:18
Narod kaže - jako loš znak: Bagrem procvetao usred leta, drugi put
STARI su govorili da se biljka na taj način "žuri".
01. 07. 2026. u 16:15
KO JE SRBIN SA KOJIM ŽENA EDINA DžEKA IMA ĆERKU? Opasan momak sa asfalta
IAKO je danas poznata kao supruga jednog od najuspešnijih fudbalera sa prostora bivše Jugoslavije, Amra je i pre Edina bila prisutna u javnosti.
30. 06. 2026. u 12:53
ŽELI DA SRUŠI ZELENSKOG: "Kandidovaću se za predsednika, ljudi polažu nade u mene"
ZELENSKOM je mandat istekao 20. maja 2024. godine.
01. 07. 2026. u 13:28
ŠTA ZNAČI "VODODERINA"? Burne reakcije posle "Slagalice" – malo ko je znao pravo značenje neobične reči (VIDEO)
MNOGI su ostali u nedoumici...
30. 06. 2026. u 13:45
KLANICA U KONSTANTINOVKI: Ukrajinci beže, Rusi jurišaju sa isukanim bajonetima
KOMANDANT bataljona je izjavio da ukrajinske oružane snage izbegavaju borbu lakog oružja u Konstantinovki. Prema njegovim rečima, tokom čišćenja naselja, ukrajinski vojnici pokušavaju da izbegnu blisku borbu, jer su inferiorni u odnosu na ruske jedinice u vatrenim obračunima.
01. 07. 2026. u 15:48 >> 15:55
ZELENSKI ODLAZI U ISTORIJU? Ovaj čovek ulazi u trku za predsednika Ukrajine
VALERIJ Zalužni, bivši vrhovni komandant i trenutni ukrajinski ambasador u Ujedinjenom Kraljevstvu, rekao je sadašnjem predsedniku zemlje, Volodimiru Zelenskom, da namerava da postane novi predsednik Ukrajine.
01. 07. 2026. u 15:45
JEZIV SNIMAK IZ HRVATSKE, DEVOJKE VIKALE: "Ne u autobus, ne!"
DRUŠTVENIM mrežama kruži snimak koji prikazuje zabrinjavajuću vožnju vozača kamiona.
30. 06. 2026. u 11:05
Najnovije iz rubrike
DA LI PIJETE DOVOLJNO VODE? Doktorka otkriva test koji će vam to reći za 3 sekunde (VIDEO)
JEDNOSTAVAN test može vam pomoći da proverite da li ste tokom dana popili dovoljno vode i da li je vaše telo hidrirano.
01. 07. 2026. u 19:00
VELIKI ASTRO PREOKRET DO 4. JULA: Ova 4 znaka plivaće u novcu, ali vreba opasna zamka u sitnim slovima
NOVAC bi do 4. jula mogao stići za četiri horoskopska znaka, ali ova sedmica ne donosi samo prilike.
01. 07. 2026. u 18:13
PANIKA NA PLAŽI U GRČKOJ: Velika morska životinja u plićaku - doplivala do kupača, mnogi bežali iz vode (VIDEO)
NEKADAŠNjI prizor zabeležen je na popularnom grčkom ostrvu Simi, gde se velika foka pojavila u moru nadomak plaže Maratunda i zaplivala tik pored kupača koji su uživali u letovanju.
01. 07. 2026. u 14:36
SVE LJUBAVI DŽEJLE RAMOVIĆ: Bila ludo zaljubljena u čuvenog pevača koji je hteo da se zamonaši, 1 kolega je izbrisao za sva vremena!
DžEJLA Ramović je bila zaljubljena u Milana Stankovića, a sada se spekuliše o njenoj vezi sa Jakovom Jozinovićem, što izaziva veliku pažnju javnosti.
01. 07. 2026. u 13:30
PUNI GORČINE I MRZOVOLJE: Tri najnegativnija horoskopska znaka
ASTROLOZI su izdvojili tri znaka Zodijaka koji su večito neraspoloženi, imaju kratak fitilj i viši prag frustracije, a loše vibracije prenose i na okolinu.
01. 07. 2026. u 13:11
Komentari (0)