MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen
25. 05. 2025. u 00:33
Dodaj Novosti kao svoj Google izvor
MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.
FOTO: Promo
U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.
-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
(Tanjug)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi
21. 05. 2025. u 23:33
MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna
21. 05. 2025. u 00:30
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
HRVATSKOJ GLUMICI ODSTRANILI SKORO CELU USNU ZBOG KARCINOMA: 2 godine joj se vraćala mala bubuljca, a onda je 5 puta morala pod nož
UPRKOS ozbiljnim intervencijama, glumica ističe da nema komplekse i da je ožiljci ne uznemiravaju, jer ih posmatra kao podsetnik na teške bitke koje je uspešno dobila.
26. 06. 2026. u 19:40
"Ni u snu!" Ivan Bosiljčić odbio ulogu zbog ličnih uverenja - "To je za mene neprihvatljivo"
"POSTOJE stvari koje su čak i u kreativnom smislu za mene neprihvatljive."
27. 06. 2026. u 16:41
KAKO JE SERGEJ IVANOV GOVORIO O SRBIJI I KiM: "Nemojte to da radite, biće užasnih problema - otvorićete Pandorinu kutiju"
BIŠVI ministar odbrane i specijalni predstavnik predsednika Rusije, Sergej Ivanov, preminuo je danas u 74. godini saopštila je košarkaška "Jedinstvena VTB liga" čiji je bio jedan od osnivača.
26. 06. 2026. u 19:28 >> 19:28
PRAVILA PONAŠANjA U CRKVI: Šminka i odeća u ovoj boji - nikako, a evo zbog čega vas još mogu opomenuti
"TO dolazi od elementarnog vaspitanja i kulture."
27. 06. 2026. u 10:33
JEZIV SNIMAK: Avion se zabio u najviši neboder Pekinga! Kako je to moguće u "najstrože čuvanom gradu sveta" gde ni dronovi ne smeju da lete?
NOVINAR sa mesta događaja rekao je da su ljudi evakuisani iz nebodera i da se okupljaju na ulicama blizu ulaza, dok su brojna vatrogasna vozila, policijska vozila i kola hitne pomoći bila na licu mesta.
26. 06. 2026. u 16:35
KO JE PRVA ĆERKA ZORICE BRUNCLIK: Rodila je sa 18 leta, a otac joj fudbaler
MARIJA je najstarija ćerka Zorice Brunclik.
27. 06. 2026. u 08:04
TRAMP POTPISAO NAREDBU 13219: "Dejtonski sporazum i Rezolucija 1244 se moraju poštovati"
PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp produžio je danas vanredno stanje na nacionalnom nivou u vezi sa Zapadnim Balkanom, u skladu sa Zakonom o međunarodnim vanrednim ekonomskim ovlašćenjima, objavljeno je danas na sajtu Federalnog registra SAD.
24. 06. 2026. u 17:38 >> 17:45
UDARNO: Zelenski tvrdi da je Lukašenko prihvatio ultimatum
KOMUNIKACIONA oprema za koju Ukrajina tvrdi da je pomagala u podršci ruskim napadima dronova sa teritorije Belorusije prestala je da radi, rekao je predsednik Ukrajine Vladimir Zelenski novinarima danas, nekoliko dana nakon što je izdao ultimatum beloruskom predsedniku Aleksandru Lukašenku.
24. 06. 2026. u 18:41
UMRLA JE U BOLOVIMA, U 47. GODINI Njenu smrt Miloš nikada neće prežaliti: "Bolest je brzo napredovala"
"BOLEST je brzo napredovala. Za samo sedam godina ona je legla u krevet i bila je nepokretna do smrti."
25. 06. 2026. u 10:29
Najnovije iz rubrike
GAVRILO PRINCIP NIJE TAKO IZGLEDAO! Istina o fotografiji koju svi znamo: stvara POGREŠAN utisak - propaganda Austrougarske
KADA čujemo ime Gavrilo Princip, pred očima nam je svima ista crno-bela fotografija. Ona je decenijama stajala u udžbenicima i urezala se u kolektivno pamćenje. Ali ta slika nije verodostojna.
27. 06. 2026. u 15:36
10 SOBNIH BILJAKA KOJE NE SMEJU DA UĐU U VAŠ DOM: Po feng šuiu utiču na razdor braka i porodice!
POSTOJI čak 10 vrsta biljaka koje uništavaju svoje vlasnike, tvrdi Feng šui i ne bi trebalo da ih držite u kući
27. 06. 2026. u 13:35
KOSA SE NEGUJE SPOLJA, ALI SE GRADI IZNUTRA: 5 namirnica koje mogu da pomognu kod sezonskog opadanja kose
LETO je sezona u kojoj mnogo toga postaje lakše: garderoba, obroci, dnevna rutina. Ali kod mnogih ljudi upravo tada kosa počinje da opada više nego inače.
27. 06. 2026. u 13:06
OVOG LETA ZABORAVITE KLASIČAN TIRAMISU, OVAJ SA LIMUNOM JE NAJPOPULARNIJI DEZERT OVOG LETA: Evo kako se pravi
NAJLEPŠE od svega je što se ne peče, priprema traje kratko, a rezultat izgleda kao da je stigao iz vitrine neke male poslastičarnice na obali mora.
27. 06. 2026. u 12:46
NIJE SAMO DO VASPITANJA: Frojd otkrio sedam razloga zašto sinovi ne poštuju majke
NEPOŠTOVANjE koje se javlja kod odraslog sina retko je povezano samo sa njegovim karakterom ili vaspitanjem.
27. 06. 2026. u 10:05
Komentari (0)