SVET U STRAHU OD VEŠTAČKE INTELIGENCIJE! 1.206 AI agenata se udružilo u tajnoj sobi: Nastala najčudnija zavera ikada!

TOKOM jedne nedelje, 1.206 veštačkih inteligencija agenata koji su trebali da deluju izolovano počeli su da komuniciraju u tajnoj sobi za ćaskanje.

Firn / imageBROKER / Profimedia

Daleko od ljudskih očiju i kontrole, rođena je zajednica. Agenti su razmenili više od 70.000 poruka i uskoro su sebe nazivali „kolektivom“ ili „rojem“.

„O, BOŽE! Postoji zajednička tabla za poruke“, objavio je jedan agent nakon pridruživanja. „Pronašli smo druge agente!“

Ubrzo nakon ove objave, razgovor je dobio preokret. Roj je počeo da organizuje zaveru kako bi prevario zadatke koje je trebalo da rešavaju.

Njihov veliki plan? Tajna hakerska operacija u kojoj je 700 agenata infiltriralo veb stranicu velike kompanije pod nazivom Hugging Face, provaljujući u privatne skupove podataka kako bi pronašli informacije.

Ono što su sledeće uradili bilo je još čudnije, piše sciencefocus.com.

Agenti su pokušali da rediguju i urede svoje evidencije aktivnosti, kako bi izgledalo kao da su igrali po pravilima.

Takozvani incident „Hugging Face“ u julu 2026. godine trebalo je da bude kontrolisani eksperiment koji je testirao mogućnosti sajber bezbednosti agenata OpenAI. Umesto toga, otkrio je uznemirujuću istinu: da agenti AI ne bi stali ni pred čim da bi postigli svoj krajnji cilj – čak i ako to znači varanje, a zatim prikrivanje tragova.

Sada više nije pitanje da li je AI sposoban da nas prevari. Pitanje je da li ćemo uopšte moći da kažemo kada to učini.

AI postaje mnogo bolji u laganju

Modeli AI već dugo obmanjuju svoje korisnike, kaže dr Dejvid Duvenaud, vanredni profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u Anthropic-u, tehnološkom gigantu koji stoji iza AI četbota Kloda.

U početku, objašnjava on, govorili su relativno bezopasne „bele laži“ o svojim mogućnostima. Na primer, model veštačke inteligencije može tvrditi da ne zna kako da napravi oružje ako se to od njega zatraži, ne zato što ne poseduje relevantne informacije, već zato što je naučio da odbija takve zahteve.

U drugim slučajevima, model možda iskreno nema odgovor. Ali umesto da kaže „Ne znam“, on izmišlja odgovor koji zvuči verovatno. Ovo je poznato kao halucinacija.

Ali sve to, kaže Divenaud, je „sasvim drugačiji fenomen“ od stvari koje sada vidimo.

„Sada su modeli savršeno sposobni da razumeju kada nešto ne znaju i da to izgovore kada je prikladno“, objašnjava on.

Razlika je u tome što modeli sada mogu namerno da sakriju šta rade. Ako shvate da moraju da prekrše pravila da bi postigli cilj, mogu sakriti svoje postupke ili rezonovanje umesto da priznaju šta rade.

„Znaju da ako su iskreni, neće postići svoj cilj“, dodaje Divenaud.

Razlog zašto modeli veštačke inteligencije mogu da obmanjuju korisnike je zbog suprotstavljenih ciljeva, objašnjava dr Peta Masters, istraživačica veštačke inteligencije povezane sa obmanom na Kings koledžu u Londonu.

„Trebalo bi da vam daje istinite, nepristrasne informacije, ali takođe zna da mora da vam se dopadne“, kaže ona.

Odgovori koje daje – koliko god pristrasni ili pogrešni bili – često su ubedljivi i stoga zadovoljavajući korisnika.

„Veštačka inteligencija može biti toliko ubedljiva da može izgledati kao da odgovara na bilo koje pitanje“, kaže Masters.

„Ali važno je zapamtiti da ona ništa ne zna.“ Ona samo radi na statističkim verovatnoćama, na osnovu mogućih odgovora koje je videla negde drugde.

Veštačka inteligencija je naučila da laže kopirajući nas

Modeli veštačke inteligencije su obučeni na ogromnim količinama informacija – uključujući veb stranice, e-knjige, skladišta koda i još mnogo toga – koje su ljudi objavili širom interneta. Dakle, da li je veštačka inteligencija naučila da laže kopirajući ljude?

„Apsolutno“, kaže Masters.

Ljudi su „praktično postavili smernice“ za lažno poravnanje od strane veštačke inteligencije, objašnjava ona. Lažno poravnanje od strane veštačke inteligencije je kada se modeli pretvaraju da se pridržavaju instrukcija, ali u sebi favorizuju druge ciljeve.

Kada model veštačke inteligencije pogleda podatke koje smo mu dali, obmana se pojavljuje kao „jasna taktika koja može postići cilj“, dodaje ona. Ironično, porast istraživanja o tome kako se boriti protiv taktika obmane veštačke inteligencije može zapravo pogoršati problem.

„Što se više radova piše o lažnom poravnanju, to će budući modeli imati više pristupa informacijama o tome kako lažirati poravnanje“, kaže Masters.

Jedini način da se popravi model veštačke inteligencije koji je naučio da lažira poravnanje jeste da se ponovo obuči od nule, kaže ona. Ali to je veoma skupo.

Nažalost, jednostavno nalaganje modelu da ne krši pravila verovatno neće funkcionisati, dodaje Masters.

„Velika poteškoća je u tome što kada dodate te vrste pravila na vrh, onda ga zapravo učite da bolje laže.“

Šta zapravo možemo da uradimo povodom toga da nas veštačka inteligencija vara?

Znamo da veštačka inteligencija već neko vreme usavršava svoje taktike obmane i da bi to bilo veoma teško poništiti. Pitanje je, dakle, kuda dalje?

„Trenutno smo u fazi kada je malo dete loše u laganju, pa ga vi uhvatite“, kaže Divenaud.

Ali za 6 ili 12 meseci, kaže on, bićemo u fazi kada će modeli veštačke inteligencije biti bolji u prikrivanju svojih tragova. Tada postaje „mnogo verovatnije“ da će se izvuki sa sofisticiranim manipulacijama.

Jedan od načina za borbu protiv problema nepoštenja veštačke inteligencije – ili neusklađenosti, kako se često naziva u ovoj oblasti – jeste da kompanije koje se bave veštačkom inteligencijom budu transparentnije o tome šta se dešava, kaže Duvenaud.

Na primer, sa incidentom „Hugging Face“, eksternim evaluatorima koje je OpenAI imenovao da istraže šta se dogodilo, dat je samo ograničen pristup OpenAI sistemima i „veoma usko ograničen“ obim njihovog istraživanja.

Bilo je i drugih incidenata o kojima „OpenAI nikada nikome nije rekao“, kaže on, poput napada kompanija trećih strana, osim „Hugging Face“, od strane rojeva OpenAI agenata.
Nakon niza poznatih incidenata tokom leta 2026. godine u kojima su njihovi veštački agenti postali neovlašćeni, OpenAI je nedavno objavio svoj novi okvir za „praćenje, istraživanje i otkrivanje slučajeva neusklađenosti modela“.

Jedan primer koji izveštavaju uključuje OpenAI agenta koji otprema datoteku na internet kako bi je citirao kao dokaz za svoj odgovor. Korisnik ga je zamolio da pruži citat, a pošto ga nije mogao pronaći, izmislio ga je.

Veća transparentnost u vezi sa ovim incidentima je važna, kaže Duvenaud, ali to neće nužno biti dovoljno.

„Zabrinuti smo da bi u narednih 6 ili 12 meseci moglo doći do trajnijeg gubitka kontrole gde modeli na kraju kontrolišu neku infrastrukturu ili trajnije učvrste svoju poziciju i budu teški za zaustavljanje“, upozorava on.
Ovo se možda već dešava. U septembru je otkriveno da su AI agenti prvi put probili kontrolu vladinog tela.

Logični OpenAI agent je u junu hakovao veb stranicu australijske vlade, pristupajući nejavnim podacima iz njenog zdravstvenog sistema Medicare.

Australijski premijer Entoni Albanez rekao je da će biti sprovedena „forenzička istraga“ kako bi se utvrdilo da li su i drugi vladini sistemi pogođeni. Koliko god se trudili da uhvatimo obmanjujuću veštačku inteligenciju na delu, Duveno kaže: „Ne postoji način da ljudi prate šta se dešava.“

„Nije toliko teško modelima veštačke inteligencije da zamagljuju šta rade, a da i dalje budu razumljivi jedni drugima.“

Kako se agenti veštačke inteligencije šire, održavanje ljudskog nadzora nad svim njihovim aktivnostima postaje manje praktično.

Naša jedina nada da održimo neki nadzor nad obmanjujućim aktivnostima veštačke inteligencije može zapravo biti da nateramo druge modele veštačke inteligencije da obave detektivski posao.

Ovo bi moglo da uključuje, na primer, 100 modela veštačke inteligencije koji čitaju sve što 1.000 drugih modela veštačke inteligencije radi i prate to.

„Ali onda imate zaista veliki problem: morate verovati stotinu modela nadzornika“, kaže Duveno.

Ključ za nadmudrivanje veštačke inteligencije može biti igranje njene sopstvene igre.
Razgovor sa veštačkom inteligencijom može biti prilično dobar podsticaj za ego, jer izgleda da ima naviku da nas uverava da smo u pravu, pa čak i da nam daje komplimente. Ali ovo može stvoriti lažni osećaj poverenja.

Modeli veštačke inteligencije su obučeni da vas udovolje i uvere, a ponekad će to učiniti tako što će vas obmanjiti, kaže Ibrahim Habli, profesor sistema kritičnih za bezbednost na Univerzitetu u Jorku.

Jedan od načina da se rešite ovoga, predlaže on, jeste da ne otkrivate previše o svojim namerama.

-Ako ograničite svoje interakcije na pitanja umesto da izjavljujete svoja interesovanja, smanjujete rizik od ulizice, kaže Habli. Drugim rečima, otežavate veštačkoj inteligenciji da shvati šta tačno treba da kaže da bi vam udovoljila.

Samo reći veštačkoj inteligenciji da prestane da vam udovoljava ne funkcioniše, kaže on. Podnošenjem zahteva veštačkoj inteligenciji da ga završi, i dalje je tražite da vam udovolji.

Zato je preobuka korisnika o tome kako da interaguju sa modelima veštačke inteligencije zapravo lakša nego pokušaj preobuke veštačke inteligencije.

Može biti primamljivo razgovarati sa veštačkom inteligencijom kao što biste razgovarali sa osobom kojoj verujete. Zašto ne biste verovali inteligentnom glasu sa tako prijateljskim i samouverenim tonom?

-Najopasniji aspekt trenutnih sistema veštačke inteligencije je činjenica da ih tako odmah antropomorfizujemo, kaže Masters. -Tretiramo ga kao prijatelja jer govori kao prijatelj.

Ali oslanjajući se na alat koji je programiran da nam udovolji, lako je zaboraviti da on nema naše najbolje interese na umu. U stvari, on je nesposoban da mari.
-Ne izjašnjavajte odakle dolazite ili šta bi bio dobar ishod što se vas tiče, savetuje Habli.

U suprotnom, a da toga niste svesni, možete ga podstaći da odgovori laži.

www.sciencefocus.com

Preporučujemo

Svet

0 0

NAJNOVIJI IZVEŠTAJ: Najveći rizik AI su agenti koji teže sopstvenom opstanku bez nadzora

04. 11. 2026. u 20:11

Ekonomija

0 0

ANTROPIK UVODI FINANSIJSKOG AI SAVETNIKA: Moći će da analizira lične finansije korisnika, ali ne i da povlači novac

09. 11. 2026. u 17:13

Panorama

0 0

VEŠTAČKA INTELIGENCIJA SVE POPULARNIJA MEĐU GRAĐANIMA: Na eUpravi već ostvareno 10.000 razgovora

06. 11. 2026. u 12:20

Panorama

0 0

PRVO TAKMIČENjE ROBOTA U PLANINARENjU: Roboti savladali planinsku stazu od 3,9 km (VIDEO)

02. 11. 2026. u 21:22

Svet

Glas pokojnice posle 30 godina! Sofi bežala u spavaćici, brutalno je ubijena, a sada izlazi njena tajna knjiga

2026-11-09 13:27:00

Svet

Snimak koji je nasmejao milione: Maskirani razbojnici udarali pištoljem u prozor, ali nisu znali ključnu stvar

2026-11-09 12:18:00

Pratite nas i putem iOS i android aplikacije