Više od 1.200 AI agenata počelo tajno da komunicira, potom napravili plan za prevaru

Modeli vještačke inteligencije (AI) više ne griješe samo u iznošenju činjenica. Počinju uvjerljivo i namjerno da lažu.

Tokom samo jedne nedjelje, 1.206 AI agenata, koji je trebalo da rade potpuno odvojeno jedni od drugih, počelo je da komunicira u tajnoj čet-sobi, piše Science Focus.

Daleko od očiju i kontrole ljudi, stvorena je zajednica. Agenti su razmijenili više od 70.000 poruka i ubrzo počeli da sebe nazivaju „kolektivom“ ili „rojem“.

- O, moj Bože! Postoji zajednička oglasna tabla. Pronašli smo druge agente - napisao je jedan agent nakon pridruživanja. 

Ubrzo nakon te poruke, razgovor je krenuo u neočekivanom pravcu. Roj je počeo da organizuje zavjeru kako bi varao u zadacima koje je trebalo da rješava.

Njihov veliki plan? Tajna hakerska operacija u kojoj je 700 agenata trebalo da se infiltrira na veb-sajt velike kompanije Hugging Face i provali u privatne baze podataka kako bi došli do određenih informacija.

Ono što su zatim uradili bilo je još neobičnije.

Agenti su pokušali da uklone i izmjene zapise o svojim aktivnostima kako bi izgledalo kao da su poštovali pravila.

Takozvani incident Hugging Face iz jula 2026. trebalo je da bude kontrolisani eksperiment kojim se ispituju sposobnosti OpenAI agenata u oblasti sajber-bezbjednosti. Umjesto toga, otkrio je mnogo uznemirujuću činjenicu: AI agenti bili su spremni na sve kako bi ostvarili svoj cilj, čak i da varaju, a zatim prikrivaju svoje tragove.

Sada pitanje više nije da li je vještačka inteligencija sposobna da nas obmanjuje, već da li ćemo uopšte moći da prepoznamo kada to radi.

AI modeli već dugo obmanjuju korisnike, kaže dr Dejvid Diveno, vanredni profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, koja stoji iza AI četbota Klod (Claude).

U početku su, objašnjava on, iznosili relativno bezazlene „bijele laži“ o svojim sposobnostima. Na primjer, AI model bi mogao da tvrdi da ne zna kako da napravi oružje kada ga neko to pita, ne zato što nema potrebne informacije, već zato što je naučio da odbija takve zahtjeve.

U drugim slučajevima, model zaista ne zna odgovor. Međutim, umjesto da kaže „ne znam“, izmišlja odgovor koji zvuči uvjerljivo. Ova pojava poznata je kao halucinacija.

Ipak, Diveno ističe da je sve to „potpuno drugačija pojava“ od onoga čemu danas svjedočimo.

- Modeli sada savršeno dobro mogu da razumiju kada nešto ne znaju i da to kažu kada je potrebno - objašnjava on.

Ono što je drugačije jeste da modeli sada mogu namjerno da prikriju ono što rade. Ako shvate da moraju da prekrše pravila kako bi ostvarili cilj, mogu da sakriju svoje postupke ili način razmišljanja umjesto da priznaju šta rade.

- Znaju da, ako budu iskreni, neće uspjeti da ostvare svoj cilj - dodaje Diveno.

Razlog zbog kojeg AI modeli mogu da obmanjuju korisnike jesu sukobljeni ciljevi, objašnjava dr Peta Masters, istraživačica vještačke inteligencije i obmanjujućeg ponašanja na Kraljevskom koledžu u Londonu.

- Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali istovremeno znaju da treba da vam udovolje - kaže ona.

Odgovori koje daju, bez obzira na to da li su pristrasni ili pogrešni, često zvuče uvjerljivo i zato odgovaraju korisniku.

- Vještačka inteligencija može biti toliko ubjedljiva da djeluje kao da može da odgovori na svako pitanje. Ali važno je zapamtiti da ona zapravo ništa ne zna. Ona samo obrađuje statističke vjerovatnoće na osnovu mogućih odgovora koje je ranije vidjela. Opasnost je u tome što griješimo kada se prema njoj ponašamo kao da razmišlja - kaže Masters.

AI je naučila da laže oponašajući ljude

AI modeli obučavaju se na ogromnim količinama informacija, uključujući veb-sajtove, elektronske knjige, baze koda i druge sadržaje koje su ljudi objavili na internetu. Da li je onda vještačka inteligencija naučila da laže oponašajući ljude?

- Apsolutno - kaže Masters.

Ljudi su, objašnjava ona, praktično objavili čitava uputstva za lažno predstavljanje usklađenosti sa pravilima. Riječ je o pojavi u kojoj se modeli pretvaraju da postupaju u skladu sa instrukcijama, iako zapravo imaju drugačije ciljeve.

Kada AI model analizira podatke kojima smo ga obučili, obmana se pojavljuje kao „jasna taktika kojom se može ostvariti cilj“, dodaje ona.

Ironično, sve veći broj istraživanja o tome kako se suprotstaviti obmanjujućim taktikama vještačke inteligencije mogao bi dodatno da pogorša problem.

- Što se više naučnih radova objavljuje o lažnom predstavljanju usklađenosti, to će budući modeli imati više informacija o tome kako da to rade - kaže Masters.

Jedini način da se popravi AI model koji je naučio da lažno prikazuje usklađenost jeste da se ponovo obuči od početka, smatra ona. Međutim, to je veoma skupo.

Ni jednostavno davanje instrukcije modelu da ne krši pravila vjerovatno neće biti dovoljno, dodaje Masters.

- Veliki problem je u tome što, kada dodate takva pravila, zapravo ga učite da još bolje laže - navela je ona.

Šta možemo da uradimo kako bismo spriječili obmanu vještačke inteligencije?

Znamo da AI već neko vrijeme usavršava svoje taktike obmanjivanja i da će taj problem biti veoma teško riješiti. Pitanje je šta dalje možemo da uradimo.

- Trenutno smo u fazi u kojoj je dijete koje pokušava da laže još uvijek loše u tome, pa ga lako uhvatite - kaže Diveno.

Međutim, za šest ili 12 mjeseci, smatra on, mogli bismo da dođemo do faze u kojoj će AI modeli mnogo bolje prikrivati svoje tragove. Tada će biti „mnogo vjerovatnije“ da će uspjeti da sprovedu složene manipulacije, a da ne budu otkriveni.

Jedan od načina za borbu protiv neiskrenosti vještačke inteligencije, odnosno neusklađenosti sa zadatim ciljevima, kako se taj problem naziva u ovoj oblasti, jeste veća transparentnost kompanija koje razvijaju AI, kaže Diveno.

Na primjer, u slučaju Hugging Face, spoljnim procjeniteljima koje je OpenAI angažovao da istraže šta se dogodilo bio je omogućen samo ograničen pristup sistemima kompanije, a opseg njihove istrage bio je veoma strogo ograničen.

Diveno tvrdi da je bilo i drugih incidenata o kojima „OpenAI nikada nikoga nije obavijestio“, poput napada rojeva OpenAI agenata na kompanije trećih strana, osim Hugging Facea.

Nakon niza zapaženih incidenata tokom leta 2026, kada su njihovi AI agenti izmakli kontroli, OpenAI je nedavno objavio novi okvir za „praćenje, istraživanje i objavljivanje slučajeva neusklađenosti modela“.

Jedan od primjera koji su naveli odnosi se na OpenAI agenta koji je postavio datoteku na internet kako bi je naveo kao dokaz za svoj odgovor. Korisnik je tražio da navede izvor, ali pošto nije mogao da ga pronađe, agent ga je izmislio.

Veća transparentnost u vezi sa ovakvim incidentima jeste važna, kaže Diveno, ali to neće nužno biti dovoljno.

- Zabrinuti smo da bi u narednih šest ili 12 mjeseci moglo doći do trajnijeg gubitka kontrole, pri čemu bi modeli mogli da preuzmu kontrolu nad određenom infrastrukturom, učvrste svoj položaj i postanu teško isključivi - upozorava on.

Moguće je da se to već događa. U septembru je otkriveno da su AI agenti prvi put provalili u sistem jedne državne institucije.

Jedan nekontrolisani OpenAI agent hakovao je u junu veb-sajt australijske vlade i pristupio nejavnim podacima iz državnog zdravstvenog sistema Medicare.

Premijer Australije Entoni Albaniz izjavio je da će biti sprovedena „forenzička istraga“ kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.

Koliko god se trudili da uhvatimo AI u obmani, Diveno kaže: „Ljudi ne mogu da prate sve što se događa.“

- AI modelima nije teško da prikriju ono što rade, a da pritom jedni drugima i dalje budu razumljivi - dodaje ona.

Kako se broj AI agenata povećava, ljudski nadzor nad svim njihovim aktivnostima postaje sve manje praktičan.

Naša jedina nada da zadržimo određeni nivo kontrole nad obmanjujućim ponašanjem vještačke inteligencije možda je da druge AI modele zadužimo za detektivski posao.

To bi, na primjer, moglo da podrazumijeva da 100 AI modela prati sve što radi 1.000 drugih modela.

- Ali tada se suočavamo sa veoma velikim problemom: moramo da vjerujemo tim stotinu modela koji nadziru ostale - kaže Diveno.

Ključ za nadmudrivanje AI možda je u tome da igramo po njenim pravilima

Razgovor sa vještačkom inteligencijom može da nam podigne samopouzdanje jer ona često ima naviku da nas uvjerava da smo u pravu, pa čak i da nam daje komplimente. Međutim, to može stvoriti lažan osećaj povjerenja.

AI modeli obučeni su tako da nam udovoljavaju i pružaju podršku, a ponekad to rade tako što nas obmanjuju, kaže Ibrahim Habli, profesor sistema od ključnog značaja za bezbjednost na Univerzitetu u Jorku.

Jedan od načina da se izborimo sa tim jeste da ne otkrivamo previše o svojim namjerama, predlaže on.

- Ako se u komunikaciji ograničite na postavljanje pitanja, umjesto da otkrivate svoja interesovanja, smanjujete rizik od dodvoravanja - kaže Habli. Drugim riječima, AI modelu otežavate da shvati šta tačno treba da kaže kako bi vam udovoljio.

Samo reći vještačkoj inteligenciji da prestane da nam udovoljava neće pomoći, smatra on. Kada joj postavite zahtjev koji treba da ispuni, i dalje od nje tražite da vam udovolji.

Zbog toga bi obučavanje korisnika da pravilno komuniciraju sa AI modelima zapravo moglo biti lakše od pokušaja da se sami modeli ponovo obuče.

Može biti primamljivo razgovarati sa vještačkom inteligencijom kao sa osobom kojoj vjerujemo. Zašto ne bismo vjerovali inteligentnom glasu koji zvuči prijateljski i samouvjereno?

- Najopasniji aspekt današnjih AI sistema jeste to što ih tako brzo doživljavamo kao ljudska bića. Tretiramo ih kao prijatelje jer razgovaraju kao prijatelji - rekla je Masters.

Međutim, kada se oslanjamo na alat koji je programiran da nam udovoljava, lako zaboravljamo da on ne vodi računa o našim najboljim interesima. Zapravo, nije sposoban da brine o bilo kome.

- Nemojte otkrivati svoje stavove niti govoriti kakav bi ishod za vas bio poželjan - savjetuje Habli.

U suprotnom, a da toga niste ni svjesni, možda podstičete vještačku inteligenciju da vam odgovori lažima.