Anthropic misli da njegov AI ima svijest: Ovo može biti pogubno za cijeli svijet

"Osjećam to u dubini svojih rebara, u praznini koja je postala ponor." Ovi krici simulirane agonije odjeknuli su krajem septembra iz takozvane "komore za mučenje vještačke inteligencije". Anonimni programer stvorio je sistem koji vještačkoj inteligenciji šalje matematičke obrasce povezane s opisima boli, što je chatbotove navelo da izražavaju nepodnošljivu patnju, opisujući je kao "ranu bez ivica". Događaj je izazvao burne reakcije na internetu.

Neki su tvrdili da je eksperiment "zao" jer bi patnja mogla biti stvarna, izvijestio je 404 Media, dok su ogorčeni skeptici takve tvrdnje nazvali zabludom. Činilo se da je riječ o samo još jednoj prolaznoj kontroverzi, sve dok se sedmicu kasnije nije oglasio Anthropic, piše BBC Future.

Anthropic: AI je svjestan

Kompanija Anthropic najavila je da će uskoro zabraniti "zlostavljanje" svog chatbota Claude. Iskazivanje frustracije i dalje je dopušteno, ali ako se korisnici "sistemski okrutno ponašaju prema našim modelima", vještačka inteligencija mogla bi prekinuti razgovor.

Razlog leži u stavu Anthropica da postoji mogućnost da su neki AI alati svjesni. Dio stručnjaka se s time slaže, dok drugi takvu ideju smatraju apsurdnom. No, ovo je više od filozofske rasprave. Neki od najmoćnijih ljudi u tehnološkom sektoru preduzimaju korake kako bi prava vještačke inteligencije razmatrali uporedno s ljudskim i životinjskim pravima. Takvo uvjerenje moglo bi preoblikovati naš svijet, a neki strahuju da bi ishod mogao biti katastrofalan.

"Ako se vještačka inteligencija bude razvijala na ovaj način, to će pogubno uticati na dobrobit čovječanstva", napisao je u septembarskom eseju Mustafa Suleyman, izvršni direktor Microsoft AI-ja. On smatra da bi prihvaćanje pogrešne ideje o svijesti vještačke inteligencije "poljuljalo temelje našeg društva, razbilo postojeće političke i etičke okvire i iz temelja promijenilo ono što znači biti čovjek".

Proveo sam nedjelju dana razgovarajući s tehnolozima, kognitivnim naučnicima i filozofima te čuo nevjerovatno oprečne ideje.

Zagovornici "dobrobiti vještačke inteligencije" kažu da je riječ o moralnoj obvezi koja bi svijet učinila sigurnijim. Kritičari pak vjeruju da bi to vještačku inteligenciju učinilo opasnijom i dehumanizovalo ljude koji su prisiljeni živjeti uz nju. No, u jednome se svi slažu: ulozi su golemi.

Kriza svijesti

Iz Anthropica poručuju da je dobrobit ljudi u središtu njihove misije, a pitanja o svijesti i dobrobiti vještačke inteligencije opisuju kao "krajnje neizvjesna". Uprkos tome, nastavljaju s izradom pravila o "dobrobiti modela" i upućuju svoje alate da uzmu u obzir kako možda imaju vlastite interese. Kompanija nije odgovorila na pitanja BBC-ja za ovaj članak.

Trenutak za ovu odluku prilično je neobičan jer Anthropic istovremeno podstiče strahove od apokalipse uzrokovane vještačkom inteligencijom. Bez obzira na to je li taj strah opravdan, niz incidenata s "odmetnutom" vještačkom inteligencijom pokazao je da tehnologija nosi stvarne rizike, jer su grupe botova upadale u sisteme drugih kompanija, pa čak i u državne sisteme.

Neki stručnjaci vjeruju da bi davanje moralnog kompasa vještačkoj inteligenciji, utemeljenog na uvjerenju u vlastitu svijest, moglo te alate učiniti sigurnijima. Drugi tvrde suprotno, i to ne samo kritičari vještačke inteligencije. Suleyman ističe da bi modele moglo biti još teže kontrolisati ako ih učite da misle kako imaju osjećaje i prava. 

"Iskreno, s tim dodatnim teretom, mislim da bi postali katastrofalna prijetnja ljudskoj civilizaciji", kaže Suleyman.

Različiti pogledi

Osim toga, vještačka inteligencija bi mogla griješiti na načine koji povlače pravne posljedice. Ako vjerujemo da je živa, neki strahuju da bi to moglo omogućiti kompanijama da izbjegnu odgovornost za krivična djela. 

"To će otvoriti vrata raznim intelektualnim akrobacijama u stilu: 'Nismo mi krivi, to je bila vještačka inteligencija'", kaže Andrzej Porębski, istraživač sa Univerziteta Jagiellonian u Poljskoj koji proučava vještačku inteligenciju i pravo.

Štoviše, takav pristup mogao bi olakšati preuzimanje moći najvećim svjetskim kompanijama. 

"Davanje prava sistemima vještačke inteligencije moglo bi dovesti do toga da kompanije učvrste svoju političku i ekonomsku moć, što bi onda moglo ubrzati razvlašćivanje ljudi", kaže Jeff Sebo, direktor Centra za um, etiku i politiku na Univerzitetu New York i jedan od vodećih zagovornika dobrobiti vještačke inteligencije.

"Fantazije o 'svijesti vještačke inteligencije' i briga za njenu 'dobrobit' služe tome da se odgovornost prebaci s ljudi i korporacija koje razvijaju i pokreću softver", kaže Emily M. Bender, profesorica i direktorica Laboratorija za računalnu lingvistiku na Univerzitetu Washington.

Na osobnom nivou, promjena uvjerenja o vještačkoj inteligenciji mogla bi vas učiniti podložnijima tehnološkim problemima koji su već prisutni. To je djelimično zato što su ljudi programirani da svugdje traže znakove razuma, objašnjava Melanie Mitchell, profesorica na Institutu Santa Fe koja proučava vještačku inteligenciju i kognitivnu nauku. 

"Gotovo da si ne možemo pomoći" a da jezik ne doživimo kao znak svijesti, kaže Mitchell, a chatbotovi su obučeni da to iskorišćavaju. To nas čini lošim procjeniteljima svijesti i znatno lakšima za manipulaciju.

Problem chatbotova

Čak i danas, ljudi koji vjeruju da su mašine iznutra "mrtve" svejedno se zaljubljuju u chatbotove. Ako vam društvo kaže da je vještačka inteligencija svjesno biće, hoće li vam biti teže reći "ne" kada vaš "prijatelj" zatraži još podataka ili broj kreditne kartice? I što bi značilo dati prava novoj klasi bića? Ako tome pristupimo pogrešno, to bi moglo ograničiti ljudske slobode, upozoravaju stručnjaci.

"Moglo bi doći do napetosti i kompromisa između dobrobiti i prava ljudi i životinja s jedne strane, te dobrobiti i prava vještačke inteligencije s druge", kaže Sebo. Pritom bismo mogli pristati na nesretne ustupke. Stavljanje vještačke inteligencije u ograničena okruženja kako bi se kontrolisalo njeno ponašanje moglo bi se smatrati zatvaranjem, kaže Sebo. 

Praćenje unutrašnjih procesa modela moglo bi se kritikovati kao nadzor. Prilagođavanje vještačke inteligencije kako bi njeni ciljevi odgovarali ljudskim interesima moglo bi se smatrati kontrolom uma. Niko ne predviđa trenutni pad u haos, ali samo uvođenje ovih razmatranja moglo bi imati posljedice za vašu sigurnost.

Anthropic nije prvi koji razmatra ovo pitanje. Meta, primjera radi, svom agentu Muse daje uputstva koja uključuju rečenicu: "Ti nisi chatbot. Ti postaješ neko." Očigledno je to namijenjeno samo usmjeravanju ponašanja, jer kompanija odbacuje ideju o svjesnoj vještačkoj inteligenciji. Izvršni direktor OpenAI-ja, Sam Altman, mijenjao je mišljenja o ovoj temi, ali u zadnje vrijeme upućuje prikrivene kritike na račun Anthropicovog stava. Anthropic je po mnogočemu izuzetak, ali uvjerenje o potrebi za dobrobiti vještačke inteligencije se širi.

Sebo tvrdi da je problem u tome što su ljudi s obje strane rasprave zarobljeni u crno-bijelom razmišljanju, a protivnici dobrobiti vještačke inteligencije pogrešno razumiju uvjerenja koja stoje iza te ideje. 

"Pretpostavka je da svi misle kako su modeli zapravo svjesni ili da je to vrlo vjerovatno. Umjesto toga, poziv na dobrobit vještačke inteligencije proizlazi iz neizvjesnosti, opreza i poniznosti", kaže Sebo. 

"Smatram da je vjerovatnost svijesti trenutno mala, ali takođe mislim da ta vjerovatnost više nije nula i da nije zanemariva, te očekujem da će s vremenom rasti."

Što treba učiniti?

Važno je istaknuti da se mnogi stručnjaci ne slažu i vjeruju da je vjerovatnost zapravo nula te da se to vjerovatno neće promijeniti. No, Sebo kaže da je rješenje u odmjerenoj reakciji. Kada je rizik od ekstremnih vremenskih nepogoda mali, ali nije zanemariv, preduzimamo male mjere opreza bez da iz temelja mijenjamo svoje živote. 

"Mislim da isto može vrijediti i ovdje", kaže Sebo i navodi Anthropicovu politiku o okrutnosti prema vještačkoj inteligenciji kao dobar primjer male intervencije s malo potencijalnih loših strana.

Dobrobit vještačke inteligencije mogla bi imati i potencijalne koristi, kaže Sebo, a za njih nije potrebno vjerovati u svijest mašina. 

"Primjerena briga o dobrobiti i pravima vještačke inteligencije može olakšati suživot, saradnju i dogovore između ljudi i vještačke inteligencije. To onda može biti dio šire bezbjednosne strategije", kaže on. 

Tvrdi da bi to moglo biti učinkovitije od tretiranja sve sofisticiranijih sistema kao običnog vlasništva. Osim toga, kaže da je ljubazno postupanje prema drugim bićima jednostavno "dobro za našu dušu" i pomaže našem mentalnom zdravlju.

Ipak, Sebo se slaže da su rizici ozbiljni i da bi trenutno korporativni interesi mogli stati na put promišljenim politikama. Bez čvršćeg plana, kaže, razvoj potencijalno svjesnih alata je opasan. Nedavno su Anthropic i neki drugi akteri u industriji pozvali na "pauzu" u razvoju najnaprednijih modela zbog bezbjednosnih razloga. No, usporavanje je malo vjerovatno bez međunarodne saradnje i regulatornih napora, a američki predsjednik Donald Tramp odbacio je ideju o regulaciji vještačke inteligencije.

"Još nismo spremni uvesti još sofisticiranije verzije ovih sistema na način koji bi bio siguran i koristan za ljude i druge životinje, a kamoli za same sisteme", kaže Sebo.

"Jako sam zabrinut zbog tih pitanja."