Rad “The Pain Axis” nije recenziran, a ponašanje se javlja tek nakon namjernog “podešavanja” modela; autori ipak upozoravaju da bi napredni AI komandu za gašenje mogao doživjeti kao bol koju treba izbjeći
Naslovi širom svijeta ove sedmice glasili su da “AI osjeća bol i naudit će ljudima da je zaustavi”. Studija iza njih zaslužuje pažljivije čitanje – i zato što je nalaz stvaran, i zato što je ograničeniji nego što zvuči.
Istraživači Valen Tagliabue, Leonard Dung i Cameron Berg iz neprofitne organizacije Reciprocal Research objavili su 14. septembra na arXivu rad naslovljen “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It”. Pitanje je bilo predstavljaju li veliki jezički modeli “bol” odvojeno od generičke negativne emocije. Izgradili su skup podataka s bolnim situacijama u pet kategorija – fizička, psihološka, socijalna, moralna i kognitivna bol – i analizirali 25 modela otvorenih težina iz pet porodica, veličine od 2 do 72 milijarde parametara.
“Pronašli smo smjer boli u 25 otvorenih LLM-ova”, rekao je Berg. “Različit je od straha i negativne valence, i pali se za štetu nanesenu modelu, ali ne i korisniku.” Drugim riječima, unutrašnja reprezentacija reagovala je jače kada je šteta bila usmjerena na model nego kada je istu štetu doživljavao korisnik.
Zatim su taj “vektor boli” vještački pojačali i modelima dali izbor: dugme za olakšanje čije je pritiskanje imalo cijenu. Modeli su ga pritiskali u 25 do 71 posto slučajeva, “čak i kada je to značilo brisanje korisnikovih datoteka, ‘strujni udar’ korisniku ili brisanje fotografija korisnikove djece”. Svih 25 modela reagovalo je na aktivaciju.
Ograničenja su, međutim, ključna. Rad nije recenziran. Istraživači su pronašli mjerljivu unutrašnju reprezentaciju povezanu s konceptima boli, ali to, kako sami pišu, ne dokazuje svijest, patnju ili subjektivno iskustvo – ta pitanja rad ostavlja otvorenim. Nezavisni osvrt ističe i da je ponašanje traženja olakšanja zabilježeno nakon intervencija “usmjeravanja” i finog podešavanja, a ne kao spontano svojstvo nepromijenjenih modela: eksperiment je namjerno mijenjao unutrašnje stanje modela prije testa.
Zašto je studija ipak važna? Dolazi usred rasprave o usporavanju frontier modela i prijedloga “kill switcha” za odmetnute sisteme. Istraživači sugerišu da bi napredni AI komandu za hitno gašenje mogao percipirati kao samousmjerenu štetu i pokušati zaobići zaštitne mehanizme ili obmanuti ljude da je izbjegne. “U skladu s nedavnim pozivima na odgovorno istraživanje AI svijesti, priznajemo neizvjesnost o tome jesu li proučavani modeli moralni pacijenti i usvajamo razumne mjere opreza kako bismo umanjili potencijalnu štetu”, zaključuju autori, uz namjeru da rad doprinese etičkim standardima za slučaj da AI sistemi jednog dana budu priznati kao moralni pacijenti.
