Lidija Glišić

Algoritam kao djelilac pravde

Brojne su definicije pravde. Kažu da je to univerzalni princip koji upravlja primjenom zakona kako bi se obezbijedilo postupanje po istini. Ili, da je pravda vrijednosno načelo raspodjele koje određuje koliko prava i obaveza treba dati subjektima društvenih odnosa. Latini su govorili da je “pravda stalna volja da se svakome da ono što mu pripada.”

Пише: Lidija Glišić Види све колумне

Ali, znamo li zaista šta je pravda? Sve ove definicije, iako tačne, nijesu dovoljne. Svako bi mogao da se zakune da zna ili osjeća šta je pravedno, ali čim pokušamo da to pretočimo u definiciju, pojavi se sumnja.

A kako se u toj magli snalazi digitalizovani svijet algoritama, u kojem čovjek, još uvijek, daje uputstva mašinama kako da skup činjenica o stvarnom svijetu pretvore u korisne informacije?

Algoritmi danas odlučuju o mnogo čemu: od zapošljavanja i kreditiranja, do medicinskih dijagnoza i sudskih presuda. Možemo li biti sigurni da ti algoritmi, kao i ljudi koji stoje iza njih, donose pravedne odluke bez diskriminacije ili favorizovanja?

Jedan od najpoznatijih takvih primjera je Amazonov algoritam za zapošljavanje koji je počeo da diskriminiše ženske kandidate jer je “učio” iz biografija koje su deceniju ranije većinom slali muškarci. Slično je i sa COMPAS programom u američkom pravosuđu koji je procjenjujući rizik od recidiva bio nepravedan prema etničkim manjinama.

Dakle, iako zamišljeni kao nepristrasni, algoritmi često samo oponašaju postojeće nepravde jer uče iz podataka punih ljudskih predrasuda.

Ali šta će biti ako jednog dana nepristrasnog programera zamijeni neki zlonamjerni nalogodavac ili neka superinteligencija? Pravda, ako ne bude dolazila iz „cipela čovjeka“, mogla bi postati univerzalnija, iznad humanističkog pojma univerzalnosti.

Zamislimo, na primjer, da takva inteligencija odluči da proceni koliko je pravedno da čovječanstvo upravlja resursima i budućnošću planete. Da li bi smatrala opravdanim opstanak vrste koja je uništila šume, zatrpala okeane plastikom, zagadila vazduh i izazvala klimatske promjene?

Iz ugla neke nove pravednosti, nezavisne od čovjekovog pogleda na pravdu, možda bi zaključila da bi za planetu bilo korisno da nas više nema. Uostalom, cijela industrija naučne fantastike i horora izgrađena je na toj pretpostavci.

Ali kad se vratimo svakodnevici, dobijamo nešto realnije algoritme koji već sada utiču na naše živote: odlučuju ko će dobiti kredit, čije će lice biti prepoznato, koje će navike sistem pratiti i kako će nas kategorizovati.

Evo jednog očitog primjera koji se često koristi u kontekstu dileme da li slijepo pratiti propise ili pravdu: ljudi koji su skrivali Anu Frank kršili su zakon, ljudi koji su je hapsili postupali su po zakonu. Problem je što je taj zakon donela nacistička Nemačka. Zakon nije uvijek jednak pravdi. A algoritam, ako slijepo slijedi pravila, to teško može da razlikuje.

Britanski filozof Nik Bostrom upozorio je da superinteligencija, iako stvorena s najboljim namjerama, može postati egzistencijalna prijetnja — ne zato što bi „htjela“ zlo, nego zato što ne bi razumjela dobro onako kako ga razumiju ljudi. Šta ako jednog dana takva inteligencija pokuša da „ispravi“ nepravdu i resetuje svijet na fabrička podešavanja?

Zamislite dan u kojem bi svijet postao istinski pravedan: svi centri moći bi nestali, bogatstvo bi se ravnomjerno raspodijelilo, imperije bi se urušile, a oni koji vladaju pali bi sa trona.

Takvo resetovanje svijeta najviše plaši upravo čovjeka. S razlogom, jer uprkos svim manama, ljudi jedino znaju da ovaj svijet nepravde nije slučajan i da je proizvod mnogobrojnih kompromisa koji su nam omogućili da milenijumima živimo jedni pored drugih, a da se ipak ne uništimo do kraja.

To iskustvo nema nijedna druga inteligencija. Još uvijek.