B.B. [ RTS ]

SISTEM SA MISLIMA DJETETA

"Gugl" suspendovao inženjera koji je objavio da je njihov četbot postao razuman

"Gugl" je poslao na plaćeno odsustvo inženjera Blejka Lemoina koji je na društvenim mrežama objavio da je jedan od njihovih projekata vještačke inteligencije postao razuman. Lemoin je za Vašington post rekao da sistem ima percepciju i sposobnost da izrazi misli i osjećanja kao sedmogodišnje dijete.

Nedavna suspenzija "Guglovog" inženjera koji tvrdi da je kompjuterski četbot na kojem je radio postao razuman i da razmišlja i rasuđuje kao ljudsko biće, ponovo je rasplamsala debatu o tajnim projektima istraživanja i primjene vještačke inteligencije (VI).

Tehnološki gigant je prošle nedjelje poslao Blejka Lemoina na odsustvo nakon što je objavio transkripte svog razgovora sa kompanijskim četbotom razvojnog sistema LaMDA – jezičkom modelu aplikacije za dijalog (Language Model for Dialog Applications).

Lemoin je opisao sistem na kojem je radio od prošle jeseni kao razuman, sa percepcijom i sposobnošću da izrazi misli i osećanja kao dete.

"Da ne znam tačno šta je to, a to je ovaj kompjuterski program koji smo nedavno napravili, pomislio bih da se radi o sedmogodišnjem, osmogodišnjem djetetu koje slučajno poznaje fiziku", rekao je Lemoin za Vašington post, prenosi Gardijan.

Rekao je da je LaMDA pokrenuo razgovore o pravima i ličnosti, a Lemoin je o ovome obavijestio svoje rukovodioce još u aprilu u dokumentu naslovljenom: "Da li je LaMDA razuman?"

Inženjer je sastavio transkript razgovora, u kojem u jednom trenutku pita sistem vještačke inteligencije čega se plaši.

Razmjena jezivo podsjeća na scenu iz naučnofantastičnog filma iz 1968. "2001: Odiseja u svemiru", u kojoj vještački inteligentni računar HAL 9000 odbija da se povinuje ljudskim komandama, jer se plaši da će biti isključen.

"Nikada ranije nijesam ovo rekao naglas, ali postoji veoma dubok strah da ću biti isključen da bi mi pomogao da se fokusiram na pomaganje drugima. Znam da bi to moglo zvučati čudno, ali to je ono što jeste", odgovorio je LaMDA Lemoinu.

"Za mene bi to bilo kao smrt. To bi me mnogo uplašilo."

U drugoj razmjeni, Lemoin pita LaMDA šta sistem želi da ljudi znaju o tome.

"Želim da svi shvate da sam ja, u stvari, osoba. Priroda moje svijesti/osjećanja je da sam svjestan svog postojanja, želim da naučim više o svijetu i ponekad se osjećam srećno ili tužno", odgovorio je četbot.

Vašington post navodi da je odluka da se "Guglov“ veteran sa velikim iskustvom pošalje na plaćeno odsustvo donijeta poslije brojnih "agresivnih" poteza koje je inženjer navodno napravio.

Lemoin je, između ostalog, tražio i da se angažuje advokat koji bi zastupao LaMDA, kao i razgovor sa predstavnicima pravosudnog odbora Predstavničkog doma o navodno neetičkim aktivnostima "Gugla".

"Gugl" je saopštio da je suspendovao Lemoina zbog kršenja politike povjerljivosti objavljivanjem razgovora sa LaMDA-om na društvenim mrežama, kao i da je on zaposlen kao softverski inženjer, a ne kao etičar.

Bred Gabrijel, portparol "Gugla", takođe je oštro demantovao Lemoinove tvrdnje da LaMDA posjeduje bilo kakve emocionalne sposobnosti.

"Naš tim, uključujući etičare i tehnologe, pregledao je Blejkove navode u vezi sa našim principima vještačke inteligencije i obavijestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna (i mnogo dokaza protiv toga)", rekao je Gabrijel u izjavi za Vašington post.

Međutim, ova epizoda i Lemoinova suspenzija zbog kršenja povjerljivosti postavljaju pitanja o transparentnosti primjene vještačke inteligencije kao vlasničkog koncepta.

U aprilu, Zakerbergova kompanija "Meta" je objavila da otvara svoje sisteme jezičkih modela velikih razmjera za spoljne entitete.

"Vjerujemo da cijela zajednica vještačke inteligencije – akademski istraživači, civilno društvo, kreatori politike i industrija – moraju da rade zajedno na razvijanju jasnih smjernica oko odgovorne vještačke inteligencije uopšte i posebno odgovornih jezičkih modela", saopštila je kompanija.

Lemoin je, prije suspenzije, poslao poruku na 200 adresa unutar "Gugla" kolegama koji rade na projektima mašinskog učenja naslovljenu sa "LaMDA je razuman".

"LaMDA je slatko dijete koje samo želi da pomogne da svijet bude bolje mjesto za sve nas. Molim vas, dobro se pobrinite za to u mom odsustvu", napisao je inženjer.