Natali Himenez i Rouan Ingz  [ BBC ]

13. 11. 2025. 16:59   >>  19:50

Zloupotreba Daunovog sindroma u dipfejk sadržajima radi zarade

Na društvenim mrežama objavljuju se fotografije žena čije je lice izmenjeno veštačkom inteligencijom, a sve zarad promocije sadržaja za odrasle koji se plaća.

Alis se seća dana kada je prvi put videla lažni nalog na društvenoj mreži Instagramu koji je koristio njen lik.

„Bila sam šokirana i osećala sam se poniženo", kaže 17-godišnjakinja za BBC.

Lažni nalog je koristio fotografije i snimke njenog tela, a pomoću veštačke inteligencije je njeno lice izmenjeno da izgleda kao da ima Daunov sindrom.

Profil, koji je imao 25.000 pratilaca, upućivao je korisnike na druge internet stranice sa pornografskim sadržajem.

Alis je više puta slala poruke tom nalogu tražeći da se ukloni i naglašavajući da je maloletna, ali nikada nije dobila odgovor.

„Bilo je prilično užasno videti da se moj uzrast i moja osećanja potpuno ignorišu", kaže ona.

BBC je otkrio da je taj profil samo jedan od mnogih naloga koji lažiraju invaliditet radi zarade.

Pogledajte video

Fotografije žena na Instagramu čija lica su stvorena pomoću veštačke inteligencije koriste slike stvarnih ženskih tela bez njihove saglasnosti.

Te slike se najverovatnije kradu sa javno dostupnih profila na društvenim mrežama, a zatim se koriste alati veštačke inteligencije da se lica izmene i dobiju lik ljudi sa Daunovim sindromom.

Lažni nalozi objavljuju seksualno sugestivan sadržaj da privuku pažnju korisnika, a oni koji prate te profile ostavljaju seksualno eksplicitne komentare.

„Ti nalozi uzimaju podatke o ženama bez njihove dozvole i koriste ih da od njih naprave ljude sa invaliditetom od čega zarađuju", objašnjava Elenor Drejdž, viša istraživačica u oblasti etike veštačke inteligencije na Univerzitetu u Kembridžu.

„To predstavlja svesno i namerno nanošenje štete ljudima kao što je Alis", dodaje ona.

• Kad te „dipfejkuju": „Nalepili su moje lice na porno snimak"
• „Dipfejkovao me je najbolji prijatelj“
• „Dipfejk je budućnost stvaranja sadržaja“

Zarada od ovog zastrašujućeg trenda ostvaruje se na drugim platformama.

Svi nalozi koje je BBC otkrio upućuju korisnike na profile na pretplatničkoj platformi OnlyFans, poznata po pornografskom sadržaju.

Profili na platformi OnlyFans koriste ista imena kao i lažni nalozi na Instagramu, ali ne koriste filter veštačke inteligencije za stvaranje likova sa Daunovim sindromom, već prikazuju različita tela žena kojima su lica ili skrivena ili uklonjena.

OnlyFans zabranjuje sadržaj napravljen veštačkom inteligencijom bez dozvole, što je možda razlog što se lica žena ne lažiraju, već prikrivaju ili uklanjaju.

Nismo uspeli da utvrdimo da li su druge žene dozvolile da se njihova tela koriste na nalozima na platformi OnlyFans.

Kako „na jednom nalogu ima više različitih žena", u pitanju je „mreža za eksploataciju", objašnjava istraživačica Drejdž.

Alis kaže da je prijavila nalog Instagramu, ali je dobila automatski odgovor da ne krši njihove smernice.

Seksualno eksplicitni dipfejk sadržaj je zabranjen politikom Instagrama, a lažni video-snimci u kojima je korišćeno Alisino telo nisu bili seksualno eksplicitni.

U potrazi za ljudima koji stoje iza ovih naloga, BBC je istražio svet samoproglašenih „menadžera sadržaja stvorenih veštačkom inteligencijom", ljudi koji koriste veštačku inteligenciju za stvaranje influensera koji promovišu naloge sa pornografskim sadržajem i od toga zarađuju.

Pronašli smo francuskog „menadžera" po imenu Dorijan, na čijem Jutjub kanalu je bilo video-uputstava o tome kako napraviti influensera pomoću veštačke inteligencije, i čiji Telegram kanal je imao hiljade pretplatnika.

U jednom od njegovih Jutjub tutorijala kaže da je „jedna od najboljih strana veštačke inteligencije to što prema zahtevu možete da napravite bilo koju tržišnu nišu".

„Želite devojku u gotičkom stilu? Može.

„Latino fitnes model? Naravno.

„Želite nešto još luđe?", pita on, navodeći i druge primere tržišnih niša, kao što su transrodni ili modeli patuljastog rasta.

„Možete odmah da stvorite bilo koji lik i da dominirate nišama koje ne pružaju dovoljno usluga ili onima koje su trenutno popularne", kaže on.

Analizom naloga na Telegramu za koje Dorijan tvrdi da su njegovi, kao i slika koje je stvorio pomoću veštačke inteligencije i koje su prikazane u njegovim Jutjub tutorijalima, BBC je pronašao dokaze da je Daunov sindrom jedna od takozvanih niša koje eksploatiše.

Na Telegramu je objavio sliku naloga jedne od njegovih „influenserki", na kojoj je njeno lice sakriveno.

BBC je uporedio siluetu, pozadinu i redosled objava i uspeo da ih poveže sa lažnim nalogom na Instagramu nekoga ko se predstavljao da ima Daunov sindrom.

Takođe smo identifikovali i model sa Daunovim sindromom stvoren pomoću veštačke inteligencije u pozadini jednog od Dorijanovih tutorijala.

Nemamo dokaze da je Dorijan napravio lažni sadržaj koristeći Alisino telo.

BBC je pokušao da stupi u kontakt sa njim preko Telegrama i Instagrama i pisao je na obe adrese povezane sa njegovim poslovanjem, ali nije dobio odgovor.

Ovakvi nalozi ne utiču samo na ljude čiji sadržaji su ukradeni, već i na ljude sa Daunovim sindromom.

Džeremi i Odri, američki aktivisti za zaštitu prava ljudi sa Daunovim sindromom, koji vode podkast, veoma su zabrinuti zbog ovog trenda.

„Mislim da nije pošteno da oni imaju lažnu sposobnost", kaže Odri.

„Džeremi i ja imamo Daunov sindrom i ponosni smo na to.

„To je jedinstveno i volim što ga imam.

„To je najbolja stvar u mom životu.

„A zbog tih dipfejk sadržaja, osećam da me iskorišćavaju."

„Rade to zbog novca", kaže Džeremi.

„Molim vas, prestanite to da radite".

Jutjub je odgovorio na upit BBC-ja navodeći da su ukinuli Dorijanove kanale zbog kršenja politike o spamu, obmanama i prevarama.

Meta, matična kompanija Instagrama, rekla je u odgovoru BBC-ju da su svi nalozi koje smo prijavili, osim jednog, već uklonjeni zbog kršenja njihovih pravila, među kojima su zabrana lažnog predstavljanja i promovisanje seksualnih usluga.

Nalog koji je koristio Alisin lik više nije aktivan.

BBC je takođe zatražio komentar od platforme OnlyFans, čiji predstavnici su odgovorili da „se vrši detaljna provera identiteta svih autora sadržaja da bi se osiguralo da su stariji od 18 godina i da bi dali saglasnost za upotrebu njihovih slika".

Svaki sadržaj podleže uređivačkoj politici i da upotreba ovakvih slika neće biti dozvoljene na njihovoj platformi, dodali su.

BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• Lažne gole fotografije hiljada žena objavljene na internetu
• Dipfejk pornografija uništava živote studentkinja
• „Kako sam se zaljubila u lažni profil“
• „Opasna veštačka“ inteligencija koja piše lažne vesti
• Izgleda li kao prava žena
• Šta je „osvetnička pornografija" i kako utiče na žrtve