O Masku iz Republike Srpske – alat za generisanje „zabavnih” AI videa u službi manipulacija

• Na Fejsbuku se raširio video snimak koji navodno prikazuje Ilona Maska kako kaže da je „iz Republike Srpske”.
• Reč je o dipfejk snimku. Video je kreiran uz pomoć veb alata koji koristi veštačku inteligenciju.
• Objavama na Fejsbuku nedostaje kontekst i informacija da snimak nije autentičan.

Lako dostupni veb alati za kreiranje (zabavnog) sadržaja koji koriste veštačku inteligenciju (eng. artificial intelligence – AI), učinili su da društvene mreže svakodnevno budu preplavljene raznovrsnim multimedijalnim sadržajem koji nije stvaran.

Analizom komentara na trenutno aktuelan video snimak na društvenim mrežama u Srbiji, koji prikazuje preduzetnika i milijardera Ilona Maska kako navodno kaže da je „iz Republike Srpske”, zaključujemo da mnogi korisnici društvenih mreža i dalje ne prepoznaju da je ovakav tip sadržaja fabrikovan.

Mask na spornom video snimku navodno kaže:

„Ja sam iz Republike Srpske. Bilo je dosta rasprave u poslednje vreme da li sam ja Srbin, ali sada je došlo vreme da ponosno kažem da jesam. Rodio sam se i odrastao u malom gradiću Šipovu. Tamo sam živeo dok nisam napunio 6 godina i onda sam se preselio u Južnu Afriku, nažalost. Živela Srbija!”

Reč je o dipfejk (eng. deepfake) video snimku Ilona Maska kreiranom uz pomoć besplatnog onlajn alata koji koristi veštačku inteligenciju za generisanje videa u kojima poznate ličnosti izgovaraju zadati tekst. 

Ideja za kreiranje viralnog snimka inspirisana je izjavom teoretičarke zavere Jovanke Jolić da je „Ilon Mask iz Republike Srpske”. Nakon što je Jolić 17. februara 2021. godine u emisiji „Balkan Info” iznela spornu tvrdnju, ona je postala viralni mim na internetu.

Originalan snimak Maska sa ljubičastom pozadinom potiče iz njegovog intervjua na konferenciji „TED2022”. Video snimak sa naslovom „Ilon Mask govori o Tviteru, Tesli i kako njegov mozak funkcioniše” objavljen je  14. aprila 2022. na zvaničnom „TED” Jutjub kanalu. Mask na panelu nije pominjao Republiku Srpsku.

Detaljnija analiza viralnog snimka

Na spornom video snimku Maska koji se deli na Fejsbuku u Srbiji nalepljen je nadimak „@mindsetmajstor”. Radi se o, trenutno ugašenom TikTok nalogu, koji na toj mreži sada objavljuje pod korisničkim imenom „nijesedesiloo”. Sporan video u kojem Mask navodno izgovara da je „iz Republike Srpske” objavljen je 27. novembra ove godine na profilu tog korisnika.

U opisu profila „nijesedesiloo” na TikTok-u piše da su „svi videi delo AI” i navodi se link za preuzimanje aplikacije „Parrot: AI Voice Generator”.

Reč je o aplikaciji, odnosno veb sajtu koji omogućava besplatno kreiranje audio zapisa koje generiše veštačka inteligencija (AI) pod parolom: „Neka vaša omiljena poznata ličnost kaže bilo šta”. Potrebno je samo da se izabere neka od ponuđenih poznatih ličnosti i ukuca tekst na engleskom jeziku. Izabrali smo Ilona Maska i napisali tekst koji želimo da izgovori:  „Snimak na kojem govorim da sam iz Republike Srpske je lažan”. Kao rezultat dobili smo istovetan video snimak Maska kako u identičnom ambijentu i garderobi izgovara zadati tekst.

Obrnuta pretraga fotografija skrinšotova sa viralnog snimka (koristeći alat TinEye) uputila nas je na članak objavljen na veb sajtu „The American Conservative”, u kojem se nalazi vrlo slična fotografija Ilona Maska. Pretražili smo i nju na Guglu, a rezultati su pokazali da je istovetan video snimak Maska u prošlosti često bio korišćen za kreiranje dipfejkova.

Brojni portali su u maju 2022. godine izvestili o dipfejk snimku Ilona Maska zloupotrebljenom za promovisanje šeme za prodaju kriptovaluta. Mask je demantovao da je snimak autentičan na društvenoj mreži X (koja je od oktobra 2022. godine u njegovom vlasništvu). Isti snimak korišćen je i za generisanje AI videa u kojem Mask navodno tvrdi da je „Zemlja ravna”.

Portal „Times of Malta” je u oktobru ove godine pisao o „složenoj međunarodnoj prevari sa kriptovalutama”, u okviru koje je isti video Maska predstavljen kao deo fabrikovanog izveštaja „BBC”-ja i lažnih veb sajtova dizajniranih u cilju krađe podataka.

„Fake News Tragač” je takođe nedavno analizirao istovetan dipfejk snimak u kojem Mask navodno „ohrabruje Srbe da vrate Kosovo” i kaže da je „veliki fan Novaka Đokovića”.

*Ilon Mask je američki preduzetnik i milijarder. Rođen je 28. juna 1971. godine u Pretoriji u Južnoj Africi. Mask je osnivač kompanije za izradu svemirskih letelica „SpaceX” i suosnivač firme za elektronsko plaćanje „PayPal”. Bio je i jedan od prvih značajnih investitora, kao i glavni izvršni direktor, proizvođača električnih automobila „Tesla”. Mask je u oktobru 2022. godine kupio društvenu mrežu Tviter i preimenovao je u „X”.

***

Šta su dipfejkovi?

izvor: „DW”

Dipfejk (eng. deepfake) je termin koji opisuje audio i video datoteke koje su kreirane korišćenjem veštačke inteligencije, tačnije „mašinskog učenja”.

Moguće su različite vrste dipfejkova. Zamena lica – gde se lice jedne osobe zamenjuje licem druge. Sinhronizacija usana – gde se pokreti usana osobe koja govori mogu podesiti na audio zapis koji se razlikuje od originala. Kloniranje glasa – gde se glas „kopira” da bi se koristio za izgovaranje drugih reči i rečenica. Potpuno sintetička lica i tela takođe se mogu generisati, na primer, kao digitalni avatari. 

Ove sintetičke video manipulacije proizvode se pomoću takozvanih Generativnih suparničkih mreža (Generative Adversarial Networks – GANs). GAN je model mašinskog učenja u kome se dve neuronske mreže takmiče jedna sa drugom da postanu tačnije u svojim rezultatima.

Jednostavnim rečima: jedan računar govori drugom računaru da li je digitalni klon koji je napravio dovoljno ubedljiv upoređujući ga sa originalnim materijalom. Sistem se poboljšava kroz više pokušaja, dok ne bude zadovoljan rezultatom.