Nakon uspona pametnih telefona, različitih društvenih mreža, veštačke inteligencije, a sada i deepfake tehnologije, roditelji se nalaze pred velikim izazovom kako da usmere decu u digitalnom svetu koji postaje sve složeniji i izazovniji.

Deepfake technology in advertising—a bit too real? - Questmite

Deepfake tehnologija ima potencijal da manipuliše i obmanjuje sa neviđenom tačnošću. To je čini jednim od najznačajnijih izazova sa kojima se roditelji suočavaju u digitalnoj eri! Procenjuje se da čak 96% deepfake video snimaka koji kruže internetom sadrže pornografski sadržaj! To je podatak koji treba odmah da nas alarmira!

U ovom tekstu ćemo istražiti uticaj ove tehnologije, kako ona utiče na decu i šta roditelji mogu da urade da zaštite svoje najmilije u virtuelnom prostoru.

Termin ,,deepfake” nastao je kombinacijom reči duboko učenje ,,deep learning” i reči lažan odnosno ,,fake”, a odnosi se na proces stvaranja lažnih fotografija ili videa. Deepfake tehnologija koristi veštačku inteligenciju i algoritme mašinskog učenja za manipulaciju digitalnim sadržajem. Algoritmi su podešeni da stvore veoma realistične zapise! Tehnički to izgleda ovako: GAN mreže uključuju dve neuronske mreže koje rade ,,jedna uz drugu”. Jedna mreža generiše lažne slike ili video zapise, dok druga mreža pokušava da identifikuje da li je sadržaj stvaran ili lažan. Ovaj proces se nastavlja sve dok se lažni sadržaj ne može razlikovati od stvarnog stvarajući veoma realistične deepfake materijale.

Kada je reč o našoj deci, implikacije koje imaju deepfake tehnologije u rukama kriminalaca su zabrinjavajuće! Softer potencijalno može da iskoristi fotografiju ili video zapis koji su dostupni na društvenim mrežama bilo kog deteta i da ga pretvore u sadržaj dečje pornografije.  Stvaranje ovakvih slika seksualnog zlostavljanja podstiče tržište dečje pornografije, dovodeći decu dalje u opasnost.

Tehnologija može da se koristi za kreiranje lažnih pornografskih slika ili video zapisa (što je u praksi poznato i kao „deep porn“). Sadržaj može da bude veoma invazivan i uznemirujuć, posebno za decu i tinejdžere. Tehnologija deepfake olakšava sajber nasilnicima i onlajn uznemiravačima da kreiraju ubedljive lažne slike ili video zapise kako bi ponizili ili maltretirali svoje žrtve. Deca i tinejdžeri su posebno ranjivi, jer tehnologija može imati razorne posledice po njihovo mentalno zdravlje, bezbednost, privatnost, dostojanostvo!

Ova tehnologija otežava mnogima da razlikuju prave i lažne slike ili video zapise. Otežava i roditeljima da zaštite svoju decu od pretnji na mreži.

Deepfake tehnologija komplikuje i policijske istrage tako što otežava identifikaciju i zaustavljanje širenja nedozvoljenog materijala. Dok mnoge slike seksualne eksploatacije dece imaju digitalni trag, stvaranje sintetičkih slika može ometati ovaj proces, stoga deepfakes predstavljaju jedinstven izazov za identifikaciju žrtava. Tehnologija se može koristiti da se zamagli lice deteta u materijalu koji prikazuje pravo zlostavljanje, što čini identifikaciju mnogo težom. U drugim slučajevima, lice drugog deteta može biti postavljeno na originalnu sliku, što znači da organi za sprovođenje zakona mogu da izgube dragoceno vreme pokušavajući da identifikuju pogrešno dete.

Iako dete možda neće biti fizički povređeno, stvaranje deepfake zapisa je oblik seksualizacije deteta. Potencijalna šteta koja se može naneti deci zbog deepfake tehnologije je bez presedana, jer se bilo koja dečja slika može iskoristiti za stvaranje štetnog materijala.

Ako dete sazna za seksualizovane fotografije ili video zapise, uslediće niz dodatnih problema. Primeri uključuju osećaj nemoći i anksioznosti zbog broja ljudi koji su pogledali materijal, kao i osećanja stida i krivice. Ovo može imati dubok i dugotrajan psihološki uticaj na dete koje je žrtva. Može doći i do daljih posledica, kao što su maltretiranje od strane vršnjaka, socijalna isključenost, ili seksualna iznuda. Napadači prete da će obavestiti žrtvine prijatelje, porodicu i školu deepfake snimku i mogu dete dodatno ucenjivati (npr da dete mora da uplati novac da se snimak ne bi slao). Namerno ciljajući na decu, kriminalci iskorišćavaju njihovu ranjivost, nestabilnost i ograničenu sposobnost da traže pomoć na isti način kao i odrasli. Zbog toga je edukacija dece o sajber napadima ključna za njihovu bezbednost!!!

Ovo nije fotošop! Ovo je tehnologija koja od jedne fotografije, nekome može da uništi život! Pružanje podrške žrtvama lažne dečje pornografije je ključno za ublažavanje trajnog uticaja ovog oblika zlostavljanja!

Mnogi roditelji nisu svesni rizika i izazova povezanih sa deepfake tehnologijom, a kamoli da znaju da ona postoji. Podizanje svesti roditelja i edukacija o rizicima je od ključnog značaja. Ova tehnologija iz dana u dan postaje sve sofisticiranija. To otežava prepoznavanje lažnog sadržaja. Roditelji moraju biti svesni izazova i preduzeti korake da zaštite svoju decu, uključujući njihovo obrazovanje o rizicima i izazovima povezanim sa deepfake tehnologijom i praćenje njihovih aktivnosti na mreži. Kao što je već rečeno – žrtva potencijalno može biti svako!

Zakonodavstvo mora da se kontinuirano razvija a države (uključujući i našu!) da bi se efikasno borile protiv rastuće pretnje lažne dečje pornografije, moraju razviti i primeniti zakone koji su posebno usmereni na stvaranje i širenje takvog materijala. Postojeći zakoni koji zabranjuju vizuelno predstavljanje pojedinaca mlađih od 18 godina koji su uključeni u eksplicitnu seksualnu aktivnost neće biti dovoljni da se pozabave jedinstvenim izazovima koje postavlja deepfake tehnologija! Međunarodna saradnja je takođe izuzetno bitna u rešavanju ovog problema, pošto globalna priroda interneta omogućava lako deljenje i distribuciju ovih štetnih materijala preko granica.

Razvijanje tehnoloških rešenja za identifikaciju, praćenje i uklanjanje lažne dečije pornografije je suštinski aspekt rešavanja ovog problema. Ulaganjem u istraživanje i inovacije, vlade i tehnološke kompanije mogu da rade zajedno na stvaranju naprednih algoritama sposobnih da otkriju i uklone duboko lažni sadržaj. Pored toga, podizanje svesti javnosti o opasnostima lažne dečije pornografije može osnažiti pojedince da prepoznaju i prijave takve materijale, a istovremeno podstiču odgovorno korišćenje društvenih medija.

Napori na prevenciji treba da se fokusiraju na edukaciju dece, roditelja i društva u celini o bezbednom korišćenju interneta i društvenih mreža kao i potencijalnim rizicima povezanim sa deljenjem ličnih slika i informacija na internetu!

Deepfake i bezbednost dece na internetu