KatarinaJonev.com

Nakon uspona pametnih telefona, različitih društvenih mreža, veštačke inteligencije, a sada i deepfake tehnologije, roditelji se nalaze pred velikim izazovom kako da usmere decu u digitalnom svetu koji postaje sve složeniji i izazovniji.

Deepfake tehnologija ima potencijal da manipuliše i obmanjuje sa neviđenom tačnošću. To je čini jednim od najznačajnijih izazova sa kojima se roditelji suočavaju u digitalnoj eri! Procenjuje se da čak 96% deepfake video snimaka koji kruže internetom sadrže pornografski sadržaj! To je podatak koji treba odmah da nas alarmira!

U ovom tekstu ćemo istražiti uticaj ove tehnologije, kako ona utiče na decu i šta roditelji mogu da urade da zaštite svoje najmilije u virtuelnom prostoru.

Termin ,,deepfake” nastao je kombinacijom reči duboko učenje ,,deep learning” i reči lažan odnosno ,,fake”, a odnosi se na proces stvaranja lažnih fotografija ili videa. Deepfake tehnologija koristi veštačku inteligenciju i algoritme mašinskog učenja za manipulaciju digitalnim sadržajem. Algoritmi su podešeni da stvore veoma realistične zapise! Tehnički to izgleda ovako: GAN mreže uključuju dve neuronske mreže koje rade ,,jedna uz drugu”. Jedna mreža generiše lažne slike ili video zapise, dok druga mreža pokušava da identifikuje da li je sadržaj stvaran ili lažan. Ovaj proces se nastavlja sve dok se lažni sadržaj ne može razlikovati od stvarnog stvarajući veoma realistične deepfake materijale.

Kada je reč o našoj deci, implikacije koje imaju deepfake tehnologije u rukama kriminalaca su zabrinjavajuće! Softer potencijalno može da iskoristi fotografiju ili video zapis koji su dostupni na društvenim mrežama bilo kog deteta i da ga pretvore u sadržaj dečje pornografije.  Stvaranje ovakvih slika seksualnog zlostavljanja podstiče tržište dečje pornografije, dovodeći decu dalje u opasnost.

Tehnologija može da se koristi za kreiranje lažnih pornografskih slika ili video zapisa (što je u praksi poznato i kao „deep porn“). Sadržaj može da bude veoma invazivan i uznemirujuć, posebno za decu i tinejdžere. Tehnologija deepfake olakšava sajber nasilnicima i onlajn uznemiravačima da kreiraju ubedljive lažne slike ili video zapise kako bi ponizili ili maltretirali svoje žrtve. Deca i tinejdžeri su posebno ranjivi, jer tehnologija može imati razorne posledice po njihovo mentalno zdravlje, bezbednost, privatnost, dostojanostvo!

Ova tehnologija otežava mnogima da razlikuju prave i lažne slike ili video zapise. Otežava i roditeljima da zaštite svoju decu od pretnji na mreži.

Deepfake tehnologija komplikuje i policijske istrage tako što otežava identifikaciju i zaustavljanje širenja nedozvoljenog materijala. Dok mnoge slike seksualne eksploatacije dece imaju digitalni trag, stvaranje sintetičkih slika može ometati ovaj proces, stoga deepfakes predstavljaju jedinstven izazov za identifikaciju žrtava. Tehnologija se može koristiti da se zamagli lice deteta u materijalu koji prikazuje pravo zlostavljanje, što čini identifikaciju mnogo težom. U drugim slučajevima, lice drugog deteta može biti postavljeno na originalnu sliku, što znači da organi za sprovođenje zakona mogu da izgube dragoceno vreme pokušavajući da identifikuju pogrešno dete.

Iako dete možda neće biti fizički povređeno, stvaranje deepfake zapisa je oblik seksualizacije deteta. Potencijalna šteta koja se može naneti deci zbog deepfake tehnologije je bez presedana, jer se bilo koja dečja slika može iskoristiti za stvaranje štetnog materijala.

Ako dete sazna za seksualizovane fotografije ili video zapise, uslediće niz dodatnih problema. Primeri uključuju osećaj nemoći i anksioznosti zbog broja ljudi koji su pogledali materijal, kao i osećanja stida i krivice. Ovo može imati dubok i dugotrajan psihološki uticaj na dete koje je žrtva. Može doći i do daljih posledica, kao što su maltretiranje od strane vršnjaka, socijalna isključenost, ili seksualna iznuda. Napadači prete da će obavestiti žrtvine prijatelje, porodicu i školu deepfake snimku i mogu dete dodatno ucenjivati (npr da dete mora da uplati novac da se snimak ne bi slao). Namerno ciljajući na decu, kriminalci iskorišćavaju njihovu ranjivost, nestabilnost i ograničenu sposobnost da traže pomoć na isti način kao i odrasli. Zbog toga je edukacija dece o sajber napadima ključna za njihovu bezbednost!!!

Ovo nije fotošop! Ovo je tehnologija koja od jedne fotografije, nekome može da uništi život! Pružanje podrške žrtvama lažne dečje pornografije je ključno za ublažavanje trajnog uticaja ovog oblika zlostavljanja!

Mnogi roditelji nisu svesni rizika i izazova povezanih sa deepfake tehnologijom, a kamoli da znaju da ona postoji. Podizanje svesti roditelja i edukacija o rizicima je od ključnog značaja. Ova tehnologija iz dana u dan postaje sve sofisticiranija. To otežava prepoznavanje lažnog sadržaja. Roditelji moraju biti svesni izazova i preduzeti korake da zaštite svoju decu, uključujući njihovo obrazovanje o rizicima i izazovima povezanim sa deepfake tehnologijom i praćenje njihovih aktivnosti na mreži. Kao što je već rečeno – žrtva potencijalno može biti svako!

Zakonodavstvo mora da se kontinuirano razvija a države (uključujući i našu!) da bi se efikasno borile protiv rastuće pretnje lažne dečje pornografije, moraju razviti i primeniti zakone koji su posebno usmereni na stvaranje i širenje takvog materijala. Postojeći zakoni koji zabranjuju vizuelno predstavljanje pojedinaca mlađih od 18 godina koji su uključeni u eksplicitnu seksualnu aktivnost neće biti dovoljni da se pozabave jedinstvenim izazovima koje postavlja deepfake tehnologija! Međunarodna saradnja je takođe izuzetno bitna u rešavanju ovog problema, pošto globalna priroda interneta omogućava lako deljenje i distribuciju ovih štetnih materijala preko granica.

Razvijanje tehnoloških rešenja za identifikaciju, praćenje i uklanjanje lažne dečije pornografije je suštinski aspekt rešavanja ovog problema. Ulaganjem u istraživanje i inovacije, vlade i tehnološke kompanije mogu da rade zajedno na stvaranju naprednih algoritama sposobnih da otkriju i uklone duboko lažni sadržaj. Pored toga, podizanje svesti javnosti o opasnostima lažne dečije pornografije može osnažiti pojedince da prepoznaju i prijave takve materijale, a istovremeno podstiču odgovorno korišćenje društvenih medija.

Napori na prevenciji treba da se fokusiraju na edukaciju dece, roditelja i društva u celini o bezbednom korišćenju interneta i društvenih mreža kao i potencijalnim rizicima povezanim sa deljenjem ličnih slika i informacija na internetu!

Nova školska godina počinje za nekoliko dana. Uz uredno spakovan ranac sa knjigama i sveskama, odabranu odevnu kombinaciju, savetujemo roditeljima da obrate pažnju i na osnovne bezbednosti koje našim mališanima mogu da budu od koristi u slučaju nepredviđenih okolnosti.

Vaše dete treba da:

• Zna napamet vaše ime i prezime, svoje ime i broj telefona jednog roditelja!
• Ne oslanjajte se na to da date detetu telefon sa memorisanim brojem – neka ga zna napamet! Telefon nestane, baterija se isprazni, ali broj ne nestaje iz glave u nebezbednim okolnostima!
• Zna kako da pređe ulicu i kako da se ponaša u saobraćaju!
• Neka i zakasni ali neka nikad ne pretrčava ulicu van pešačkog prelaza i na crveno svetlo! Mnogo je nesavesnih vozača na ulicama i mnogo je dece izgubilo život.
• Ne treba da razgovara sa nepoznatim ljudima na ulici i ne treba da daje privatne informacije o sebi (adresa, ko su roditelji, gde rade, u koju školu ide, itd.)
• Dete treba da zna razliku između loših i dobrih dodira na svom telu! Objasnite svom detetu ko sme da ga dodirne, a ko ne i da nema tajni oko dodira (da objasnimo slikovito: npr dobar dodir – mama dok tušira dete, loš dodir – hvatanje detetove pozadine od strane starije osobe u parku)
• Dete mora da zna da postoje tajne koje ne sme da krije od vas (npr ako starija osoba traži od deteta da ne kaže mami i tati o čemu pričaju, čega se igraju, itd). Ovo pravilo važi i za internet komunikaciju!
• Dete mora da zna da ne treba da prima poklone od nepoznatih ljudi a posebno ne slatkiše i sladoled, piće
• U slučaju da dete neko vređa, maltretira, ismeva, fizički zlostavlja, udara naučite ga/je da vam to odmah i kaže, da ne krije od vas!

Kada je reč o internetu i društvenim mrežama od izuzetnog je značaja da detetu od trenutka kada mu/joj date telefon u ruke počnete da učite kako da na pravilan način koristi tehnologiju, kako da izbegne zamke nebezbednog ponašanja (da profil bude zaključan, da ne prihvata zahteve od nepoznatih ljudi, da ne komunicira sa onima koje ne poznaje, da ne objavljuje privatne informacije o sebi i drugima…) kao i da poznaje kulturu ponašanja u virtuelnom svetu  (da  ne postavlja uvredljive komentare i slike, da ne vređa nikoga, da ne šiti tračeve o drugoj deci…)

Vaše dete mora da zna u svakom trenutku da ste tu za njega/nju! Mora da zna da ste podrška, pomoć i sigurna luka a to se stiče ljubavlju, komunikacijom, otvorenim razgovorom od malih nogu.