Učešće na konferenciji ,,Učinimo internet sigurnim za decu” u Zagrebu

Organizacija Justice Initiative održala je u Zagrebu okrugli sto pod nazivom „Svaka sekunda je važna: Učinimo internet sigurnim za djecu“, kao deo svoje kampanje koja se bori protiv zlostavljanja dece na internetu.

Svoje stručno mišljenje o zabrinjavajućim brojkama podelili su Tomislav Ramljak iz Centra za nestalu i zlostavljanu djecu i Centra za sigurniji internet, Katarina Jonev Ćiraković stručnjak za bezbednost dece na internetu, Iva Turčin iz A1 Hrvatska, Marija Crnković iz Poliklinike za zaštitu dece i mladih grada Zagreba, dok je profesorka sa Pravnog fakulteta, Lucija Vejmelka predstavila rezultate istraživanja deShame Hrvatska i region.

„Sadržaj zlostavljanja dece kruži alarmantnom brzinom. U 2021. godini bilo je 32 miliona prijava sa sumnjom na seksualno iskorišćavanje dece na internetu širom sveta. To su šokantne brojke, jer iza svake fotografije stoji zlostavljanje jednog deteta. Problem nije daleko, nije reč o SAD-u, Aziji ili Africi. Sama Evropa je postala središte kada je reč o širenju slika zlostavljanja. Preko 60% svetskog sadržaja seksualnog zlostavljanja dece nalazi se na serverima unutar EU-a“, istaknuo je Guido Fluri, osnivač Justice Initiative.

„Iza svake slike ili video zapisa je stvarna patnja deteta, koja je možda počela samo prvom porukom na društvenim mrežama. Mnogo toga možemo da uradimo kako bi se zastrašujući niz zlostavljanja dece smanjio i konačno zaustavio. Kao društvo smo odgovorni i moramo učiniti više u prevenciji i zaštiti dece na internetu“, rekao je Tomislav Ramljak, voditelj Centra za nestalu i zlostavljanu decu i Centra za sigurniji internet.

“Prema statistikama, svako četvrto dete u Hrvatskoj je doživelo neki oblik sajber nasilja a najčešće zloupotrebe su uznemiravanje, slanje neprimerenih ili anonimnih poruka (tekstualnih sms ili čet poruka na društvenim mrežama), pravljenje stranica, profila i grupa koje imaju za cilj ismejavanje i ponižavanje, otkrivanje privatnih informacija o žrtvi, uhođenje, pretnje, širenje i podržavanje negativnih i uvredljivih komentara o žrtvi, ogovaranje, postavljanje izmontiranih fotografija ili objavljivanje privatnih fotografija žrtve, ucenjivanje” – rekla je Katarina Jonev Ćiraković stručnjak za bezbednost dece na internetu i društvenim mrežama.

Prvi korak borbe protiv zlostavljanja dece na internetu je shvatiti koliko je situacija zabrinjavajuća i uspostaviti sisteme prevencije i zaštite dece i mladih. To je jedan od glavnih zadataka organizacije Justice Initiative, koja se javlja kao odgovor na slučajeve zlostavljanja dece širom Evrope. Jedan od načina podrške je i peticija koja se sprovodi, kako bi se podržala zakonska regulativa protiv nasilja nad decom, počevši od primene adekvatnih alata poznavanja i preventivnog delovanja. Peticija je Evropi prikupila preko 500 000 potpisa, sve s ciljem da se izrazi podrška predlogu uredbe Evropskog parlamenta i Veća o utvrđivanju pravila za sprečavanje i suzbijanje seksualnog zlostavljanja dece. Predložena pravila obavezivala bi pružatelje internet usluga da otkrivaju, prijavljuju i uklanjaju materijal seksualnog zlostavljanja dece na svojim uslugama. Predlog bi trebalo da bude na glasanju tokom jeseni ove godine, a svoju podršku izrazili su i hrvatski zastupnici u Evropskom parlamentu Karlo Ressler i Sunčana Glavak, koji ističu važnost uvođenja strožih pravila.

Seksualno zlostavljanje teško je kazneno delo, koje ima dalekosežne i ozbiljne doživotne posledice za žrtve. U mnogim slučajevima decu seksualno zlostavljaju osobe koje poznaju i u koje imaju poverenja i one od kojih zavise. To je ujedno jedan od razloga zašto je takva kaznena dela teško sprečiti i otkriti. Danas deca više vremena provode na internetu. S jedne strane to im je omogućuje edukaciju i održavanje kontakta s vršnjacima, dok s druge strane vreba povećani rizik od ostvarivanja kontakta s internetskim predatorima.

Deepfake i bezbednost dece na internetu

Nakon uspona pametnih telefona, različitih društvenih mreža, veštačke inteligencije, a sada i deepfake tehnologije, roditelji se nalaze pred velikim izazovom kako da usmere decu u digitalnom svetu koji postaje sve složeniji i izazovniji.

Deepfake technology in advertising—a bit too real? - Questmite

Deepfake tehnologija ima potencijal da manipuliše i obmanjuje sa neviđenom tačnošću. To je čini jednim od najznačajnijih izazova sa kojima se roditelji suočavaju u digitalnoj eri! Procenjuje se da čak 96% deepfake video snimaka koji kruže internetom sadrže pornografski sadržaj! To je podatak koji treba odmah da nas alarmira!

U ovom tekstu ćemo istražiti uticaj ove tehnologije, kako ona utiče na decu i šta roditelji mogu da urade da zaštite svoje najmilije u virtuelnom prostoru.

Termin ,,deepfake” nastao je kombinacijom reči duboko učenje ,,deep learning” i reči lažan odnosno ,,fake”, a odnosi se na proces stvaranja lažnih fotografija ili videa. Deepfake tehnologija koristi veštačku inteligenciju i algoritme mašinskog učenja za manipulaciju digitalnim sadržajem. Algoritmi su podešeni da stvore veoma realistične zapise! Tehnički to izgleda ovako: GAN mreže uključuju dve neuronske mreže koje rade ,,jedna uz drugu”. Jedna mreža generiše lažne slike ili video zapise, dok druga mreža pokušava da identifikuje da li je sadržaj stvaran ili lažan. Ovaj proces se nastavlja sve dok se lažni sadržaj ne može razlikovati od stvarnog stvarajući veoma realistične deepfake materijale.

Kada je reč o našoj deci, implikacije koje imaju deepfake tehnologije u rukama kriminalaca su zabrinjavajuće! Softer potencijalno može da iskoristi fotografiju ili video zapis koji su dostupni na društvenim mrežama bilo kog deteta i da ga pretvore u sadržaj dečje pornografije.  Stvaranje ovakvih slika seksualnog zlostavljanja podstiče tržište dečje pornografije, dovodeći decu dalje u opasnost.

Tehnologija može da se koristi za kreiranje lažnih pornografskih slika ili video zapisa (što je u praksi poznato i kao „deep porn“). Sadržaj može da bude veoma invazivan i uznemirujuć, posebno za decu i tinejdžere. Tehnologija deepfake olakšava sajber nasilnicima i onlajn uznemiravačima da kreiraju ubedljive lažne slike ili video zapise kako bi ponizili ili maltretirali svoje žrtve. Deca i tinejdžeri su posebno ranjivi, jer tehnologija može imati razorne posledice po njihovo mentalno zdravlje, bezbednost, privatnost, dostojanostvo!

Ova tehnologija otežava mnogima da razlikuju prave i lažne slike ili video zapise. Otežava i roditeljima da zaštite svoju decu od pretnji na mreži.

Deepfake tehnologija komplikuje i policijske istrage tako što otežava identifikaciju i zaustavljanje širenja nedozvoljenog materijala. Dok mnoge slike seksualne eksploatacije dece imaju digitalni trag, stvaranje sintetičkih slika može ometati ovaj proces, stoga deepfakes predstavljaju jedinstven izazov za identifikaciju žrtava. Tehnologija se može koristiti da se zamagli lice deteta u materijalu koji prikazuje pravo zlostavljanje, što čini identifikaciju mnogo težom. U drugim slučajevima, lice drugog deteta može biti postavljeno na originalnu sliku, što znači da organi za sprovođenje zakona mogu da izgube dragoceno vreme pokušavajući da identifikuju pogrešno dete.

Iako dete možda neće biti fizički povređeno, stvaranje deepfake zapisa je oblik seksualizacije deteta. Potencijalna šteta koja se može naneti deci zbog deepfake tehnologije je bez presedana, jer se bilo koja dečja slika može iskoristiti za stvaranje štetnog materijala.

Ako dete sazna za seksualizovane fotografije ili video zapise, uslediće niz dodatnih problema. Primeri uključuju osećaj nemoći i anksioznosti zbog broja ljudi koji su pogledali materijal, kao i osećanja stida i krivice. Ovo može imati dubok i dugotrajan psihološki uticaj na dete koje je žrtva. Može doći i do daljih posledica, kao što su maltretiranje od strane vršnjaka, socijalna isključenost, ili seksualna iznuda. Napadači prete da će obavestiti žrtvine prijatelje, porodicu i školu deepfake snimku i mogu dete dodatno ucenjivati (npr da dete mora da uplati novac da se snimak ne bi slao). Namerno ciljajući na decu, kriminalci iskorišćavaju njihovu ranjivost, nestabilnost i ograničenu sposobnost da traže pomoć na isti način kao i odrasli. Zbog toga je edukacija dece o sajber napadima ključna za njihovu bezbednost!!!

Ovo nije fotošop! Ovo je tehnologija koja od jedne fotografije, nekome može da uništi život! Pružanje podrške žrtvama lažne dečje pornografije je ključno za ublažavanje trajnog uticaja ovog oblika zlostavljanja!

Mnogi roditelji nisu svesni rizika i izazova povezanih sa deepfake tehnologijom, a kamoli da znaju da ona postoji. Podizanje svesti roditelja i edukacija o rizicima je od ključnog značaja. Ova tehnologija iz dana u dan postaje sve sofisticiranija. To otežava prepoznavanje lažnog sadržaja. Roditelji moraju biti svesni izazova i preduzeti korake da zaštite svoju decu, uključujući njihovo obrazovanje o rizicima i izazovima povezanim sa deepfake tehnologijom i praćenje njihovih aktivnosti na mreži. Kao što je već rečeno – žrtva potencijalno može biti svako!

Zakonodavstvo mora da se kontinuirano razvija a države (uključujući i našu!) da bi se efikasno borile protiv rastuće pretnje lažne dečje pornografije, moraju razviti i primeniti zakone koji su posebno usmereni na stvaranje i širenje takvog materijala. Postojeći zakoni koji zabranjuju vizuelno predstavljanje pojedinaca mlađih od 18 godina koji su uključeni u eksplicitnu seksualnu aktivnost neće biti dovoljni da se pozabave jedinstvenim izazovima koje postavlja deepfake tehnologija! Međunarodna saradnja je takođe izuzetno bitna u rešavanju ovog problema, pošto globalna priroda interneta omogućava lako deljenje i distribuciju ovih štetnih materijala preko granica.

Razvijanje tehnoloških rešenja za identifikaciju, praćenje i uklanjanje lažne dečije pornografije je suštinski aspekt rešavanja ovog problema. Ulaganjem u istraživanje i inovacije, vlade i tehnološke kompanije mogu da rade zajedno na stvaranju naprednih algoritama sposobnih da otkriju i uklone duboko lažni sadržaj. Pored toga, podizanje svesti javnosti o opasnostima lažne dečije pornografije može osnažiti pojedince da prepoznaju i prijave takve materijale, a istovremeno podstiču odgovorno korišćenje društvenih medija.

Napori na prevenciji treba da se fokusiraju na edukaciju dece, roditelja i društva u celini o bezbednom korišćenju interneta i društvenih mreža kao i potencijalnim rizicima povezanim sa deljenjem ličnih slika i informacija na internetu!