Meta podržava novu platformu za pomoć maloljetnicima da obrišu gole, seksualne slike s interneta

TNacionalni centar za nestalu i eksploatisanu decu pokrenuo je platformu, koju finansira Meta, kako bi pomogao deci i tinejdžerima da uklone gole ili seksualne fotografije i video snimke sa društvenih medija.

Nova usluga za maloljetnike, tzv Take It Down, predstavljen je godinu dana nakon objavljivanja sličnog alata za odrasle poznatog kao StopNCII (skraćenica za intimne slike bez pristanka). Danas će Take It Down raditi samo na pet platformi koje su pristale da učestvuju: Facebook i Instagram u vlasništvu Meta, kao i Yubo, OnlyFans i Pornhub.

“Stvorili smo ovaj sistem jer se mnoga djeca suočavaju sa ovim očajnim situacijama,” rekla je predsjednica i izvršna direktorica NCMEC-a Michelle DeLaune. “Nadamo se da djeca postanu svjesna ove usluge i da osjećaju olakšanje što postoje alati koji pomažu u uklanjanju slika.”

Kako kompanije na društvenim mrežama štite djecu i tinejdžere – i gdje su u nedostatku – pojavilo se kao glavno pitanje dvostranačke tehnološke politike u novom Kongresu i pitanje u kojem zakonodavci imaju najbolju šansu za donošenje zakona. Ipak, predstoji dug put za bilo kakve prijedloge za stvaranje ili jačanje zaštitnih mjera, a bez neizbježnih zakona, NCMEC nastavlja da djeluje kao most između internet kompanija i organa za provođenje zakona o pitanjima sigurnosti djece. U 2021., neprofitna organizacija je primila skoro 30 miliona savjeta iz cijele industrije o očiglednom seksualnom zlostavljanju i seksualnom zlostavljanju djece na njihovim platformama. Većinu su prijavile platforme u vlasništvu Mete.

Maloljetnici i roditelji mogu koristiti NCMEC-ov besplatni, anonimni alat označiti eksplicitni materijal maloljetne osobe koji je – ili za koji misle da će biti – raširen na internetu. Nakon što odaberu osjetljive fotografije ili videozapise na svom uređaju, platforma generira ekvivalent digitalnog otiska prsta te fotografije (nazvan “hash”) koji NCMEC zatim dijeli sa web lokacijama društvenih medija koji učestvuju kako bi mogli pokušati pronaći, ograničiti ili ukloniti i nastaviti pratiti taj sadržaj.

Fotografije ili video snimci u pitanju ne napuštaju uređaj i niko ih ne gleda, navodi NCMEC. (Haš takođe čini žrtve neidentifikovanim i za NCMEC i za aplikaciju društvenih medija, signalizirajući samo da je slika štetna i da bi je trebalo ukloniti.) NCMEC kaže da nije bilo poznatih povreda njegove baze podataka koje bi potencijalno mogle razotkriti identitet pojedinca .

Ali jedna od najvećih prepreka za ovaj napor je porast end-to-end enkripcije. “Kada tehnološke kompanije implementiraju end-to-end enkripciju, bez ugrađenih preventivnih mjera za otkrivanje poznatog materijala seksualnog zlostavljanja djece, utjecaj na sigurnost djece je razoran,” rekao je DeLaune, predsjednik NCMEC-a pred Senatskim pravosudnim odborom na saslušanju ovog mjeseca. . Slon u sobi je da je finansijski podržavalac i najistaknutija kompanija uključena u Take It Down, Meta, krećući se u klipu prema end-to-end enkripciji na Instagramu i Messengeru.

Kako ove dvije organizacije mogu pomiriti ovo je "pitanje od milion dolara", rekao je potpredsjednik NCMEC-a Gavin Portnoy Forbes, uz napomenu da NCMEC još uvijek ne zna tačno kakvi su planovi Mete za šifriranje i koje mjere zaštite bi mogle postojati. (Meta je rekao da je posao u toku i da se razne funkcije šifriranja testiraju na Instagramu i Messengeru.)

„Gradimo Take It Down za način na koji se danas nalaze internet i [provajder elektronskih usluga]“, rekao je Portnoy. “To je zaista most koji ćemo morati prijeći kada budemo bolje razumjeli kako izgleda [Metina] end-to-end enkripciono okruženje – i ako postoji svijet u kojem Take It Down može funkcionirati.”

rekla je Metina globalna šefica sigurnosti, Antigone Davis Forbes da će “šifriranje rezultirati time da mi nećemo identificirati određene slike”, ali da postaje industrijski standard u razmjeni poruka koji je od vitalnog značaja za privatnost i sigurnost korisnika. Korištenje hash tehnologije i podrška NCMEC-u na projektima kao što je ovaj jedan su od nekoliko načina na koje Meta pokušava "stvarno izaći ispred problema", rekla je ona. (Obe strane su odbile da kažu koliko je novca Meta dala NCMEC-u da napravi Take It Down.)

"Ne postoji lijek za rješavanje ovih problema", rekao je Davis u intervjuu, opisujući Metin pristup kao "višestruki". Pored saradnje na ovom novom sistemu koji ima za cilj sprečavanje seksualnog iznuđivanja i širenja intimnih slika bez saglasnosti, Meta ne dozvoljava odraslim strancima da se povežu sa maloletnicima putem svojih funkcija za razmenu poruka, rekla je ona. Također koristi klasifikatore kako bi spriječio da se računi i sadržaj maloljetnika proslijede odraslim korisnicima Meta-a koji su pokazali sumnjivo ponašanje na mreži, dodala je.

„Nadam se da će ljudi koji su imali takve slike koje je bilo ko dijelio dok su bili mladi – od strane roditelja koji ih je eksploatisao, druge odrasle osobe koja ih je eksploatisala, bivšeg dečka ili djevojke – da će se osjećati zainteresiranim za koristite ovaj alat,” rekao je Davis.

NCMEC je rekao da je predstavio neke 200 drugih provajdera elektronskih usluga koji su dostavili informacije svom “CyberTipline-u” o pridruživanju programu Take It Down. Ostaje da se vidi ko će se još – osim male šačice igrača na društvenim mrežama koji se danas zalažu za to – uključiti. Yubo je sa svoje strane rekao da se nada da će ovi rani korisnici potaknuti druge da se pridruže.

"Potrebno je više od intervencije vlade da bi se ublažio rizik i riješili problemi na mreži", rekao je izvršni direktor Yuboa Sacha Lazimi putem e-pošte. “Svi glumci moraju odigrati svoju ulogu. … Saradnja je ključna za identifikaciju rješenja za velike izazove, pa se nadamo da ćemo vidjeti više platformi koje će se pridružiti inicijativi Take It Down.”

VIŠE OD FORBESAKako je TikTok Live postao 'strip klub pun 15-godišnjaka'By Alexandra S. LevineVIŠE OD FORBESAOvi TikTok nalozi kriju materijal o seksualnom zlostavljanju djece na vidnom mjestuBy Alexandra S. LevineVIŠE OD FORBESATikTok moderatori se obučavaju da koriste grafičke slike seksualnog zlostavljanja djeceBy Alexandra S. Levine