Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Times.
Em uma manhã de segunda-feira em outubro passado, Elliston Berry, uma caloura do ensino médio do Texas, se lembra de ter acordado com uma enxurrada de mensagens telefônicas.
Seus amigos na pequena cidade de Aledo, Texas, estavam avisando-a de algo que não era nada bom.
Fotos do Instagram, alteradas por um aplicativo de inteligência artificial (IA), mostravam fotos de nudez dela e de oito amigas sendo compartilhadas pelo Snapchat. Por fim, a maioria dos adolescentes da Aledo High School acabou vendo as fotos.
Com a mente acelerada, Elliston, agora com 15 anos, lembrava-se de ter sentido medo, choque e repulsa, e tinha vergonha de contar à mãe.
No mesmo mês, a quase 2.600 quilômetros de distância, na Westfield High School, em Nova Jersey, Francesca Mani, então com 14 anos, e várias outras meninas do ensino médio descobriram que imagens de si mesmas nuas geradas por IA estavam circulando on-line.
As duas meninas contaram suas histórias durante uma audiência no Senado organizada pelo senador Ted Cruz (R-Texas) em 26 de junho sobre o problema crescente de imagens íntimas não consensuais, também chamado de “pornografia de vingança” on-line.
“Inicialmente me senti chocada, depois impotente e irritada com a ausência de leis e políticas escolares para nos proteger”, testemunhou Francesca. Sentado ao lado dela na audiência, Elliston acrescentou: “Fiquei sem palavras enquanto tentava entender o fato de que isso estava acontecendo”.
Ambas tiveram que lutar para que as imagens fossem removidas, enquanto pouco ou nada aconteceu com os garotos do ensino médio responsáveis pela criação das imagens, disseram as garotas.
O Sr. Cruz fazia parte de um grupo bipartidário que apresentou a Take it Down Act para combater o uso de imagens sexuais e imagens geradas por computador usadas para difamar alvos e até mesmo chantageá-los.
O projeto de lei tornaria crime federal alguém publicar ou ameaçar publicar intencionalmente conteúdo pornográfico falso nas mídias sociais ou on-line.
Ela criminalizaria a ameaça de publicação ou a publicação de imagens íntimas não consensuais no comércio interestadual.
As penalidades incluem pena de prisão.
O projeto de lei também exige que os sites removam imagens ou vídeos falsos dentro de 48 horas após serem notificados por uma vítima e que façam “esforços razoáveis” para remover cópias do material.
Esse componente é considerado vital porque as empresas de tecnologia geralmente demoram a responder ou não respondem aos pais e adolescentes que tentam remover imagens.
Testemunho das consequências
Elliston e sua mãe, Anna McAdams, tentaram por oito meses fazer com que o Snapchat retirasse as imagens, mas nada aconteceu até que a família entrou em contato com o Sr. Cruz para pedir ajuda.
“Não deveria ser necessária a intervenção de um senador para derrubá-los”, disse Cruz.
A Comissão Federal de Comércio (FTC, na sigla em inglês) teria o poder de aplicar penalidades aos sites que não estivessem em conformidade, disse ele.
O projeto de lei foi concebido para criminalizar imagens pornográficas publicadas conscientemente, sem prejudicar o discurso legal.
O Sr. Cruz disse que o projeto de lei é necessário para lidar com a exploração sexual de menores por meio da tecnologia, enfatizando a importância de criar um impedimento sólido para impedir a disseminação de imagens não consensuais de menores.
Ambas as adolescentes testemunharam que os agressores, que eram colegas de classe do sexo masculino, foram protegidos pelo sistema mesmo quando as meninas estavam sendo traumatizadas.
Francesca, agora com 15 anos, disse que decidiu se manifestar publicamente para acabar com o abuso on-line que ela e outras pessoas sofreram.
Ela disse que sua escola e outras precisam atualizar suas políticas sobre imagens geradas por IA. Apenas um dos meninos responsáveis pela publicação de imagens falsas de Francesca recebeu punição, que foi um dia de suspensão.
Eles até tinham permissão para assistir às mesmas aulas que ela, disse ela.
As empresas de mídia social poderiam facilmente colocar conteúdo sexualizado off-line, mas se recusam a fazê-lo em muitos casos e precisam ser responsabilizadas, disse ela.
“Nós, meninas, estamos sozinhas e, considerando que 96% das vítimas de IA falsa são mulheres e crianças, também estamos seriamente vulneráveis e precisamos de sua ajuda”, disse Francesca.
“Sem o projeto de lei do senador Cruz, continuaremos a ter adolescentes fazendo imagens falsas de meninas com IA.”
O Epoch Times entrou em contato com o Snapchat para comentar.
A empresa de mídia social atualizou suas diretrizes da comunidade em maio, abordando especificamente o conteúdo sexual.
“Proibimos qualquer atividade que envolva exploração ou abuso sexual de um menor, inclusive o compartilhamento de imagens de exploração ou abuso sexual de crianças, aliciamento ou sexualização de crianças”, afirma a política. Ela continua dizendo que a exploração sexual infantil é denunciada à polícia.
A perspectiva de uma mãe
A Sra. McAdams, que também falou na audiência, disse que foi necessário um esforço persistente para que a escola agisse contra o colega de classe que criou as imagens que prejudicaram sua filha. Embora a estrela pop Taylor Swift tenha conseguido fazer com que os gigantes da mídia social agissem rapidamente para remover imagens sexualizadas dela, a história foi diferente para essas meninas do ensino médio, disse ela.
O colega de classe disse a outras pessoas que decidiu “arruinar as meninas” e “sair com um estrondo”, o que tornou a situação mais assustadora devido ao ambiente atual de tiroteios em escolas, disse ela.
Sua filha e as outras meninas ficaram em casa a maior parte da semana, mas voltaram na sexta-feira após o incidente de outubro. A escola entrou em isolamento depois que se espalhou a notícia de que “alguém estava atrás delas”.
O menino responsável pelas imagens “profundamente falsas” foi pego depois de entrar na Internet durante o bloqueio para “continuar a aterrorizar” as meninas durante o incidente, o que permitiu que a equipe de tecnologia da escola o pegasse, disse ela.
“Essas meninas tinham 14 anos de idade. A inocência delas foi tirada naquele dia, em apenas 24 horas”, disse McAdams.
Como o autor do crime era menor de idade, nem a escola nem a polícia forneceram seu nome às famílias das meninas.
Elas só souberam de sua identidade depois de pedir à escola que investigasse o incidente como uma violação do Título IX, que abrange a discriminação com base no sexo em escolas que recebem verbas federais.
Os administradores da escola suspenderam o agressor, embora a Sra. McAdams tenha dito que ela e seu marido pediram ao conselho escolar que o expulsasse.
Por fim, o garoto se retirou da escola de Elliston.
Ele foi acusado de uma contravenção de classe A, mas recebeu liberdade condicional. Quando ele completar 18 anos, seu registro será excluído, disse a Sra. McAdams.
“Ele sairá ileso. No entanto, nossas meninas viverão para sempre com medo de que, quando se candidatarem a um emprego ou forem para a faculdade, essas fotos possam voltar à tona”, disse ela.
Mais tarde, o Sr. Cruz disse aos repórteres que as pessoas precisam entender que esses não são crimes sem vítimas e que o dano permanece com elas por toda a vida.
O mecanismo de aplicação do projeto de lei para as grandes empresas de tecnologia é modelado de acordo com as leis de direitos autorais, disse ele, permitindo que a FTC imponha “penalidades significativas” caso elas não cumpram a lei.
O senador do Texas disse estar confiante de que o projeto de lei receberá apoio de ambos os lados do corredor se sair do comitê. Ele espera que o projeto se torne lei até o final do ano.
A lei daria aos pais ferramentas para combater os danos causados a seus filhos nas mídias sociais, disse ele.
A mídia social pode desencadear depressão e ansiedade nas crianças, disse ele.
“Há conteúdo que promove a automutilação, que promove a ideação suicida, há conteúdo que promove o abuso de substâncias”, disse ele.
Andrea Powell, defensora e especialista em exploração sexual, testemunhou que se encontrou com mais de 50 sobreviventes de violência sexual na Internet, inclusive menores de idade.
Um dos problemas significativos que o projeto de lei poderia corrigir é a remoção rápida do conteúdo, disse ela.
As meninas não são as únicas vítimas.
Um relatório recente mostrou que os esquemas de “sextortion” (ou “sextorsão”, esquemas de extorsão baseados em chantagem com imagens explícitas) direcionados a meninos adolescentes estão aumentando.
O National Center for Missing & Exploited Children informou que recebeu uma média de 812 denúncias de “sextorsão” por semana entre agosto de 2022 e agosto de 2023. Mais de dois terços dessas denúncias têm “motivação financeira”, de acordo com o relatório.
Stefan Turkheimer, vice-presidente de políticas públicas da Rape, Abuse & Incest National Network, testemunhou que a sextorsão é um problema crescente que afeta as crianças.
As vítimas menores de idade usam principalmente a linha direta de seu grupo, e suas histórias às vezes envolvem agressão sexual que ocorre após a publicação de fotos sexualizadas, disse ele.
As crianças são frequentemente enganadas on-line para criar imagens sexuais por outras pessoas que se fazem passar por crianças.
Algumas crianças acabam tirando suas próprias vidas depois de serem apanhadas nos esquemas, disse ele.
“Muitos desses jovens não percebem que há maneiras de sair dessa situação e, por isso, estão tirando suas próprias vidas”, disse ele.
Aldgra Fredly contribuiu para esta reportagem.
