A humilhação, o medo e o isolamento se tornam reais a partir de algo que nunca existiu. Essa é a cruel paradoxo dos deepfakes sexuais, conteúdos gerados por inteligência artificial que simulam situações íntimas e expõem vítimas, muitas vezes adolescentes, a uma violência devastadora.
O que antes exigia um registro verdadeiro, como uma fotografia capturada sem consentimento, hoje pode ser fabricado em minutos a partir de qualquer imagem comum publicada nas redes sociais. A tecnologia cria a imagem, mas é a rede que propaga a dor.
No ambiente escolar, este fenômeno adiciona uma nova e perigosa camada a problemas já conhecidos, como bullying, exposição pública e violência de gênero. As fronteiras entre o que é real e o que é fabricado tornam-se cada vez mais difusas para quem sofre as consequências.
A Realidade Inventada: O Avanço dos Deepfakes e Suas Vítimas
Um levantamento recente da SaferNet Brasil expôs a dimensão preocupante do problema, identificando 16 casos de deepfakes sexuais registrados em escolas de dez estados brasileiros entre 2023 e 2025. O estudo, apoiado pelo fundo Safe Online do Fundo das Nações Unidas para a Infância (Unicef), apontou 57 agressores e 72 vítimas, todos menores de 18 anos na época dos incidentes.
É fundamental compreender, no entanto, que esses números podem ser apenas a ponta do iceberg. A própria SaferNet destaca a ausência de um sistema abrangente capaz de monitorar a ocorrência desses crimes e o andamento das investigações em todo o país.
Em um único caso no Distrito Federal, por exemplo, a violência atingiu dez vítimas simultaneamente. Por trás das estatísticas, reside uma questão humana e psicológica ainda mais complexa: o que acontece com uma adolescente quando uma imagem falsa é tratada socialmente como autêntica?
A inteligência artificial generativa democratizou ferramentas antes restritas a especialistas. Aplicativos que alteram imagens e produzem representações sexualizadas hoje circulam livremente entre adolescentes, muitas vezes em comunidades fechadas de plataformas como Discord e Telegram.
A tecnologia, aqui, não cria novos desejos, mas potencializa comportamentos já existentes. Humilhar alguém continua sendo um ato de humilhação; expor, um ato de exposição. A mudança reside na facilidade e velocidade com que uma imagem pode ser produzida, multiplicada e distribuída, amplificando o alcance do dano.
“Quando esse tipo de conteúdo circula em comunidades online sem moderação, o impacto emocional nas vítimas pode ser devastador”, alerta Cléo Garcia, advogada, pesquisadora e doutoranda em Educação pela Unicamp.
Garcia aponta para uma possível conexão entre essa forma de violência e processos de radicalização de adolescentes, especialmente em ambientes digitais que reforçam discursos de ódio, misoginia e desumanização. A questão transcende a imagem gerada pela IA, alcançando o ecossistema que a permite circular como instrumento de poder.
A vítima pode ser conhecida pelo agressor, estudar na mesma escola ou simplesmente ter uma fotografia acessível nas redes. A partir daí, uma imagem cotidiana é transformada em algo que nunca ocorreu, gerando consequências verdadeiras: vergonha, isolamento, medo de frequentar a escola, constrangimento e dificuldade de confiar novamente nas pessoas.
Impacto na região
Embora os casos citados no levantamento da SaferNet Brasil venham de diferentes estados, a dinâmica da internet globaliza problemas que antes pareciam distantes. A realidade dos deepfakes nas escolas é um desafio que se manifesta em qualquer comunidade conectada, incluindo Jundiaí e cidades vizinhas.
Para pais, educadores e alunos da região, a ameaça é concreta e exige atenção. A mesma tecnologia que permite a criação dessas imagens falsas em grandes centros urbanos está acessível a qualquer um com um smartphone. Conhecer os riscos e as formas de proteção se torna, portanto, uma necessidade imediata para a segurança digital local.
O Dano que Não Termina na Tela: Consequências Reais para Vidas Digitais
Existe uma tendência perigosa de considerar a violência virtual como algo menos concreto do que a violência presencial. No entanto, para a vítima, essa fronteira é praticamente inexistente. O sofrimento gerado online se manifesta intensamente no dia a dia offline.
A pessoa exposta continua encontrando os mesmos colegas, precisa voltar para a sala de aula, participar de grupos, circular pelos corredores e conviver com a possibilidade de que aquela imagem — falsa, mas humilhante — tenha sido vista ou esteja sendo compartilhada por alguém próximo.
É por essa razão que especialistas defendem que as escolas não encarem os deepfakes apenas como uma questão tecnológica. O problema vai muito além de um mero incidente digital; ele afeta diretamente o ambiente de aprendizagem e o bem-estar dos estudantes, demandando uma ação coordenada.
Desde janeiro de 2024, o bullying e o cyberbullying foram incorporados ao Código Penal brasileiro, com previsões de punições específicas para esses crimes. Contudo, para Cléo Garcia, a existência da lei é apenas uma das vertentes da resposta necessária e multifacetada.
O enfrentamento eficaz também exige a criação de protocolos claros, o acolhimento humanizado das vítimas e a capacitação de profissionais para reconhecer e intervir em situações de violência. “Vejo a violência tecnológica como uma nova linguagem para velhas feridas sociais”, expressa Garcia, contextualizando o fenômeno.
Sua afirmação ajuda a posicionar o deepfake em uma perspectiva mais ampla. A inteligência artificial pode ter fornecido uma nova ferramenta, mas não inventou a necessidade humana de pertencer, a crueldade da exclusão nem a dinâmica de transformar alguém em alvo diante de um grupo social, apenas as amplificou.
A Nova Face da Educação: Escolas em Confronto com a Era Digital
O grande desafio atual para as instituições de ensino é como lidar com algo que, muitas vezes, não nasce dentro de seus muros, mas inevitavelmente invade seus corredores. Uma imagem pode ser produzida à noite, em casa, via celular, mas na manhã seguinte já circula entre dezenas de estudantes.
Nesse intervalo, surge uma das maiores dificuldades para educadores: como agir diante de uma violência que não teve origem na escola, mas produz consequências diretas e profundas em seu ambiente e na vida dos alunos? A resposta não reside apenas em proibir celulares ou bloquear plataformas.
Também não é produtivo transferir toda a responsabilidade para adolescentes que, muitas vezes, ainda não compreendem a dimensão e as consequências do que estão compartilhando. A complexidade exige uma abordagem mais sistêmica e preventiva, que envolva toda a comunidade.
O trabalho de prevenção envolve, naturalmente, a educação digital, mas também se estende a temas mais amplos e fundamentais: consentimento, privacidade, sexualidade, respeito mútuo, responsabilidade coletiva e a compreensão profunda dos efeitos que uma exposição pública pode gerar.
Para Garcia, as intervenções socioeducativas devem ser parte integrante dessa resposta. A escola precisa criar espaços de diálogo abertos, desenvolver uma cultura de cuidado e estabelecer caminhos claros para que as vítimas saibam a quem recorrer em momentos de vulnerabilidade.
Isso significa ensinar algo que talvez seja mais vital do que simplesmente aprender a usar uma nova tecnologia: entender que ter a capacidade técnica para fazer algo não confere o direito de fazê-lo, especialmente quando isso prejudica a dignidade e a intimidade alheia.
Por Trás do Algoritmo: Compreendendo a Profundidade da Exposição
Existe um ator silencioso e influente nessa trama: o algoritmo. Plataformas digitais são estruturadas para identificar o que mais atrai atenção e mantém o usuário conectado. Conteúdos que provocam emoções intensas, infelizmente, podem alcançar um número maior de pessoas.
Enquanto isso, os sistemas automatizados aprendem e se adaptam aos comportamentos dos usuários, criando um ciclo de reforço contínuo. A professora e pesquisadora Sandra Ávila, do Instituto de Computação da Unicamp, ressalta essa lógica intrínseca às redes.
Em sua área de pesquisa, a inteligência artificial é aplicada para reconhecer padrões e analisar vastos volumes de dados, inclusive podendo ajudar na identificação de casos de violência. Contudo, o mesmo princípio pode ser pervertido para produzir e disseminar conteúdos prejudiciais.
Os aplicativos capazes de “desnudar” digitalmente uma pessoa são um exemplo claro dessa dualidade. Segundo Ávila, os casos identificados pela SaferNet representam, provavelmente, apenas uma fração do fenômeno real, dada a dificuldade de monitoramento e de notificação.
Um obstáculo adicional alarmante é a facilidade com que tutoriais para produzir esse tipo de material podem ser encontrados na internet. A tecnologia, portanto, segue um ritmo de avanço muito mais acelerado do que a capacidade das instituições em compreender e mitigar seus efeitos adversos.
Uma Luta Antiga com Ferramentas Novas
Talvez este seja o ponto mais crucial para entender a disseminação dos deepfakes sexuais em ambientes escolares. A discussão não se limita ao que uma máquina consegue fabricar; ela se aprofunda no que a sociedade decide fazer com aquilo que a tecnologia torna possível.
Uma fotografia pode ser convertida em uma imagem de nudez falsa. Uma brincadeira inocente pode se transformar em humilhação coletiva. Uma postagem despretensiosa nas redes sociais pode se converter em um instrumento perverso de perseguição e exclusão, impactando vidas permanentemente.
Uma tecnologia criada para manipular imagens acaba revelando algo muito mais antigo e arraigado em nossa cultura: a maneira como ainda lidamos com o corpo feminino, com a intimidade alheia, com a diferença e, sobretudo, com o poder de expor o outro para satisfação própria ou de um grupo.
Por isso, o combate a essa forma de violência não se restringe à criação de ferramentas tecnológicas capazes de identificar uma imagem falsa. Ele exige a construção de uma cultura sólida, onde a humilhação deixe de ser vista como entretenimento e a exposição não seja uma moeda social de aceitação ou status.
É preciso que a tecnologia seja compreendida em sua essência: uma ferramenta, nunca uma autorização para ultrapassar os limites da dignidade e da privacidade alheia, ou para infringir a lei e causar sofrimento irrecuperável. Essa é a base para um futuro digital mais seguro e humano.
