O risco dos deepfakes aumenta: Professores em poses sugestivas!

Para Luis DeSantiago, professor substituto em Los Banos, Califórnia, o pesadelo começou com algumas mensagens de texto. No dia 12 de março, enquanto trabalhava no seu outro emprego em uma cafeteria, o celular acendeu: uma colega avisava que uma foto sua, gerada por Inteligência Artificial, estava circulando nas redes sociais. E o pior: em vez do uniforme de trabalho que ele vestia na foto original, a IA o colocou usando lingerie, em uma pose sugestiva.

O caso de DeSantiago, infelizmente, não é isolado. Investigações mundo a fora tem descoberto que uma nova e perturbadora tendência está varrendo as escolas: alunos utilizando ferramentas de IA para gerar fotos e vídeos de cunho sexual e difamatório de seus próprios educadores.

O impacto psicológico e profissional tem sido devastador, levando muitos profissionais a repensar suas carreiras e a forma como se relacionam com as turmas.

O Rastro da Falsa Suspeita

A investigação do caso de DeSantiago revelou um cenário preocupante:

• Autoria identificada: A conta do TikTok que espalhava a imagem usava o nome real de um aluno do ensino fundamental, escola onde o professor costumava dar aulas.

• Assédio coordenado: Logo depois, um segundo aluno criou uma conta falsa se passando pelo professor.

• Ameaça silenciosa: DeSantiago alertou a direção escolar sobre o perigo invisível: "Se esses alunos não têm medo de gerar e postar essas imagens públicas, o que eles podem estar circulando privadamente em mensagens e grupos?"

• Efeito cascata: Mesmo após um aluno ser suspenso e o professor mudar para uma escola de ensino médio na mesma região, o assédio o acompanhou. Durante uma aula, tentaram lhe enviar a mesma foto via AirDrop. Sentindo-se inseguro, DeSantiago declarou que provavelmente não voltará a dar aulas no distrito este ano.

"Isso te faz questionar tudo"

O problema se agrava pela falta de um protocolo claro sobre como lidar com o assédio gerado por IA no ambiente escolar. Segundo Donna Ballman, advogada especializada em questões trabalhistas, a criação e o compartilhamento de imagens sexuais de professores por alunos é um "caso claro" de assédio sexual no local de trabalho. As escolas têm a obrigação federal de garantir um ambiente seguro, mas não há um "manual de instruções" de como agir nesses novos moldes digitais.

Os relatos colhidos ilustram a gravidade da situação:

• Ondas de ataques: Uma professora do ensino fundamental (que pediu anonimato) relatou que alunos pegaram fotos de uma professora na casa dos 60 anos, manipularam-nas para simular atos sexuais e espalharam pelo Snapchat.

• Clonagem digital: A mesma professora mais jovem teve sua voz e rosto clonados em vídeos no TikTok, onde "ela" aparecia falando sobre atos sexuais. Alguns alunos menores chegaram a acreditar que a conta era real. O assédio evoluiu para agressões verbais cara a cara até que o aluno responsável, que já tinha histórico de problemas comportamentais, saísse do distrito.

• Quebra de confiança: Alice, uma conselheira escolar no Reino Unido, descobriu que um vídeo seu conversando com um aluno foi manipulado para mostrá-la tirando a roupa e dançando de calcinha (ou biquíni). Como seu trabalho envolve falar abertamente sobre temas delicados como drogas e sexo seguro, o incidente destruiu sua segurança. "Isso me faz refletir se ele achou que podia cruzar a linha por causa das nossas discussões. Faz você questionar tudo", desabafou.

• Homofobia algorítmica: Luke Red, professor da sexta série no Arizona, viu seus alunos espalharem uma foto gerada por IA nos comentários do seu próprio TikTok, mostrando-o beijando outro professor. O aluno foi identificado e levou três dias de suspensão, a punição máxima para réus primários de sua idade no distrito.

Para Red, a questão central não é apenas o ataque pessoal, mas a cultura permissiva e inconsequente que se formou ao redor da tecnologia. "Eles simplesmente não entendem como o que estão fazendo pode afetar os outros, nem como a internet funciona e quão perigosa ela pode ser" conclui o professor, resumindo o desafio monumental que a educação enfrenta na era da inteligência artificial generativa.