Thibodaux, Louisiana (AP) – As provocações foram implacáveis. Fotos nuas de uma menina de 13 anos e suas amigas, geradas por inteligência artificial, circularam nas redes sociais e viraram assunto em uma escola de ensino médio na Louisiana.
As meninas imploraram ajuda primeiro a um orientador escolar e depois a um delegado do xerife designado para sua escola. Mas as fotos foram compartilhadas no Snapchat, um aplicativo que exclui mensagens segundos depois de serem visualizadas, e os adultos não conseguiram encontrá-las. O diretor duvidou que eles existissem.
Entre as crianças, as fotos ainda circulavam. Quando a menina de 13 anos entrou no ônibus escolar da paróquia de Lafourche, no final do dia, um colega estava mostrando um deles a um amigo.
“Foi então que fiquei com raiva”, lembrou a aluna da oitava série em sua audiência disciplinar.
Enojado, ele ataca um menino no ônibus, convidando outros para se juntarem a ele. Ele foi expulso da Sixth Ward Middle School por mais de 10 semanas e enviado para uma escola alternativa. Ela disse que o menino que ela e suas amigas suspeitavam de ter feito as fotos não foi enviado com ela para aquela escola alternativa. Os advogados da menina de 13 anos alegaram que ela evitou completamente a disciplina escolar.
O departamento do xerife tomou a atitude oposta ao investigar o caso. Eles acusaram os dois meninos acusados de compartilhar as fotos reveladoras – e não a menina.
O episódio da Louisiana destaca o potencial de pesadelo dos deepfakes de IA. Eles podem e melhoram a vida das crianças na escola e em casa. E embora as escolas estejam a trabalhar para abordar a inteligência artificial no ensino em sala de aula, muitas vezes têm feito pouco para se prepararem para o que a nova tecnologia significa para o cyberbullying e o assédio.
Mais uma vez, à medida que as crianças utilizam cada vez mais as novas tecnologias para prejudicarem umas às outras, os adultos ficam atrás da curva, disse Sergio Alexander, investigador associado da Texas Christian University que se concentra em tecnologias emergentes.
“Quando ignoramos os danos digitais, o único momento visível é quando a vítima finalmente quebra”, disse Alexander.
Na paróquia de Lafourche, o distrito escolar seguiu todos os seus protocolos para denunciar má conduta, disse o superintendente Jarrod Martin em um comunicado. Ele disse que foi apresentada uma “história unilateral” do caso que não conseguiu retratar sua “abrangência e natureza complexa”.
O pesadelo de uma garota começa com rumores
Depois de ouvir rumores sobre as fotos nuas, a jovem de 13 anos disse que marchou com duas amigas até um orientador por volta das 7h do dia 26 de agosto – uma delas quase chorando.
Ela estava lá para apoio moral, inicialmente sem perceber que sua foto estava ali, de acordo com depoimento na audiência disciplinar de sua escola.
Finalmente, uma investigação de uma semana na escola em Thibodaux, cerca de 72 quilômetros a sudoeste de Nova Orleans, descobriu imagens nuas geradas por IA de oito estudantes do ensino médio e dois adultos, disseram o distrito e o gabinete do xerife em um comunicado conjunto.
O pai da menina, Joseph Daniels, descreveu como eles foram “colocados em cima dela com o rosto completamente nu”.
Até recentemente, a criação de deepfakes realistas exigia alguma habilidade técnica. A tecnologia agora torna mais fácil extrair uma foto das redes sociais, “nudá-la” e criar um pesadelo viral para um colega de classe desavisado.
A maioria das escolas está “apenas enterrando a cabeça na areia, esperando que isso não aconteça”, disse Sameer Hinduja, codiretor do Centro de Pesquisa sobre Cyberbullying e professor de criminologia na Florida Atlantic University.
O Distrito Escolar da Paróquia de Lafourche acaba de começar a desenvolver uma política de inteligência artificial. As diretrizes de IA a nível escolar dirigem-se principalmente aos educadores, de acordo com documentos fornecidos através de um pedido de registos. O distrito também não atualizou o treinamento sobre cyberbullying para refletir a ameaça de imagens sexualmente explícitas geradas por IA. O currículo utilizado por suas escolas a partir de 2018.
Uma investigação escolar atingiu a barreira
Embora as meninas da Sixth Ward Middle School não tenham visto as fotos, elas ouviram falar delas pelos meninos da escola. Com base nessa conversa, as meninas acusaram uma colega e dois alunos de outras escolas de criarem e divulgarem os nus no Snapchat e possivelmente no TikTok.
O diretor Daniel Coryell disse que a investigação esfriou naquele dia porque nenhum aluno assumiu a responsabilidade. De acordo com gravação da audiência disciplinar, o deputado lotado na escola procurou, sem sucesso, as imagens nas redes sociais.
“Fui levado a acreditar que eram apenas boatos e boatos”, disse o pai da menina, contando uma conversa que teve com o conselheiro da escola naquela manhã.
Mas a menina não teve sorte e um relatório de incidente policial mostrou que mais meninas relataram que também haviam sido vítimas. A menina de 13 anos voltou ao conselheiro à tarde, pedindo para ligar para o pai. Ele disse que foi rejeitado.
Seu pai disse que ele enviou uma mensagem de texto que dizia “Pai” e nada mais. Eles não conversaram. Brincando, a garota mandou uma mensagem para a irmã: “Não aguento”.
À medida que o dia escolar terminava, o diretor estava cético. Na audiência de sentença, o advogado da menina perguntou por que os delegados do xerife não verificaram o telefone do menino acusado pelas meninas e por que ele foi autorizado a andar no mesmo ônibus que a menina.
“As crianças mentem muito”, respondeu o Diretor Coryell. “Eles mentem sobre todos os tipos de coisas. Eles exageram as coisas todos os dias. Em 17 anos, eles fazem isso o tempo todo. Então, que eu saiba, quando voltei às 2 da manhã, não havia fotos.”
O ônibus escolar colidiu
Quando a menina entrou no ônibus, 15 minutos depois, o menino estava mostrando as imagens geradas pela IA para um amigo. Fotos falsas de nus de seus amigos eram visíveis no telefone do menino, disse a menina, conforme afirma uma foto tirada no ônibus. Na reunião do conselho escolar, o Superintendente Martin disse que um vídeo do ônibus escolar mostrou pelo menos meia dúzia de estudantes circulando as imagens.
“Passei o dia inteiro sendo provocada e provocada por causa do meu corpo”, disse a garota após ouvi-lo. Ao embarcar no ônibus, ele disse, ficando cada vez mais irritado.
O diretor Coryell disse que deu um tapa no menino depois de olhar para o telefone. O menino parou de bater, mostra um vídeo.
Ele bateu nela pela segunda vez. Então, disse o diretor, a menina perguntou em voz alta: “Por que estou fazendo isso sozinha?” Dois colegas bateram no menino, disse o diretor, antes que o garoto de 13 anos subisse em uma cadeira e o socasse e empurrasse.
O vídeo da luta foi postado no Facebook. “O sentimento esmagador nas redes sociais foi de indignação e de exigência de que os estudantes envolvidos na luta sejam responsabilizados”, afirmaram o distrito e o gabinete do xerife num comunicado conjunto divulgado em Novembro.
A menina não teve problemas disciplinares anteriores, mas foi matriculada em uma escola alternativa porque o distrito estava prestes a expulsá-la por um semestre inteiro – 89 dias letivos.
Semanas depois, um menino foi acusado
Três semanas depois da briga, no dia da audiência disciplinar da menina, os meninos foram acusados pela primeira vez.
O estudante foi acusado de 10 acusações de disseminação ilegal de imagens criadas por inteligência artificial sob uma nova lei estadual da Louisiana, parte de uma onda de leis desse tipo em todo o país. Um segundo menino foi acusado de acusações idênticas em dezembro, disse o departamento do xerife. Nenhum foi identificado pelas autoridades devido à idade.
A menina não enfrentará nenhuma acusação devido ao que o gabinete do xerife descreveu como “a totalidade das circunstâncias”.
Na audiência disciplinar, o diretor se recusou a responder às perguntas dos advogados da menina sobre que tipo de disciplina escolar o menino enfrentaria.
O distrito disse em um comunicado que as leis federais de privacidade dos estudantes o proíbem de discutir os registros disciplinares individuais dos estudantes. Um dos advogados da menina, Gregory Miller, disse não ter conhecimento de nenhuma política escolar para colegas acusados de compartilhar fotos.
No final das contas, o painel expulsou o jovem de 13 anos. Ele chorou, disse seu pai.
“Ele se sentiu vítima várias vezes – vendo as fotos e a escola não acreditando nele e colocando-o no ônibus e depois expulsando-o por suas ações”, disse ela em entrevista.
Fallout tira um aluno do curso
Depois de ser mandada para uma escola alternativa, a menina começou a pular refeições, disse seu pai. Incapaz de se concentrar, ele não concluiu nenhum trabalho escolar on-line por vários dias antes de seu pai o levar para terapia para depressão e ansiedade.
No início, ninguém percebeu quando ele parou de fazer suas tarefas, disse seu pai.
“Ele meio que foi deixado para trás”, disse ela.
Seus advogados apelaram ao conselho escolar e outra audiência foi marcada para sete semanas depois.
A essa altura, já havia passado tempo suficiente para que ele pudesse retornar à sua antiga escola em liberdade condicional. Mas ela faltou às tarefas antes de procurar tratamento para a depressão, por isso o distrito queria que ela permanecesse num local alternativo por mais 12 semanas.
Para estudantes suspensos ou expulsos, os efeitos podem durar anos. É mais provável que sejam suspensos novamente. Eles se desconectam dos colegas de classe e têm maior probabilidade de se desligar da escola. É mais provável que tenham notas mais baixas e taxas de graduação mais baixas.
Um dos advogados da menina, Matt Ory, disse ao conselho em 5 de novembro: “Ela já abandonou a escola o suficiente”. “Ele é uma vítima.
“Ela”, ele repetiu, “é uma vítima”.
Martin, o superintendente, respondeu: “Às vezes na vida podemos ser vítimas e perpetradores”.
Mas o tabuleiro está tremendo. Um membro, Henry Lafont, disse: “Há muitas coisas naquele vídeo que não gosto. Mas estou tentando colocar em perspectiva o que ele passou o dia todo.” Eles permitiram que ele retornasse ao campus imediatamente. Seu primeiro dia na escola foi em 7 de novembro, embora ele fique em liberdade condicional até 29 de janeiro.
Isso significa nada de dança, nada de esportes e nada de atividades extras. Ele já perdeu as seletivas de basquete, o que significa que não poderá jogar nesta temporada, disse seu pai. Ele achou a situação “dolorosa”.
“Eu esperava que ele fizesse grandes amigos, eles estudassem juntos no ensino médio e, você sabe, isso manteria todos longe de problemas e no caminho certo”, disse seu pai. “Acho que eles estragaram tudo.”
___
A cobertura educacional da Associated Press recebe apoio financeiro de diversas fundações privadas. A AP é a única responsável por todo o conteúdo. Encontre os padrões da AP para trabalhar com filantropos, lista de apoiadores e áreas de cobertura financiadas em AP.org.
___
Hollingsworth relatou de Mission, Kansas.
