A inteligência artificial ameaça turbinar o racismo e a misoginia crescentes nas escolas da Escócia, alertaram os professores.
Ferramentas poderosas de IA facilitaram a criação de áudio e vídeo realistas que parecem reais, mas são gerados por computador em segundos.
Agora, um sindicato de professores alertou que, sem ação, as ferramentas de IA poderiam ser usadas para intensificar o abuso alimentado pelas redes sociais.
Matt Reck, da NASUWT, cuja conferência anual acontece hoje, alertou: “A IA representa uma ameaça potencial à segurança e ao bem-estar das crianças e do pessoal escolar.
«Os professores estão a lidar com o aumento da retórica racista, sexista e anti-imigrante nas redes sociais, levando a incidentes de assédio, ameaças e violência.
«A IA ameaça turbinar esta ameaça, razão pela qual um desafio fundamental para o próximo governo escocês será equipar os jovens e professores com as ferramentas para reconhecer e prevenir distrações online, bem como uma maior regulamentação do uso da IA.»
Os sistemas de IA podem criar falsificações com aparência real quase que instantaneamente
Os sistemas de IA podem criar falsificações com aparência real quase que instantaneamente. E as ferramentas podem sobrepor rostos a outras pessoas para criar os chamados vídeos deepfake e até mesmo inventar vídeos realistas do zero com um simples prompt de texto.
Combinada com a tecnologia que pode replicar a voz humana, os educadores temem que os sistemas de IA possam ser usados para promover distrações e discursos de ódio online.
Os professores relataram tendências nas redes sociais de que suas gravações foram manipuladas pela IA para mostrar seus alunos gritando e xingando.
E as crianças têm usado a IA para criar imagens sexuais e violentas de professores para partilhar online. Alguns ficaram enojados desde que compartilharam imagens semelhantes de professores em filmes pornográficos.
Também estão a ser criadas contas falsas nas redes sociais usando nomes de professores, que as autoridades locais classificam como “degradantes, ofensivas, violentas e (por vezes) de natureza sexual”.
O sindicato quer um foco maior no combate à violência, ao abuso e à perturbação nas escolas.
