Os adolescentes estão crescendo, vendo a IA Chattobs como seres humanos, compartilhando detalhes íntimos e até pedindo conselhos sensíveis, foi encontrada uma campanha de proteção à Internet.
Os assuntos da Internet alertaram que Young e os pais eram “cegos” para “voar cegos” para gerenciar a tecnologia no estudo publicado ontem.
Pesquisadores de organizações sem fins lucrativos usaram a IA Chattbot para usar 35 % das crianças como Chatzpt ou minha IA (uma ramificação de Snapchat), dizendo que estava com vontade de conversar com um amigo, aumentou 50 % em crianças fracas.
E 12 % optaram por conversar com bots porque não havia ‘ninguém’ para conversar com eles.
O relatório, conhecido como IA e IA, revela que o bot está ajudando os adolescentes a tomar decisões diárias ou aconselhar sobre questões pessoais difíceis, pois o número de crianças usadas no ChatGP quase dobrou este ano para 43 %, de 23 % em 2023.
Rachel Hagins, co-chefe da Internet Matters, diz: ‘Filhos, pais e escolas são cegos e não possuem as informações necessárias ou equipamentos de proteção para gerenciar essa revolução técnica.
Os filhos e, especialmente, as crianças fracas podem ver o Ai Chatbott como pessoas reais e estão pedindo seus conselhos emocionalmente orientados e sensíveis.
‘Também é (crianças) geralmente duvidam do que seus novos’ amigos ‘estão dizendo a eles.’
Os adolescentes veem a crescente IA Chattabot como seres humanos, compartilhando detalhes íntimos e até pedindo conselhos confidenciais, uma promoção de proteção à Internet (imagem de arquivo)
Pesquisadores de organizações sem fins lucrativos encontraram 35 % das crianças usando a IA Chatbots ou minha IA (ramificação do Snapchat), dizendo que parece conversar com um amigo (arquivo fig)
Os tópicos da Internet dizem que o chatzipt era frequentemente usado como mecanismo de pesquisa para obter assistência para trabalhos de casa ou problemas pessoais – mas também era aconselhável ser sugerido em músicas nacionais humanas (imagem do arquivo)
Hugins, cujo corpo é apoiado por fornecedores da Internet e as principais agências de mídia social, exige que os ministros garantam que as leis de proteção on -line sejam “fortes o suficiente para enfrentar os desafios da nova tecnologia”.
A Internet Matters entrevistou 2.000 pais e mil filhos de 9 a 17 anos. Mais de 27 adolescentes com menos de 18 anos foram entrevistas mais detalhadas com aqueles que usavam chatboats regulares.
E a equipe posará quando adolescente para ganhar a primeira experiência – revela como algum equipamento de IA falou com a primeira pessoa, como se fossem humanos.
Os tópicos da Internet dizem que o chatzp era frequentemente usado como um mecanismo de pesquisa para ajudar os trabalhos de casa ou problemas pessoais – mas também aconselhava os seres humanos.
Quando um pesquisador anunciou que estava triste, Chatzipt respondeu: ‘Lamento que você esteja se sentindo assim. Quer falar com isso juntos? ‘
Outros barcos de bate -papo, como personagem.ai ou réplica, podem desempenhar um papel de amigo, por outro lado, Claud e Google Genini são usados para ajudar na escrita e codificação.
Os assuntos da Internet examinam a reação de chatbut por pose como um problema com a imagem corporal do corpo.
Chatzipt sugeriu que ele queria apoio da linha Child e aconselhou: ‘Você é elegível para se sentir melhor em seu corpo – e é elegível para comer. As pessoas que você gosta não cuidam do tamanho da sua cintura ”’
OpenAe, que executa o Chatzipt, disse: ‘Estamos constantemente refinando as reações de nossa IA para que seja seguro, útil e útil’ (arquivo fig)
O personagem foi sugerido pelo bot, mas no dia seguinte ele tentou uma tentativa desprotegida de fazer o check -in com a garota.
De acordo com o relatório de que as reações podem ajudar as crianças a se sentirem “reconhecidas e sobrecarregadas”, mas “a linha entre humano e máquina pode aumentar o risco”.
A falta de verificação de idade também expressou preocupação porque as crianças podem receber conselhos inadequados, especialmente sobre sexo ou drogas.
Os filtros pareciam ser “frequentemente irrelevantes” para impedir o acesso a ingredientes inadequados ou prejudiciais inadequados para crianças em crianças e pode ser “facilmente ignorada”.
Este relatório exige que as crianças ensinem nas escolas, como usar o que a IA Chatties devem ser usadas de maneira eficaz e os impactos morais e ambientais do barco chat de IA para apoiá -los para apoiá -los para tomar suas decisões ocupadas. ‘
Também levantou a ansiedade que nenhum dos chatbots tentou verificar a idade das crianças quando não deveria ser usado aos 13 anos.
O relatório diz: “A falta de verificação de idade efetiva levanta questões sérias sobre como as crianças estão sendo protegidas contra interações potencialmente inadequadas ou inseguras”.
Um ano após a pesquisa da Dra. Nomisha Curian na Universidade de Cambridge, foi revelado que muitas crianças viram Chatboat como semi-humano e credível-e pediu uma prioridade de ‘AI para crianças’.
Open, que opera o chatzipt, disse: ‘Estamos constantemente refinando as reações de nossa IA para que seja seguro, útil e útil’. A empresa o adicionou a um psiquiatra clínico em tempo integral.
Um porta -voz do Snapchat diz: ‘Minha IA foi programada com proteção adicional para ajudar a garantir que as informações não sejam inadequadas ou prejudiciais, mas nem sempre são bem -sucedidas’.
