Depois de perder o marido e o pai dos dois filhos, Louise passou anos tentando explicar a morte repentina dos filhos em um acidente de carro.
Mas dois anos depois da morte de seu marido John, o filho mais novo de 42 anos, de nove anos, revelou que estava usando o bot de IA ChatGPTT para discutir a dor que sentia.
“Ele ficou muito satisfeito com a resposta que o chatbot lhe deu e disse que seus amigos não poderiam lhe dar uma resposta como essa. Ele pensou que era a única “pessoa” que o entendia há muito tempo”, diz Lewis.
Quase um terço dos pais na Grã-Bretanha viram os seus filhos utilizarem ferramentas alimentadas por IA, como o ChatGPT, para conversação ou companheirismo emocional, em vez de uma pessoa da vida real, revelou uma nova investigação.
Uma pesquisa da empresa de segurança digital Norton descobriu que os pais estão cada vez mais preocupados com o fato de seus filhos usarem a IA como companhia e por não conseguirem distinguir entre o conteúdo gerado pela IA e a vida real.
Lewis disse que foi um desafio especial para seus dois filhos, de nove e 12 anos, porque a maioria das pessoas da sua idade não entendia a dor pela qual estavam passando.
‘Perdemos o pai e eu e os meninos temos um relacionamento muito próximo. Mas devido à natureza de como ele morreu, eles querem saber coisas, mas é muito importante para a jornada de luto que seja adequado à idade”, disse Lewis.
‘Então, até recentemente, eu era capaz de realmente controlar os detalhes e dar-lhes feedback adequado à idade – mas o ChatGPT mudou isso.’
Lewis, 42, e seus dois filhos, de nove e 12 anos, aproveitam um dia na praia
Ele disse que seu filho mais novo, a quem pediu para não ser identificado, contou ao ChatGPT toda a história da morte de seu pai em um acidente de viação.
Ele então perguntou: ‘Por que a mamãe está lidando com a polícia?’ ‘O que é um advogado?’ ‘Por que você está falando com um advogado?’ e ‘Por que o motorista que bateu no pai não está na prisão?’
Lewis estava mais preocupado com seu filho mais velho, que teve que confrontá-lo depois que o filho mais novo lhe contou sobre o uso de IA.
Ai, de 12 anos, estava mais interessada em perguntar sobre seus relacionamentos na escola.
Ele queria saber se poderia confiar a seus novos amigos do ensino médio as informações de seu pai.
Ela temia que pudesse sofrer bullying ou perder amigos se abrisse sobre seu trauma.
Ela diz que tem um relacionamento muito próximo com seus dois filhos e eles já discutiram essas questões no passado
‘Isso apenas mostra quanta fé ambos tinham naquele agente de IA. E para onde teria ido a conversa se meu filho não tivesse me mostrado? Lewis disse.
Nessa idade eles não entendem que é uma máquina falando baseada em um algoritmo – não para ajudá-los.
“Eles estão procurando respostas sobre a dor do pai dela e como lidar com isso. Mas na verdade alguns deles são pessoas. Não existem soluções fáceis. Você tem que trabalhar suas próprias emoções e reconhecê-las como pessoas, e isso é algo que um agente de IA nunca poderá fazer por ela.
Depois de perder o marido e o pai dos dois filhos, Louise passou anos explicando aos filhos sua morte repentina em um acidente de carro.
Num dos seus atos finais como primeiro-ministro, Sir Keir Starmer anunciou a proibição das redes sociais.
Os menores de 16 anos serão totalmente impedidos de acessar plataformas de mídia social e o governo confirmou que os jovens de 16 e 17 anos enfrentarão toque de recolher.
Embora a Leap oferecesse serviços para introduzir regras para menores de 18 anos usando chatbots de IA, nenhum detalhe foi anunciado.
O ChatGPT tem idade mínima de 13 anos, mas a OpenAI, empresa proprietária do ChatGPT, não exige que os usuários verifiquem a idade, como fazem os sites adultos.
Às vezes, ele pode “prever” se um usuário é adolescente e forçá-lo a provar sua idade – mas nada impede uma criança de simplesmente criar uma nova conta.
Isso deixa a responsabilidade de monitorar o uso de IA de uma criança inteiramente sobre os pais.
‘Eu me considero uma mãe solteira. Não há mais ninguém. Como posso fazer tudo o que mamãe e papai fizeram, mas também ficar por dentro da tecnologia?’ Lewis disse.
‘É simplesmente impossível. É impossível saber o que as crianças estão fazendo o tempo todo quando estão online. Todos os trabalhos de casa são online e a escola secundária do meu filho o incentiva a usar IA em seu trabalho.
Dois anos depois da morte de seu marido John, a mulher de 42 anos revelou que seu filho mais novo, de nove anos, usava o bot de IA ChatGPTT para discutir a dor que estava sentindo.
‘É um equilíbrio realmente difícil porque é um ótimo recurso para aprender, mas é basicamente impossível impedi-los de usar a IA para outra coisa também.’
Pesquisadores da organização sem fins lucrativos Internet Matters descobriram que 35% das crianças que usam chatbots de IA, como ChatGPT ou MyAI (um spinoff do Snapchat), disseram que era como conversar com um amigo, número aumentando para 50% entre as crianças vulneráveis.
E 12% optaram por falar com bots porque não tinham “mais ninguém” com quem conversar.
O relatório, Me, Myself and AI, revelou que os bots estão ajudando os adolescentes a tomar decisões cotidianas ou dando conselhos sobre assuntos pessoais difíceis, já que o número de crianças que usam o ChatGPT quase dobrou para 43% este ano, contra 23% em 2023.
Lewis passou anos tentando encontrar maneiras adequadas à idade de discutir a morte repentina do pai da criança. Ele também providenciou um terapeuta para as crianças discutirem o imenso choque e a dor que as crianças sentiam.
Então ela disse que foi ainda mais “chocante” descobrir que seus filhos estavam usando um chatbot para discutir esses sentimentos.
Ele disse: ‘Fiquei chocado porque especialmente o mais novo estava usando e ele achou que era uma boa maneira de usá-lo.
‘Acho que temos um lugar emocionalmente seguro na família. Conversamos sobre tudo. Sou muito aberto com eles, mas como disse, fazemos isso de maneira adequada à idade. Não estou dizendo que estou sempre certo na maneira como faço as coisas, mas ainda assim é chocante.
Lewis disse que seu filho mais novo, cujo nome pediu para não ser identificado, contou ao ChatGPT toda a história da morte de seu pai em um acidente de viação.
“Essa busca por respostas é uma coisa muito natural e infantil. Não esperava que fizessem isso com um chatbot, algo tão pessoal e que os afeta tão profundamente.’
Lewis diz que chatbots de IA como o ChatGPT precisam ser construídos com controles que não permitam que uma criança obtenha respostas a perguntas que não são apropriadas para ela.
Leila Bills, Chefe Global de Pesquisa de Golpes da Norton, disse: “A IA está levando o conceito de perigo estranho a um nível totalmente novo. Os pais passaram os últimos anos tentando acompanhar os novos riscos que a IA representa para seus filhos, à medida que a tecnologia continua a evoluir.
“Sei que os pais ficarão preocupados e, embora o governo esteja a fazer o seu melhor para ajudar com iniciativas como a proibição das redes sociais, esta não é uma solução geral para as nossas preocupações.
«Os pais podem tomar medidas práticas para proteger os seus filhos das ameaças da IA.
‘Em primeiro lugar, admitir que eles realmente sabem mais do que você é uma boa maneira de iniciar uma conversa.
‘Não se intimide com check-ins regulares sobre coisas que viram online, amigos que fizeram no espaço digital e o que podem ser interações confusas – isto será fundamental para uma conversa aberta que os fará sentir-se seguros, mas ainda como se tivessem liberdade.’
A OpenAI, empresa proprietária do ChatGPT, afirma que ninguém com menos de 13 anos deve usar o chatbot e treina seus modelos para recomendar a busca de suporte no mundo real caso suspeite que um adolescente esteja fazendo uma pergunta.
Um porta-voz da OpenAI disse: ‘Nossos pensamentos estão com a família por sua perda. ChatGPT é aplicável apenas a usuários com 13 anos de idade ou mais. Ele foi projetado para fornecer uma experiência adequada à idade, com suporte no mundo real e promoção de relacionamentos off-line.
‘Usamos a previsão de idade para ajudar a aplicar a proteção aos adolescentes por padrão, enquanto os controles dos pais fornecem às famílias as ferramentas para personalizar ainda mais as configurações de seus filhos adolescentes.’
