Há uma geração, vimos as redes sociais passarem da novidade à necessidade, sem grades adequadas para os mais afetados por elas: os adolescentes. Ainda estamos avaliando os resultados nas salas de aula, nas salas de estar e nas estatísticas de saúde mental dos adolescentes.
Agora, uma nova tecnologia está se tornando parte da vida cotidiana ainda mais rapidamente. Novamente, não existem regulamentações em todo o setor para garantir a segurança dos usuários mais jovens.
As ferramentas de IA podem ajudar os alunos a aprender, ajudar as famílias a resolver problemas e ajudar-nos a fazer mais com menos. Os adolescentes de hoje são a primeira geração a crescer com IA desde o início e têm a oportunidade de maximizar os benefícios económicos da era da inteligência. Isto traz muitas oportunidades – e a responsabilidade de evitar repetir os erros que cometemos com as redes sociais, para que os adolescentes possam desenvolver uma verdadeira literacia em IA e uma relação saudável com esta tecnologia.
Como o governador Gavin Newsom tem demonstrado repetidamente, a Califórnia pode e irá liderar o caminho tanto na IA como na segurança juvenil. Agora, a Califórnia tem uma nova oportunidade de construir liderança – e estabelecer um padrão regulatório nacional de fato sobre IA – ao promover a nova Lei de IA mais segura para pais e filhos.
A lei – que esperamos que seja replicada em outros estados – começou na Califórnia, onde a OpenAI fez parceria com a Common Sense Media, uma organização que há muito ajuda famílias a navegar em novas tecnologias, para redigir e publicar a medida.
A ideia básica é simples: a IA sabe muito, mas os pais sabem melhor. A proposta exigiria que sistemas de IA que simulem conversas utilizem estimativas de idade que preservem a privacidade para desencadear configurações de proteção infantil para utilizadores com menos de 18 anos. Irá capacitar os pais, exigindo controlos parentais fáceis de usar e impondo proteções mais fortes para crianças com menos de 13 anos. Protocolo para risco de automutilação. Apela a auditorias independentes de segurança infantil com responsabilização através da aplicação.
Nos preocupamos profundamente com os direitos de privacidade dos adultos ao usar ferramentas de IA. Mas quando se trata de adolescentes, devemos colocar a segurança em primeiro lugar. Os menores precisam de proteções significativas para que possam aproveitar todo o potencial da IA, e os pais merecem a confiança de que as proteções corretas estão implementadas. Esta medida fornece ambos.
Apoiar o projeto de lei também se basearia no compromisso do governador Newsom de tornar a segurança online dos adolescentes uma prioridade exclusiva. Ele apoiou medidas para conter designs viciantes de mídia social e fortalecer as proteções de privacidade, e pressionou por uma educação livre de distrações nas escolas através de restrições estaduais ao uso de smartphones pelos estudantes.
Mais recentemente, a Califórnia também melhorou novas barreiras para a segurança online dos adolescentes – incluindo uma verificação mais forte da idade e novas proteções para chatbots de IA utilizados por menores – juntamente com maiores esforços para expandir o acesso à formação e aos recursos de saúde mental dos jovens.
A Califórnia está a combinar essas medidas de segurança para os adolescentes com um investimento realista na capacidade de investigação em IA que as universidades e os investigadores de interesse público necessitam para estudar a IA e ajudar a desenvolvê-la de forma responsável. Através da CalCompute, o estado está a construir as bases para um cluster de computação pública concebido para alargar o acesso à computação avançada, para que a capacidade de avaliar e criar IA segura não se limite a um punhado de intervenientes com bons recursos.
A estrutura de transparência da Frontier AI da Califórnia já começou a servir como ponto de referência fora do estado. Nova Iorque alinhou a sua lei RAISE com o marco SB 53 da Califórnia, harmonizando as regras para as duas maiores economias de IA do país e movendo o país em direcção a um padrão nacional de facto.
Se a Califórnia e Nova Iorque conseguirem alinhar-se na protecção da IA dos jovens, poderemos criar expectativas claras para a indústria, ferramentas reais para os pais e padrões seguros para os jovens em todo o país.
Como pai, não consigo pensar em nada mais importante. O governador Newsom ajudou a Califórnia a liderar o caminho tanto em IA quanto em segurança de adolescentes. A aprovação da Lei de IA Segura para Pais e Crianças – criada pela primeira vez na Califórnia – será o próximo passo e fornecerá o tipo de liderança que o país precisa neste momento.
Chris Lehane é Diretor de Assuntos Globais da OpenAI.
