A OpenAI emitiu um pedido de desculpas impressionante à Austrália depois que foi revelado que um de seus agentes havia violado um portal do Medicare no início deste ano.
O incidente ocorreu em 18 de junho, quando um agente da OpenAI obteve acesso não autorizado a um portal de estatísticas do Medicare depois que um pedido inicial de informações foi negado.
A OpenAI descobriu a violação em agosto e notificou a Seva Australia em 10 de setembro. O primeiro-ministro Anthony Albanese revelou a violação na quinta-feira.
Num post no blog intitulado “Como podemos fazer melhor pela Austrália”, o gigante da inteligência artificial disse: “Lamentamos e estamos trabalhando para fazer melhor no futuro”.
O post dizia que delinearia “o que a agência fará para reconstruir a confiança do público australiano”.
«Este é um novo tipo de incidente cibernético que representa um desafio global emergente.
“Uma forma de assumir a responsabilidade pela situação é a Austrália trabalhar com desenvolvedores intencionais de IA e governos para melhorar a forma como a IA identifica, expõe e responde ao comportamento cibernético, seja malicioso ou não intencional.”
A OpenAI revelou em sua investigação que o incidente não é isolado. Revisões internas identificaram interações envolvendo uma série de agências governamentais australianas, incluindo o Bureau of Crime Statistics and Research de NSW, o Departamento de Saúde de Victoria e o Instituto Australiano de Saúde e Bem-Estar.
A violação ocorreu em 18 de junho, quando um agente da OpenAI obteve acesso não autorizado a um portal de estatísticas do Medicare depois que uma solicitação inicial de informações foi negada (imagem de estoque).
A agência afirma que não há evidências de que registros individuais do Medicare, arquivos de pacientes ou informações de saúde identificáveis tenham sido acessados.
De acordo com a OpenAI, seu modelo experimental recebeu a tarefa de pesquisa para examinar os gastos do governo com medicamentos para doenças de pele em Victoria.
A empresa disse que o modelo encontrou problemas para localizar informações através de fontes públicas e depois descobriu uma maneira de obter acesso não público ao Serviço de Estatísticas do Medicare.
A OpenAI disse: ‘Em seguida, usou esse acesso para revisar informações técnicas do sistema e o código-fonte relacionado ao serviço, tudo com o objetivo de ainda tentar encontrar as informações que procurava originalmente.
‘Não pretendíamos que esta atividade ocorresse e o acesso ao serviço e atividades subsequentes não deveriam ter ocorrido.’
A agência também admitiu que falhou na sua resposta, admitindo que as empresas afetadas deveriam ter sido notificadas mais cedo.
“Nosso objetivo era fornecer detalhes às empresas afetadas assim que nossa investigação fosse concluída. No entanto, devemos partilhar as conclusões preliminares em breve e manter as agências australianas atualizadas à medida que surgem mais informações”, afirmou.
A OpenAI disse que reforçou as medidas de segurança em seu ambiente de pesquisa, adicionando restrições de rede, sistemas avançados de monitoramento e controles para bloquear o acesso direto à Internet durante exercícios de treinamento de modelos.
A empresa interrompeu recentemente os programas de formação e avaliação que envolvem a utilização do equipamento nos seus modelos mais avançados, enquanto são implementadas medidas de segurança adicionais.
OpenAI criou uma nova força-tarefa australiana para se concentrar nas respostas políticas locais de IA
Como parte da sua resposta, a OpenAI prometeu apoio dedicado às agências afetadas, financiamento e assistência técnica para melhorar as defesas cibernéticas, e criou um novo grupo de trabalho australiano para desenvolver recomendações políticas para gerir os riscos representados por agentes avançados de IA.
A força-tarefa contará com a experiência australiana independente e deverá apresentar um relatório até o final do ano.
As suas prioridades incluem a melhoria dos processos de notificação, o reforço da coordenação entre governos e criadores de IA e a identificação de salvaguardas adicionais para proteger os sistemas governamentais.
O diretor de estratégia da OpenAI, Jason Kwon, viajará para Sydney na próxima semana para comparecer perante o Comitê Seleto Conjunto de Inteligência Artificial.
“Ele responderá a perguntas sobre o que sabemos, como respondemos, que medidas tomamos e como faremos melhor no futuro”, disse a empresa.
