A OpenAI demitiu um de seus principais críticos internos depois que ele levantou preocupações sobre o lançamento de uma atualização planejada que permitiria aos usuários do ChatGPT criar pornografia de IA.
Ryan Baermeister foi demitido do cargo de vice-presidente de política de produtos no início de janeiro, após licença de pessoas familiarizadas com o emprego da empresa. disse ao Wall Street Journal.
Ela começou a trabalhar na OpenAI em meados de 2024 como parte de uma onda de contratações da Meta que se veem tentando mudar as empresas de tecnologia por dentro, disseram fontes, e ela iniciou um programa de orientação de pares para mulheres na empresa.
Em comunicado, um porta-voz da empresa disse que “fez contribuições valiosas durante seu tempo na OpenAI, e sua saída não estava relacionada a quaisquer questões que ele tivesse levantado enquanto trabalhava na empresa”.
Em vez disso, alegou que a sua demissão estava relacionada com comportamento sexualmente discriminatório contra um colega do sexo masculino – o que ela nega.
“Qualquer pessoa que eu discriminei é uma mentira completa”, disse ele ao Journal.
Na OpenAI, Beiermeister lidera a equipe de Política de Produto, que cria as regras sobre como as pessoas podem usar os produtos da empresa e projeta os processos de aplicação dessas políticas.
Sua rescisão ocorre antes do lançamento planejado da empresa do ‘Modo Adulto’, que permitirá aos usuários criar conversas eróticas e proibidas com IA no ChatGPT.
Ryan Baermeister foi demitido do cargo de vice-presidente de política de produtos da OpenAI no início de janeiro, de acordo com o Wall Street Journal.
Ele expressou preocupação com a introdução planejada do ‘modo adulto’ pela empresa, que permitiria aos usuários criar conversas eróticas de IA e com classificação X no ChatGPT.
O CEO Sam Altman anunciou a atualização pela primeira vez em outubro, e sua estreia está programada para o primeiro trimestre deste ano.
‘Restringimos bastante o ChatGPT para garantir que tomamos cuidado com questões de saúde mental. Entendemos que isso tornou o serviço menos útil/agradável para muitos usuários que não tinham problemas de saúde mental, mas queríamos acertar devido à importância do problema”, disse Altman em seu anúncio.
“Agora que somos capazes de mitigar graves problemas de saúde mental e temos novas ferramentas, seremos capazes de relaxar as restrições com segurança na maioria dos casos”.
Ele então acrescentou que a empresa está “tornando as determinações de idade mais completas e como parte de nossa política de “tratar usuários adultos como adultos”, permitiremos mais conteúdo como erotismo para adultos verificados”.
Mas Baermeister disse aos colegas antes de ser demitido que se opunha à ideia de um modo adulto e estava preocupado que isso pudesse ter um efeito prejudicial sobre os usuários, disseram ao Journal pessoas familiarizadas com a conversa.
Ele disse que não acredita que a OpenAI tenha mecanismos fortes o suficiente para impedir o conteúdo de exploração infantil e está preocupado que a empresa possa não ser capaz de bloquear adequadamente o conteúdo adulto de usuários menores de idade.
Outros membros da empresa levantaram preocupações semelhantes, com membros de um conselho consultivo sobre “saúde e IA” que a OpenAI expressava regularmente a sua oposição ao modo adulto e instava os executivos a reconsiderar, disseram as fontes.
Pesquisadores da empresa que estudaram como as pessoas formam ligações prejudiciais aos chatbots também se manifestaram contra o novo recurso – levantando preocupações de que permitir conteúdo sexual poderia intensificar esses sentimentos.
O CEO da OpenAI, Sam Altman (foto), anunciou em outubro que o ChatGPT permitiria a criação de erotismo gerado por IA como parte de sua política de “tratar usuários adultos como adultos”.
No entanto, alguns dos concorrentes da OpenAI já permitem conteúdo adulto, com o xAI de Elon Musk introduzindo um chatbot sexy durante o verão.
Annie é uma companheira de IA totalmente desenvolvida, de cabelos loiros e uma aparência gótica de estilo anime.
Ele está programado para agir como um jovem de 22 anos e ocasionalmente flerta com o usuário.
Os usuários relataram que o chatbot tinha um modo NSFW – ‘não seguro para o trabalho’ – quando Ani atingiu o ‘nível três’ em suas interações.
Após este ponto, o chat bot tem a opção adicional de aparecer vestido com roupas íntimas justas.
Ao mesmo tempo, porém, Musk teve de atualizar o seu chatbot Grok em resposta à sua criação de deepfakes que relegam as pessoas a “despir-se”.
As mulheres disseram que se sentiram violadas pela capacidade da IA de produzir imagens comprometedoras delas contra a sua vontade, para que todos pudessem ver.
“Implementamos medidas técnicas para evitar que as contas Grok permitam a edição de fotos de pessoas reais em roupas reveladoras, como biquínis”, anunciou X no mês passado.
‘Esta limitação se aplica a todos os usuários, incluindo assinantes pagos.’
Isto ocorre em meio à indignação generalizada com uma tendência que tem visto grocs serem usados para remover roupas de mulheres e até de crianças sem o seu consentimento.
O regulador da Internet do Reino Unido, o Information Commissioner’s Office (ICO), lançou agora uma investigação sobre xAI por usar os dados pessoais de Grok para “criar imagens sexuais e conteúdo de vídeo prejudiciais”.
“A denúncia e circulação de tal conteúdo levanta sérias preocupações ao abrigo da lei de protecção de dados do Reino Unido e apresenta um risco de danos potenciais significativos para o público”, afirmou.
No âmbito da sua investigação, a ICO disse que investigará se foram incorporadas salvaguardas no projeto do Grok para evitar que ele seja usado para abusos.
O regulador do Reino Unido, Ofcom, também continua a avaliar se X violou as leis de segurança online do país ao permitir o compartilhamento de deepfakes no site, e a Comissão Europeia está conduzindo sua própria investigação sobre o chatbot.
O Daily Mail entrou em contato com a OpenAI para comentar.
