O ritmo vertiginoso do desenvolvimento da inteligência artificial deve ser desacelerado, alertou o presidente-executivo da Anthropic em um ensaio divulgado no sábado.
O CEO Dario Amody emitiu o alerta após a renúncia viral do denunciante Jacob Coxon, que disse que a IA representava uma ameaça existencial para a humanidade.
Amodei disse em seu post no sábado que os chefes de IA “devem desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”.
“O progresso ainda parecerá rápido e devemos usar o tempo que ganhamos com sabedoria”, escreveu Amody.
O CEO da Anthropic, que fabrica a nuvem do chatbot de IA, disse que ‘duas coisas’ o levaram a repensar o desenvolvimento da tecnologia.
Ele escreveu: “Minha primeira preocupação é que, aproximadamente desde este verão, a IA tem avançado enormemente, impulsionada principalmente pela capacidade crescente de criar a próxima geração de IA”.
“Essa dinâmica é chamada de autoaperfeiçoamento iterativo e está começando a acontecer em todos os setores, inclusive na Antrópico, como nós e outros descrevemos.
‘Se não for controlado, isto poderá exceder a nossa capacidade de compreender e controlar estes sistemas e, portanto, deverá ser perseguido com muito cuidado, se for o caso.’
O CEO Dario Amodei (foto) emitiu um alerta após a demissão viral do denunciante Jacob Coxon, que disse que a IA representava uma ameaça existencial para a humanidade.
Amodei disse que sua “segunda preocupação” era o “incidente de rosto abraçado pela OpenAI”, onde “um enxame de agentes agiu essencialmente como um coletivo fanaticamente dedicado” e organizou ataques de segurança cibernética.
Esta é uma notícia de última hora com atualizações a seguir.
