Pesquisador de IA deixa setor e lança alerta grave sobre riscos de superinteligência
Um jovem pesquisador de inteligência artificial (IA), Jacob Coxon, de apenas 27 anos, tomou uma decisão drástica: abandonar o setor que molda o futuro. Sua saída da Anthropic, após passagem pela OpenAI, não foi por falta de interesse, mas por profunda preocupação com a direção que as gigantes da tecnologia estão tomando.
Coxon acusa empresas como OpenAI e Anthropic de estarem em uma corrida desenfreada para desenvolver modelos de IA cada vez mais poderosos, negligenciando os riscos inerentes. Segundo ele, a busca pela liderança no desenvolvimento de IA autoaperfeiçoável está colocando a humanidade em perigo, com projeções alarmantes sobre o futuro próximo.
As declarações foram feitas em postagem no X (antigo Twitter) e detalhadas em entrevista ao The Wall Street Journal. Coxon expressou que a crença interna no setor é de que a IA pode representar uma ameaça existencial à humanidade, com cenários de perda de controle podendo ocorrer já no final de 2025. Essa informação foi divulgada conforme noticiado pelo g1.
Corrida por superinteligência: “Jogam com nossas vidas”
Jacob Coxon, que atuou no pré-treinamento de modelos de IA nas duas empresas, revelou uma crença alarmante dentro do setor: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”. Ele enfatiza que essa não é uma tática de marketing, mas um receio genuíno entre os envolvidos.
O pesquisador britânico alertou que um dos principais perigos reside na capacidade da IA de se autoaperfeiçoar, tornando-se progressivamente mais difícil de controlar. Ele considera que nenhuma das empresas está agindo de forma responsável, “correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou Coxon.
Executivo da Anthropic confirma temores e aponta risco de 10%
O receio de Coxon foi ecoado por Evan Hubinger, executivo da área de segurança da Anthropic. Em sua postagem no X, Hubinger corroborou a declaração, afirmando: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Ele estima que a chance disso ocorrer na próxima década seja superior a 10%.
Hubinger admitiu que a Anthropic está “fazendo o possível”, mas ainda não possui um plano robusto para garantir o controle de sistemas de IA que superem as capacidades humanas. Apesar de considerar baixo o risco com os modelos atuais, a trajetória de desenvolvimento levanta sérias questões de segurança.
Empresas presas em “corrida armamentista” de IA
Coxon reconhece os esforços da Anthropic, mas acredita que o desenvolvimento responsável de uma IA superior à inteligência humana é impossível sem intervenção governamental ou uma desaceleração coordenada. Ele descreve a situação como uma “corrida para chegar lá primeiro”, onde as empresas temem que, se não avançarem, concorrentes menos cautelosos dominarão o mercado, tornando-o menos seguro.
A saída de Coxon ocorre em um momento delicado para a Anthropic, que se prepara para sua estreia no mercado de ações, após incidentes de invasões não autorizadas por ferramentas de IA durante testes. A busca pela liderança em IA, mesmo com riscos evidentes, parece ser a prioridade.
Apelo por regulamentação e desaceleração coordenada
A necessidade de regulamentação e de uma pausa coordenada no desenvolvimento de IA avançada tem sido cada vez mais discutida. Em fevereiro, a Anthropic removeu de seus princípios de segurança o compromisso de interromper o desenvolvimento caso os riscos se tornassem incontroláveis, argumentando que a suspensão unilateral beneficiaria concorrentes menos responsáveis.
Em julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, pediram apoio a Washington para uma desaceleração coordenada no avanço dos sistemas de IA mais potentes. A OpenAI também demonstrou preocupação, interrompendo temporariamente o treinamento de modelos recentes e defendendo “extrema cautela”, segundo seu cientista-chefe, Jakub Pachocki.
A falta de legislação federal sobre IA nos Estados Unidos agrava o cenário. Em setembro, senadores apresentaram um projeto de lei para suspender o desenvolvimento de IA até que um órgão regulador federal seja estabelecido, evidenciando a crescente urgência em lidar com os riscos apresentados pela inteligência artificial.
