Anthropic Detecta Tentativas de Uso Maligno de IA por Diversos Países
A empresa de inteligência artificial Anthropic, criadora da ferramenta Claude, identificou esforços de Rússia, China, Irã e Iêmen para empregar sua tecnologia em atividades ilícitas. Entre os usos suspeitos estão a criação de propaganda, o desenvolvimento de drones de guerra e até mesmo a pesquisa para a fabricação de armas biológicas.
Essas revelações constam em um relatório confidencial ao qual o jornal The New York Times teve acesso. A Anthropic afirma ter bloqueado todas as tentativas detectadas de exploração de seus modelos de IA para fins considerados perigosos ou antiéticos.
O documento aponta para uma gama de aplicações maliciosas, incluindo a suspeita de monitoramento de opositores exilados por parte da China e do Irã. Um caso específico destacado é o da Rússia, que teria utilizado o Claude para gerar propaganda disfarçada de reportagens jornalísticas, com o objetivo de influenciar as eleições na vizinha Moldávia.
Preocupações com Pesquisas Biológicas e Desinformação
No que diz respeito às pesquisas biológicas, a Anthropic declarou em seu relatório que não foi possível determinar se as atividades visavam objetivos legítimos, como o desenvolvimento de vacinas, ou fins ilegítimos. Isso ocorre porque os mesmos processos científicos podem ser aplicados tanto para avanços na medicina quanto para a criação de patógenos perigosos. Diante da incerteza, a empresa optou por interromper o serviço de IA por precaução.
A companhia não forneceu detalhes sobre os bloqueios específicos relacionados às pesquisas de armas biológicas, como nomes de pesquisadores, instituições, países de origem ou os agentes biológicos em questão. No entanto, o relatório do The New York Times ressalta que o potencial de modelos de IA de ponta em facilitar o desenvolvimento de patógenos é uma das mais graves preocupações para especialistas na área.
A rápida evolução da inteligência artificial levanta dúvidas até mesmo entre seus criadores sobre a capacidade humana de controlá-la plenamente. Essa incerteza é agravada pela possibilidade de uso indevido da tecnologia para fins destrutivos, como a criação de novas ameaças biológicas.
Ex-Funcionário Alerta sobre Riscos da IA
A Anthropic também esteve no centro das atenções recentemente devido a declarações de um ex-funcionário. Jacob Coxon, um britânico de 27 anos que trabalhou na empresa por três anos na fase de pré-treinamento de modelos de IA, acusou a Anthropic e a rival OpenAI de estarem “brincando com nossas vidas”.
Coxon expressou em redes sociais que nenhuma das empresas está agindo de forma responsável, correndo em direção a uma superinteligência autônoma. Ele alertou que os próprios desenvolvedores de IA acreditam que a tecnologia pode ser extremamente perigosa, chegando a prever cenários de risco até o final desta década. Coxon enfatizou que essas declarações não são meras jogadas de marketing, mas sim reflexos de preocupações genuínas sobre o futuro da inteligência artificial.
