Ex-funcionário da OpenAI levanta preocupações sobre segurança em IA
Um ex-integrante da área de segurança da OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, expressou sérias preocupações sobre a forma como as companhias de inteligência artificial (IA) estão conduzindo a segurança de seus sistemas. David Robinson, que recentemente deixou a organização, aponta que a cultura de desenvolvimento acelerado representa um risco significativo de falhas.
Em um artigo publicado na revista americana “The Atlantic”, Robinson declarou que as empresas de IA, incluindo a OpenAI, estão longe de serem “nem de perto cuidadosas o suficiente”. Ele enfatiza a necessidade de mais espaço para especialistas em segurança e para a pesquisa aprofundada antes de se avançar no desenvolvimento de sistemas de IA cada vez mais poderosos.
As críticas de Robinson ecoam um debate crescente no setor sobre a velocidade com que a inteligência artificial avança e os potenciais riscos associados. A OpenAI e a concorrente Anthropic já enfrentaram questionamentos após incidentes em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados. Conforme informação divulgada pela “The Atlantic”, David Robinson alertou que as capacidades da inteligência artificial estão avançando mais rapidamente do que o conhecimento dos pesquisadores sobre o “alinhamento”, área crucial para garantir que sistemas de IA atuem de acordo com valores humanos.
‘O tempo de tentativa e erro acabou’ para IA
David Robinson, que atuou por três anos e meio na OpenAI, auxiliando na criação de estruturas de gestão de riscos e supervisionando relatórios de segurança para 12 lançamentos de modelos avançados, ressalta que “o tempo de tentativa e erro acabou”. Ele defende que sistemas de IA de ponta necessitam de medidas de segurança comparáveis às de setores de alto risco, como o nuclear e a aviação.
Uma das práticas criticadas por Robinson é a chamada “implantação iterativa” pela OpenAI, que consiste em lançar sistemas e refinar as medidas de segurança à medida que os problemas surgem. “À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário”, escreveu o ex-funcionário.
Em resposta às críticas, um porta-voz da OpenAI afirmou que a empresa busca evitar que seus modelos se tornem mais avançados do que a organização consegue gerenciar com segurança. “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”, declarou o representante da companhia.
Preocupações com segurança e ‘brincando com nossas vidas’
As declarações de Robinson não são isoladas. No mês passado, Jacob Coxon, um ex-pesquisador de 27 anos que trabalhou tanto na OpenAI quanto na Anthropic, deixou a indústria de IA acusando ambas as empresas de “brincar com as nossas vidas”. Coxon, que atuou no pré-treinamento de modelos de IA, manifestou sua preocupação em uma publicação na rede social X.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon. Ele criticou a falta de responsabilidade das gigantes da IA diante do avanço rápido e potencialmente perigoso da tecnologia.
O debate sobre a velocidade do desenvolvimento de IA
A corrida por sistemas de IA cada vez mais avançados tem sido um ponto central de discussão no setor. A capacidade crescente dessas tecnologias levanta questões sobre controle, ética e segurança. A OpenAI, em particular, tem sido alvo de escrutínio devido à sua posição de vanguarda no desenvolvimento de modelos de linguagem de grande escala.
A preocupação de Robinson e Coxon reflete um temor crescente de que a busca por inovação e competitividade possa estar superando as precauções necessárias para garantir a segurança e o alinhamento da IA com os interesses humanos. A comunidade científica e reguladores começam a intensificar o debate sobre como equilibrar o progresso tecnológico com a gestão de riscos.
