Deepfakes cada vez mais difíceis de detectar, alertam especialistas da OpenAI e Meta
Especialistas em inteligência artificial (IA) da OpenAI e da Meta emitiram um alerta sobre a crescente dificuldade em distinguir conteúdos falsificados por IA, conhecidos como deepfakes, de materiais autênticos. O avanço da tecnologia de IA generativa, capaz de criar imagens, vídeos e áudios a partir de comandos, está tornando essas falsificações cada vez mais sofisticadas.
Essa evolução tecnológica representa um desafio significativo para a verificação de provas em processos judiciais, especialmente nos Estados Unidos. A discussão sobre como lidar com esses materiais falsificados nos tribunais tem sido pauta há três anos em reuniões do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA.
A preocupação é que, com a qualidade aprimorada dos deepfakes, tanto a identificação humana quanto a detecção por softwares se tornem tarefas árduas. Conforme informações divulgadas pela Reuters, especialistas indicam que não existe, no momento, um método científico infalível para identificar todos os tipos de deepfakes.
O Desafio da Autenticidade em Tribunais
Desde 2023, o comitê judicial americano debate métodos para verificar a autenticidade de materiais que possam ser deepfakes. O objetivo é garantir que provas produzidas com IA atendam aos mesmos rigorosos critérios de confiabilidade exigidos de outras evidências, inclusive aquelas analisadas por peritos humanos.
Apesar das previsões sobre o aumento de casos envolvendo deepfakes, os registros em tribunais americanos ainda são limitados. Uma pesquisa do Centro Federal do Judiciário dos EUA indicou que apenas 15 de 931 juízes haviam enfrentado um caso onde uma prova foi contestada por suspeita de ser um deepfake.
No entanto, especialistas da indústria, academia e governo ressaltam que o risco é real e tende a crescer. Devin Norder, diretor de gestão de produtos da Meta, destacou que os deepfakes criados com modelos de IA mais avançados já são **quase indistinguíveis** para os seres humanos e podem ser produzidos com baixo custo e tempo.
Marcas d’água e Limitações na Detecção
Diante desse cenário, empresas como OpenAI e Meta estão desenvolvendo ferramentas para auxiliar na verificação da autenticidade de conteúdos visuais. Além disso, novas leis na Califórnia e na União Europeia exigem o uso de **marcas d’água** em materiais falsificados por IA, como forma de indicar sua origem.
Contudo, Shira Anderson, consultora de políticas da OpenAI, alertou que não há um método universalmente eficaz para detectar todas essas marcas ou confirmar a autenticidade de um conteúdo. Cada empresa utiliza seu próprio sistema de marcação, o que impõe limitações à verificação.
“Minha impressão é que isso certamente continuará melhorando”, afirmou Anderson. “Não acho que algum dia será à prova de falhas.” A complexidade crescente dos deepfakes sugere que a batalha contra a desinformação gerada por IA exigirá **soluções contínuas e adaptáveis**.
