CEO da OpenAI Pede Desculpas por Não Alertar Polícia Sobre Usuária do ChatGPT Antes de Tragédia no Canadá
O CEO da OpenAI, Sam Altman, emitiu um pedido de desculpas à cidade canadense de Tumbler Ridge, expressando profundo pesar pela falta de comunicação com as autoridades policiais sobre uma ex-usuária do ChatGPT. A mulher, banida da plataforma meses antes, foi responsável por um trágico tiroteio em fevereiro.
A notícia abalou a pequena comunidade, e a decisão da OpenAI de não alertar a polícia sobre o comportamento da usuária tem gerado intensos debates sobre a responsabilidade de empresas de tecnologia em casos de potencial violência. O pedido de desculpas, embora tardio, busca reconhecer a dor e a perda.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas necessário, mas salientou que ele é “grosseiramente insuficiente” diante da magnitude da tragédia. A comunidade de Tumbler Ridge aguarda por ações concretas e respostas que vão além de palavras.
O Ataque e o Banimento da Usuária do ChatGPT
Em 10 de fevereiro, uma jovem de 18 anos, que se identificava como transgênero, tirou a vida de sua mãe e meio-irmão em sua residência. Em seguida, dirigiu-se a uma escola secundária local, onde abriu fogo, resultando na morte de cinco crianças e um professor. Após os assassinatos, a jovem tirou a própria vida.
A investigação posterior revelou que a OpenAI havia identificado a conta da suspeita por meio de seus sistemas de detecção de abuso e a banido do uso do ChatGPT em junho de 2023, oito meses antes do fatídico evento. A empresa, contudo, não considerou a atividade da usuária séria o suficiente para um reporte às autoridades canadenses na época.
Pedido de Desculpas e Justificativas da OpenAI
Em carta enviada a David Eby e divulgada nesta sexta-feira, Sam Altman declarou: “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”. Ele reconheceu que “palavras nunca são suficientes”, mas que o pedido de desculpas era essencial para “reconhecer o dano e a perda irreversível que sua comunidade sofreu”.
Altman justificou o atraso na emissão do pedido de desculpas, alegando a necessidade de respeitar o período de luto da comunidade de Tumbler Ridge. A OpenAI explicou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real, com o objetivo de identificar e restringir ou banir contas que violem suas regras.
Medidas de Segurança e Ações Regulatórias
As violações que levam ao banimento incluem exploração sexual, incentivo à automutilação e ao suicídio, além da promoção de violência e danos. Em situações de alto risco, os sistemas são projetados para sinalizar comportamentos para revisão humana, podendo levar ao compartilhamento de dados com a polícia em casos de ameaças críveis.
Após o ataque, as autoridades canadenses chegaram a convocar a equipe de segurança da OpenAI, ameaçando com ações regulatórias caso mudanças significativas não fossem implementadas. A empresa garantiu que reforçaria suas medidas de segurança e estabeleceu um canal de contato direto com a polícia.
Compromisso com a Prevenção e Ações Legais
Na carta, Altman reiterou o compromisso da OpenAI em “encontrar formas de evitar tragédias semelhantes” e trabalhar “com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”.
Paralelamente, a família de uma das vítimas feridas no tiroteio entrou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do planejamento de um “evento com mortes em massa” por parte da atiradora, mas optou por “não adotar nenhuma medida” para impedir o ocorrido.
