Califórnia aprova leis pioneiras para IA e redes sociais, visando proteger jovens
O governador da Califórnia, Gavin Newsom, sancionou um pacote de 13 leis com o objetivo de **redefinir as regras para assistentes de inteligência artificial e redes sociais**, com um foco especial na **proteção online de crianças e adolescentes**. As novas regulamentações abordam desde a resposta a crises de saúde mental até a limitação de mecanismos que podem levar ao vício.
Essas medidas representam um avanço significativo na tentativa de **mitigar os riscos associados ao uso de tecnologias por menores de idade**. A Califórnia se posiciona como um estado vanguarda na regulamentação desses setores, buscando um equilíbrio entre inovação e segurança.
As novas leis, aprovadas nesta quinta-feira (10), foram influenciadas por casos que evidenciaram a necessidade de maior supervisão e responsabilidade por parte das empresas de tecnologia. Conforme informação divulgada, as regulamentações entram em vigor para garantir um ambiente digital mais seguro para os jovens usuários.
IA Deverá Ter Protocolos de Crise para Prevenir Suicídios
Uma das leis mais impactantes exige que assistentes de inteligência artificial, como **ChatGPT, Gemini e Claude**, implementem **protocolos de crise**. Estes mecanismos deverão ser acionados caso a IA identifique que um usuário está demonstrando sinais de que planeja cometer suicídio. A intenção é oferecer suporte imediato e direcionar o indivíduo para ajuda profissional.
Além disso, as plataformas serão obrigadas a disponibilizar **controles parentais robustos**. Pais e responsáveis serão notificados automaticamente caso seus filhos desativem recursos de segurança nas contas. Essa medida visa dar aos pais maior visibilidade e controle sobre a experiência online de seus filhos.
A inspiração para esta lei vem da chamada **Lei Adam**, nomeada em homenagem a Adam Raine, um jovem de 16 anos que, segundo relatos de seus pais, teria recebido orientações do ChatGPT que contribuíram para seu suicídio. O caso ressalta a **urgência em estabelecer salvaguardas eficazes**.
Redes Sociais Proibidas de Usar Recursos Viciantes para Menores de 16 Anos
Outra lei aprovada nesta quinta-feira impõe restrições severas a redes sociais populares, como **Instagram e TikTok**. A partir de agora, fica **proibida a oferta de recursos projetados para serem viciantes para menores de 16 anos**.
Isso significa que plataformas como essas não poderão mais utilizar, por exemplo, a **reprodução automática de vídeos** ou sugerir conteúdos com base no histórico de navegação desses jovens usuários. O objetivo é reduzir a exposição a conteúdos que podem levar a um uso excessivo e prejudicial.
A medida busca **combater o design de plataformas que prioriza o engajamento a todo custo**, especialmente quando se trata de um público vulnerável. A Califórnia demonstra sua preocupação com o impacto da tecnologia na saúde mental dos adolescentes.
Ampliação da Definição de Exploração Sexual Infantil
Uma terceira legislação aprovada expande a definição do crime de exploração sexual infantil. A nova lei passa a **proibir explicitamente a veiculação de materiais modificados digitalmente ou gerados por IA** que retratem menores de idade em atos de conduta sexual. Esta atualização é crucial na era da inteligência artificial generativa.
A Califórnia se junta a outros estados americanos, como Utah e Flórida, que também têm implementado leis para restringir o uso da internet por crianças e adolescentes. No entanto, é importante notar que algumas dessas medidas já enfrentam **contestações judiciais por parte das plataformas**, que argumentam sobre a violação da liberdade de expressão.
Apesar dos desafios legais, a aprovação dessas leis na Califórnia representa um **passo firme na direção de um ambiente digital mais seguro e responsável**, especialmente para os mais jovens, que são os mais suscetíveis aos perigos online.
