Vídeos de IA hipnotizantes inundam YouTube Kids, alertam especialistas sobre riscos ao desenvolvimento infantil
Uma onda de vídeos criados com inteligência artificial (IA) tem invadido o YouTube, especialmente o conteúdo voltado para crianças. Esses materiais, muitas vezes de baixa qualidade e com narrativas confusas, são sugeridos pelo algoritmo da plataforma e geram grande preocupação entre pesquisadores e especialistas em desenvolvimento infantil.
A facilidade com que esses vídeos aparecem, mesmo após buscas por temas infantis como jogos e animais, indica uma estratégia de disseminação em larga escala. Criadores veem esse nicho como uma oportunidade de negócio lucrativa, enquanto especialistas alertam para os perigos de confundir realidade e ficção, impactando a capacidade de atenção e o desenvolvimento cognitivo e social das crianças.
Conforme apurado pela BBC News Brasil, muitos desses vídeos não informam sobre o uso de IA, mesmo apresentando claras evidências como vozes descompassadas e animações instáveis. A situação levanta um debate sobre a responsabilidade da plataforma em filtrar e sinalizar esse tipo de conteúdo, especialmente quando direcionado ao público infantil. Acompanhe os detalhes dessa preocupante invasão.
O Fenômeno “AI Slop” e Seus Riscos para o Desenvolvimento Infantil
Especialistas definem o conteúdo em questão como “AI slop”, termo que descreve vídeos de baixa qualidade produzidos em massa com o uso de softwares de inteligência artificial. Rachel Franz, diretora do programa Young Children Thrive Offline da organização americana Fairplay, destaca que a preocupação é ainda maior com crianças pequenas, cujos cérebros estão em intenso desenvolvimento. “O cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e o que elas encontram nesse período molda seu desenvolvimento e pode impactá-las pelo resto da vida”, afirma Franz.
A falta de distinção entre fantasia e realidade em crianças pequenas torna o “AI slop” particularmente perigoso, podendo condicionar seus cérebros a acreditar em algo que não é real. Franz explica que muitos desses vídeos visam apenas capturar a atenção, não educar, e que a sucessão de imagens confusas pode sobrecarregar a capacidade de processamento infantil, prejudicando o aprendizado em comparação com experiências reais.
O consumo prolongado desses vídeos também rouba tempo de atividades essenciais como brincar e interagir socialmente. “Vídeos hipnotizantes de músicas infantis gerados por IA, por exemplo, podem moldar o cérebro das crianças no longo prazo, afetando sua capacidade de atenção, sua resiliência e sua habilidade de regular as emoções mais tarde na vida”, adverte Franz.
Dificuldade em Distinguir Realidade e Impactos na Saúde Mental Infantil
Telma Pantano, fonoaudióloga e psicopedagoga do Instituto de Psiquiatria do Hospital das Clínicas da FMUSP, observa que crianças já chegam a atendimentos com “muitos medos, com muita dificuldade de definir o que acontece e o que não acontece”. A maturação das áreas pré-frontais do cérebro, responsáveis pela capacidade crítica e autorregulação, se estende até a vida adulta. A consolidação da distinção entre realidade e fantasia ocorre por volta dos 7 a 8 anos.
Até os 10 anos, a criança está em uma fase de alto risco, pois ainda não domina a separação entre o real e o imaginário, nem possui plenamente habilidades de tomada de decisão e resolução de problemas. Pantano ressalta o custo do contato constante com imagens prontas, que limitam a imaginação infantil. “As imagens vêm prontas, e a criatividade fica bastante restrita”, lamenta.
Crianças pequenas não têm a capacidade de identificar e rejeitar vídeos de baixa qualidade. Conteúdos com cores vibrantes, movimentos rápidos e mudanças abruptas podem atrair sua atenção, mesmo sem conteúdo coerente ou confiável. “Mesmo conteúdos sem significado, sem base científica ou sem conhecimento vão atrair a criança da mesma forma. E, quanto menor a criança, mais atrativo aquilo fica”, explica Pantano.
A Responsabilidade do YouTube e os Desafios da Moderação
André Mintz, professor da UFMG, avalia que esse tipo de vídeo se aproveita da dificuldade de muitas famílias em controlar o consumo online infantil, especialmente em meio à rotina corrida dos pais. Rachel Franz concorda, afirmando que as plataformas são projetadas para prender a atenção das crianças, utilizando táticas como reprodução automática e recomendações algorítmicas. “Quando acrescentamos AI slop, que hipnotiza ainda mais as crianças, essa se torna uma batalha perdida”, declara.
O YouTube afirma que, embora permitido, o conteúdo gerado por IA tem padrões mais rígidos para o público infantil. “Combater o conteúdo de baixa qualidade gerado por IA é uma prioridade máxima para nós”, declarou a plataforma em nota à BBC News Brasil, acrescentando esforços para remover conteúdo de IA marcado como “feito para crianças” que não atende aos princípios de qualidade.
A empresa ressalta que canais que usam IA continuam qualificados para monetização, desde que o produto final seja original, siga as diretrizes e divulgue adequadamente o uso de tecnologia sintética. No entanto, João Victor Archegas, do Instituto de Tecnologia e Sociedade do Rio (ITS Rio), aponta uma contradição: o YouTube incentiva o uso de IA, mas tenta frear o “AI slop”. “A plataforma segue tendo o desafio imenso de identificar conteúdos gerados por IA e atuar quando eles são identificados”, conclui Archegas.
