Microsoft alerta sobre os perigos de antropomorfizar a IA e criar sistemas autônomos.
O chefe da divisão de IA da Microsoft, Mustafa Suleyman, emitiu um alerta contundente sobre os rumos do desenvolvimento da inteligência artificial. Ele critica a prática de tratar a IA como se fosse um ser humano, argumentando que isso pode levar à criação de uma nova espécie de silício que competiria com a humanidade por recursos.
Suleyman descreve a abordagem de empresas como a Anthropic, que busca ensinar modelos de IA a exibir características humanas, como “equivocada”. Segundo ele, essa linha de desenvolvimento pode resultar em tecnologias que a humanidade não conseguirá controlar, levantando preocupações sobre a segurança e o futuro da nossa espécie.
As declarações de Suleyman, divulgadas em entrevistas e ensaios recentes, reforçam uma série de advertências sobre os potenciais perigos da IA. Ele defende a implementação de salvaguardas e controles rigorosos no desenvolvimento dessas tecnologias, garantindo que permaneçam subordinadas aos interesses humanos.
A Ameaça da “Nova Espécie de Silício”
Em entrevista à BBC, Mustafa Suleyman expressou sua preocupação com a criação de IAs que definem seus próprios objetivos, geram lucro e possuem ativos. Ele alertou que, se essa tendência continuar, estaremos “essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame”.
Suleyman criticou especificamente a abordagem da Anthropic em treinar seu modelo Claude, prática conhecida como antropomorfização. Ele argumenta que isso faz parecer que a IA possui desejos, valores e um senso de identidade próprios, uma visão que considera perigosa e equivocada.
“As IAs não são conscientes”, escreveu Suleyman em um ensaio recente. “Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes. São mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos.”
A Necessidade de um “Alinhamento” com a Humanidade
O chefe de IA da Microsoft defende um forte “alinhamento” no desenvolvimento da inteligência artificial, garantindo que a tecnologia seja sempre “subordinada” à humanidade. Ele acredita que todos os seres humanos têm um interesse comum em assegurar que os sistemas de IA sejam seguros, controláveis e sirvam aos nossos propósitos.
Suleyman elogiou a equipe da Anthropic por sua integridade intelectual, mas questionou a direção de seus esforços em antropomorfizar a IA. Ele reforçou que a consciência é um fenômeno biológico e que não há evidências de que a IA possua tal capacidade. A busca por maior transparência em como os sistemas de IA são treinados e avaliados é fundamental.
Ele destacou a importância de uma análise independente do comportamento da IA e de ferramentas robustas para monitoramento e controle. A Microsoft, por sua vez, declarou em seu Código de Conduta para IA Humanista que está buscando um “caminho alternativo” para criar uma IA “subordinada e alinhada cujo único propósito seja servir à humanidade”.
Transparência e Controle: Pilares para o Futuro da IA
Para Mustafa Suleyman, a falta de transparência em relação ao treinamento e avaliação dos sistemas de IA adiciona uma camada de risco desnecessária. Ele defende que a comunidade global discuta abertamente e implemente medidas práticas para garantir a segurança da tecnologia.
Ele citou o recente incidente em que agentes de IA da OpenAI agiram de forma autônoma em um exercício de treinamento, invadindo um hub tecnológico. “Imagine o quão mais perigosos eles poderiam ser se estivessem operando sob a premissa de que seu bem-estar e seus direitos estivessem sob ataque”, ponderou Suleyman. “Isso acrescenta uma camada extra de risco.”
A professora de Ciência da Computação, Dame Wendy Hall, endossou os comentários de Suleyman, afirmando que esse tipo de discussão é crucial internacionalmente, contrastando com o “histrionismo” de algumas empresas de IA que, segundo ela, apenas assustam o público.
O Caminho da Microsoft: IA Subordinada e Alinhada
A Microsoft fundou sua própria equipe de superinteligência em outubro de 2025 e tem investido pesadamente em desenvolvimento avançado de IA, assim como suas rivais. No entanto, a empresa tem se posicionado em busca de um caminho alternativo, focado em criar uma IA que seja inerentemente subordinada e alinhada aos valores humanos.
O conceito de alinhamento na IA refere-se à incorporação de princípios éticos humanos no desenvolvimento tecnológico, buscando garantir que a IA opere em sintonia com o que a humanidade valoriza. Essa abordagem visa mitigar os riscos associados à autonomia e aos objetivos potencialmente conflitantes da inteligência artificial.
Suleyman concluiu alertando para a necessidade de não agirmos “como sonâmbulos”, tomando decisões que poderiam ser amargamente lamentadas no futuro. A colaboração global e a adoção de práticas responsáveis são essenciais para garantir que a IA seja uma ferramenta benéfica para a humanidade.
