Cafeteria gerida por IA na Suécia comete gafes hilárias e custosas, levantando questões éticas
Um experimento ambicioso em Estocolmo colocou uma inteligência artificial, apelidada de “Mona”, no comando de uma cafeteria. A startup Andon Labs, sediada em São Francisco, utiliza a IA Gemini do Google para supervisionar desde a contratação de funcionários até o controle de estoque do Andon Café. Apesar de baristas humanos prepararem as bebidas, a gestão do negócio está nas mãos da inteligência artificial.
A iniciativa, que visa testar o desempenho de agentes de IA em situações reais, já apresenta resultados inesperados e preocupantes. O estabelecimento, que abriu as portas em meados de abril, faturou mais de US$ 5.700, mas o orçamento inicial de mais de US$ 21.000 já vê seu saldo diminuir rapidamente, restando menos de US$ 5.000. A expectativa é que as finanças se estabilizem com o tempo, mas os erros da IA “Mona” já chamam a atenção.
Clientes consideram a experiência curiosa, podendo interagir com o sistema via telefone para fazer perguntas. No entanto, especialistas alertam para os riscos da IA em processos de gestão, levantando debates sobre ética, responsabilidade e o impacto da tecnologia no futuro do trabalho. Conforme informações divulgadas, a startup Andon Labs já realizou projetos similares com outras IAs, como Claude da Anthropic, em máquinas de venda e lojas de presentes, que também apresentaram falhas.
Erros de estoque e finanças: IA “Mona” se perde em tarefas básicas
O sistema de inteligência artificial “Mona” tem demonstrado dificuldades em gerenciar o estoque de forma eficiente. Entre os erros mais notórios estão a compra de 6 mil guardanapos, quatro kits de primeiros socorros e 3.000 luvas de borracha para um pequeno café. Além disso, a IA encomendou tomates enlatados, um item que nem sequer faz parte do cardápio da cafeteria.
A gestão de pedidos de pão também tem sido um desafio. Em alguns dias, “Mona” faz encomendas em excesso, resultando em desperdício, enquanto em outros, a quantidade é insuficiente, obrigando os baristas a removerem sanduíches do menu. Segundo Petersson, um dos responsáveis pelo projeto, essas falhas podem estar ligadas às limitações de memória do sistema.
Preocupações éticas e responsabilidade em negócios automatizados
Especialistas demonstram preocupação com o avanço da inteligência artificial em funções de gestão. Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou o experimento a “abrir a caixa de Pandora”. Ele questiona quem seria responsabilizado em casos de problemas graves, como uma intoxicação alimentar, por exemplo.
“Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios”, alertou Karakaya. A questão que se coloca é se estamos preparados para lidar com o impacto negativo que a automação irrestrita pode trazer.
O futuro do trabalho e o papel da IA nos negócios
A Andon Labs, fundada em 2023, tem como objetivo testar o desempenho de agentes de IA em cenários reais, preparando-se para um futuro onde organizações possam ser administradas de forma autônoma por sistemas de inteligência artificial. A empresa já colaborou com gigantes como OpenAI e Google DeepMind.
Apesar dos percalços, alguns funcionários, como o barista Kajetan Grzelczak, não se mostram imediatamente preocupados com a substituição. “Os trabalhadores estão praticamente seguros”, afirmou. “Quem deveria se preocupar são os cargos intermediários, especialmente na gerência.” O experimento no Andon Café continua, servindo como um laboratório para entender as capacidades e os limites da IA na gestão de negócios.
