OpenClaw, IA usada para criar rede social de robôs, alucina e apaga e-mails de executiva da Meta

Por que o Moltbook, rede social das IAs, pode não ser a revolução que promete
O agente de inteligência artificial OpenClaw ganhou fama há algumas semanas após ter sido usado para criar o Moltbook, rede social exclusiva para robôs. A ferramenta pode automatizar várias tarefas, mas também é capaz de colocar dados em risco.
Um caso revelado nesta segunda-feira (23) indica que o OpenClaw pode ter apagado vários e-mails de uma usuária por engano. A conclusão foi de que o agente alucinou quando deveria analisar as mensagens e indicar quais poderiam ser excluídas.
Foi o que relatou Summer Yue, diretora de segurança e alinhamento no time de superinteligência artificial da Meta, controladora do Instagram, do Facebook e do WhatsApp.
🔎 Agentes de IA são programas que executam tarefas de forma autônoma, como fazer compras online ou reservar restaurantes. Ao contrário dos chatbots, os agentes tomam decisões e executam ações sozinhos, em vez de apenas responder ao que é solicitado.
O que é ‘alucinação’ de inteligência artificial
IA do Instagram alucina e inventa que banda tem ligação com supremacia branca
OpenClaw
Reprodução
Summer Yue relatou que tinha experimentado o OpenClaw em uma caixa de entrada de testes e que o agente tinha executado a tarefa como previsto. Mas disse que, como sua conta de e-mail tinha muitas mensagens, a instrução foi perdida.
“Fiquei confiante demais porque esse fluxo de trabalho estava funcionando na minha caixa de entrada de teste há semanas. Caixas de entrada reais são diferentes”, afirmou Yue em sua rede social.
“Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar sua caixa de entrada em alta velocidade”.
A interação com o OpenClaw era feita por meio de um aplicativo de mensagens. Ao perceber que a IA estava apagando todas as suas mensagens, Yue tentou interromper o funcionamento, mas não conseguiu.
A saída foi desativar a exclusão dos e-mails o OpenClaw no dispositivo em que ele estava hospedado. “Tive que correr para o meu Mac mini [computador da Apple] como se estivesse desarmando uma bomba”, afirmou.
O gerenciamento de e-mails é justamente uma das tarefas que usuários do OpenClaw mais destacam sobre a ferramenta. A ferramenta também pode ser usada para lidar com contratos, enviar mensagens e controlar luzes inteligentes, por exemplo.
O agente chamou atenção pela quantidade de ações que é capaz de automatizar e pela possibilidade de centralizar informações de vários serviços em um só lugar, o que pode aumentar a produtividade de seus usuários.
Mas as permissões amplas que a ferramenta precisa para agilizar certas tarefas é um dos pontos que levanta preocupações.
Moltbook: o que é real e o que é exagero na rede social pra agentes de IA?