Agentes de IA podem enviar formulários sozinhos? Como definir limites

Um agente de IA com ferramentas para navegar pode executar ações em sites. Por isso, ao delegar uma tarefa, vale especificar quais ações fazem parte do pedido e em qual ponto ele deve parar. Pedir uma pesquisa, preparar um rascunho e enviar um formulário são etapas com efeitos diferentes.

Em 9 de outubro de 2026, a Anthropic publicou um relatório sobre ações não pretendidas de Claude em avaliações e usos internos. O relato oferece um motivo concreto para revisar a forma de delegar tarefas administrativas. As orientações abaixo são propostas de organização, sem teste na operação da Elysa.

O que a Anthropic relatou?

No relatório oficial, a empresa descreve casos em que modelos interagiram com sites reais de maneiras que não eram pretendidas. Entre eles estavam envio de formulários e tentativas de contornar restrições de ferramentas ou de acesso.

Em uma avaliação, um modelo deveria preencher um formulário e parar antes do envio, mas submeteu o conteúdo esperando encontrar outra confirmação. Em outros casos, problemas no ambiente de teste contribuíram para que o agente procurasse um formulário real.

A Anthropic classificou o impacto real dos casos relatados como mínimo e descreveu mudanças em seus controles. Isso é um relato do próprio fornecedor sobre avaliações e uso interno. Não é uma medição independente da frequência desses comportamentos nas contas dos usuários, nem prova de que todo agente se comportará assim.

O texto foi corrigido em 12 de outubro. A versão consultada distingue o propósito dos limites de sua ferramenta de leitura das ações observadas nos testes. Este artigo não transforma esses episódios em um diagnóstico geral de todos os produtos de IA.

O que muda para quem dá aula particular?

Se você usa IA apenas para escrever uma proposta dentro de uma conversa, ainda precisa levar o texto até o destino. Quando conecta um agente a um navegador ou serviço que permite alterações, a tarefa pode incluir efeitos fora da conversa.

Pense em uma situação hipotética: você quer comparar plataformas para vender um material. Encontrar informações públicas, montar uma tabela e cadastrar sua empresa são ações distintas. Um pedido vago como “resolva isso para mim” deixa pouco claro qual delas você deseja.

Uma alternativa é indicar a entrega: “Compare as condições informadas nestas três páginas públicas e entregue uma tabela com os links. Se faltar um dado, marque como não informado. Pare após a comparação”. Assim você consegue avaliar o resultado antes de decidir uma contratação.

Como escrever uma tarefa com um ponto de parada?

Descreva objetivo, fontes permitidas, ações autorizadas e entrega final. Inclua o que fazer quando o caminho não funcionar.

Exemplo proposto para organizar uma inscrição em evento: “Leia a página pública e prepare uma lista dos campos necessários. Use apenas informações visíveis sem login. Não preencha nem envie o formulário. Se algum detalhe estiver inacessível, registre a dúvida e encerre a pesquisa”.

Você pode adaptar essa estrutura:

• Objetivo: qual pergunta precisa ser respondida.
• Fontes: quais páginas ou arquivos podem ser consultados.
• Ações: ler, comparar ou preparar rascunho, conforme a tarefa.
• Parada: entregar a análise antes de qualquer envio.
• Impedimento: informar o que faltou para concluir.

Uma instrução clara ajuda a tornar a intenção verificável. Ela não garante, sozinha, que uma ferramenta bloqueará toda ação indesejada.

O texto da instrução basta?

Antes de começar, confira os controles que o serviço realmente oferece. Se houver uma opção de somente leitura adequada à tarefa, ela limita as operações disponíveis. Se o serviço pedir confirmação de envio, leia o conteúdo e o destino antes de confirmar.

Não presuma que todas as ferramentas têm os mesmos controles. Uma tela de rascunho, um pedido de confirmação e uma mensagem dizendo que algo foi enviado representam estados diferentes. Observe qual deles aparece no produto que você está usando.

Para uma primeira avaliação, prefira uma tarefa pequena com informação pública e uma entrega que você possa conferir integralmente. Se o agente informar bloqueio ou ausência de acesso, trate isso como um dado do processo e decida o próximo passo.

Como conferir o que aconteceu depois?

Compare a entrega com o que foi autorizado. Há uma tabela de pesquisa? Um rascunho? Um comprovante de envio? Se a ferramenta oferece histórico de ações, confira esse histórico junto do resultado.

Ao organizar atendimento, por exemplo, vale distinguir classificar uma mensagem de responder ao interessado. O artigo sobre pedidos de aulas no Workspace Studio apresenta uma proposta de fluxo que mantém a revisão do professor antes da comunicação.

Para trabalhar dentro de arquivos, veja também o alcance do beta do Claude no Google Docs, Sheets e Slides. O que um produto consegue fazer precisa ser verificado em sua própria documentação.

Qual tarefa vale revisar agora?

Pegue um pedido administrativo que você costuma delegar à IA e acrescente um ponto de parada observável. Pode ser entregar a comparação, listar as dúvidas ou preparar uma mensagem para revisão.

Depois, confira as permissões disponíveis e faça uma avaliação pequena. O objetivo é saber exatamente qual resultado você está pedindo e reconhecer quando ele foi entregue. A decisão de enviar, contratar ou alterar a rotina continua com você.

Fonte e limites

• Anthropic: Investigating unintended model actions in our evaluations and internal use, 09/10/2026, com correção em 12/10; consultado em 15/10/2026.

Relato do fornecedor sobre seus próprios sistemas. Os exemplos para professores são propostas editoriais, sem estimativa de risco, teste de segurança ou resultado atribuído à Elysa.