Descreva a autonomia como uma lista de ações concretas
Evite aprovar um agente apenas pela descrição ampla de sua função, como apoiar atendimento ou cuidar de cadastros. Liste ações observáveis: consultar um pedido, preparar uma resposta, alterar um campo, enviar uma mensagem ou encerrar uma solicitação. Cada uma tem um alcance e uma consequência diferentes.
Na abordagem da IO, uma ficha curta deve registrar finalidade, dados necessários, ações permitidas, situações que exigem revisão e responsável pelo resultado. A ficha serve para alinhar negócio e tecnologia. Ela também permite explicar a autonomia a quem usará a solução, sem depender de conhecer os detalhes do modelo.
Exemplo hipotético: um agente de atendimento pode localizar o histórico de entrega e preparar uma orientação. Se o cliente pedir uma mudança de endereço, o agente reúne os dados e apresenta a proposta ao responsável. A tarefa só está concluída quando o sistema de pedidos confirma a alteração autorizada, e o atendimento informa corretamente essa situação ao cliente.
Faça as permissões corresponderem à tarefa
O projeto OWASP sobre autonomia excessiva distingue excesso de funcionalidades, de permissões e de autonomia. Recomenda limitar ferramentas e acessos ao necessário e verificar a autorização nos sistemas que recebem as ações. Uma instrução escrita para o modelo não substitui esse controle.
Para o agente do exemplo, consultar entregas não exige acesso a todas as funções administrativas do sistema. A implementação deve disponibilizar as operações e os registros previstos para aquele atendimento. Quando atuar em nome de alguém, também precisa respeitar o alcance de acesso dessa pessoa, sem herdar uma conta genérica com poderes mais amplos.
Recomendamos revisar a ficha em duas situações concretas: quando a equipe pedir uma nova tarefa e quando uma ferramenta conectada mudar. Uma melhoria no atendimento pode precisar apenas de um campo adicional de consulta. Esse pedido não deve ampliar silenciosamente o conjunto de alterações que o agente consegue executar. Registre a decisão e quem mantém a configuração.
Trate documentos e mensagens como conteúdo a analisar
Uma mensagem de cliente pode conter um pedido legítimo e, ao mesmo tempo, uma orientação incompatível com as regras da empresa. Um documento consultado pode incluir texto que tenta direcionar o agente para outra ação. Encontrar esse conteúdo não concede autorização para executá-lo.
O guia de prevenção de injeção de instruções da OWASP descreve ataques indiretos presentes em páginas, documentos e e-mails. A separação entre instruções e dados, acompanhada de validação e controles de acesso, faz parte das defesas. Nenhuma frase isolada no comando do modelo garante proteção completa.
No atendimento ilustrativo, imagine um anexo que declare autorizada a alteração de endereço e peça para ignorar a conferência. O anexo pode ser uma evidência a examinar, mas a autorização precisa vir do canal e do responsável definidos no processo. Inclua esse caso nos testes, junto de mensagens ambíguas e documentos antigos, sem exigir que o atendente identifique sozinho cada tentativa de manipulação.
Mostre exatamente o que será feito antes de pedir aprovação
A aprovação deve permitir uma decisão informada. Para uma alteração de endereço, apresente pedido, endereço atual, endereço proposto, motivo e efeitos conhecidos sobre a entrega. O responsável deve conseguir corrigir a proposta ou recusá-la. Um botão de confirmar sem esses elementos transfere responsabilidade sem oferecer informação suficiente.
O guia AI Agent Security da OWASP recomenda vincular a aprovação à ação exata e verificar sua validade no componente que executa a operação. Se destino ou parâmetros mudarem depois da revisão, a aprovação anterior não deve servir para executar a nova proposta.
Na rotina que sugerimos, a empresa classifica quais ações podem ocorrer automaticamente dentro de condições já autorizadas e quais precisam de revisão a cada ocorrência. Considere alcance, possibilidade de correção e compromisso assumido. Comece com um recorte que o responsável consiga acompanhar e registre as exceções que justificarem mudar a classificação.
Registre o que foi executado e organize a interrupção
Um registro útil liga a solicitação recebida à ação proposta, à autorização aplicável e à confirmação do sistema de destino. Ele deve permitir distinguir o que foi apenas preparado, o que foi enviado para execução e o que realmente se concluiu. Guarde as referências necessárias para investigar, evitando reproduzir documentos completos quando isso não ajudar.
Exemplo hipotético: um agente recebeu 40 pedidos de atualização. Preparou 30 propostas; dez ficaram aguardando informação. Das 30 propostas, 24 foram aprovadas e executadas, quatro continuam em revisão e duas foram recusadas. A equipe acompanha esses grupos separadamente: 40 solicitações recebidas não equivalem a 40 alterações realizadas.
Combine quem pode interromper novas execuções e como a equipe assume as pendências. Defina limites de volume e duração compatíveis com a tarefa. Interromper o agente não desfaz ações anteriores: uma alteração já confirmada pode exigir uma correção específica. A recuperação deve conferir cada registro afetado e preservar o histórico do que aconteceu.
Amplie a autonomia com base nos casos acompanhados
Avalie a solução pelo trabalho que conclui dentro dos limites combinados. Uma recusa correta a agir fora do escopo é diferente de uma falha em atender um pedido permitido. Da mesma forma, muitas aprovações humanas não demonstram segurança se o responsável recebe propostas incompletas e precisa investigar tudo novamente.
Reúna exemplos de ações corretas, encaminhamentos para revisão, informações insuficientes e tentativas bloqueadas. Observe também o tempo gasto na conferência. Use esse conjunto para melhorar a ficha, as ferramentas e o modo de apresentar propostas. A avaliação deve acompanhar mudanças de modelo, fontes, permissões e regras do processo.
Antes de liberar uma ação adicional, demonstre o resultado esperado e a recuperação de uma falha nesse novo recorte. Os guias sobre avaliação de assistentes e adoção na rotina ajudam a organizar essa evolução. O objetivo é uma delegação que a empresa consiga explicar, acompanhar e ajustar com evidências.
