Permissões de agentes de IA: matriz para documentos
Um agente de IA que trabalha com documentos deve receber apenas os acessos necessários à tarefa. Permitir a leitura de um modelo não significa autorizar alterações, envio a terceiros ou acesso a toda a pasta de contratos. Uma matriz de permissões transforma essas diferenças em decisões verificáveis.
O que são permissões de agentes de IA?
São os limites aplicados às ferramentas e identidades usadas pelo agente: quais documentos pode acessar, quais ações pode executar e em que condições. Esses limites precisam ser aplicados pelos sistemas e ferramentas, não apenas descritos no pedido feito à IA. A OWASP recomenda acesso mínimo e restrição por ferramenta e recurso. Consulte as orientações da OWASP.
Uma matriz para começar
O quadro abaixo é ilustrativo. Ajuste responsáveis, recursos e controles ao processo real antes de implementar. No celular, deslize a tabela para ver todas as colunas.
| Ação | Recurso permitido | Condição sugerida | Verificação |
|---|---|---|---|
| Ler | Modelo autorizado para o piloto | Acesso somente aos documentos necessários | Tentar acessar outro documento e confirmar a negativa |
| Preparar rascunho | Área de trabalho separada | Sem modificar o original aprovado | Conferir versão e local de gravação |
| Editar | Rascunho indicado | Apenas campos necessários à tarefa | Verificar alterações e tentativas fora do escopo |
| Enviar | Documento e destinatários específicos | Aprovação humana vinculada ao envio | Confirmar que alterações invalidam a aprovação |
| Excluir ou administrar | Nenhum no piloto | Negado por padrão | Testar que a operação é recusada |
Como definir os limites
- Escolha a tarefa. Por exemplo, localizar cláusulas em um conjunto autorizado, não administrar todos os contratos.
- Identifique a identidade usada. Saiba qual conta ou credencial acessa cada sistema e quem responde por ela. Evite herdar privilégios administrativos de uma pessoa por conveniência.
- Separe ação e recurso. Leitura, edição, envio e exclusão são permissões distintas. Verifique se o sistema de destino realmente limita cada uma delas.
- Defina duração e revisão. Estabeleça quando o acesso será reavaliado, encerrado ou revogado. Confira se a revogação passou a valer no serviço de destino.
- Teste negativas. Use dados fictícios para tentar acessar outro arquivo, alterar parâmetros e executar uma operação não autorizada. Registre o resultado, sem incluir segredos no log.
Leitura também merece cuidado: um contrato pode ser enviado ao contexto do modelo ou aparecer em registros. Mapeie os fornecedores envolvidos, o destino dos dados e as condições aplicáveis. O guia de conexão MCP segura aborda esse fluxo e outras verificações antes de conectar ferramentas.
Quem decide e quem executa?
O agente pode propor uma operação, mas a autorização deve ser verificada por um componente independente, considerando a identidade, o recurso, a ação e a aprovação aplicável. Um documento lido pode conter instruções maliciosas; seu conteúdo não deve se tornar uma ordem para mudar destinatários ou ampliar privilégios. Controles em camadas reduzem riscos, mas não garantem imunidade a prompt injection. Veja a orientação da OWASP sobre prompt injection.
Quando revisar a matriz?
Revise quando a tarefa mudar, um usuário sair da equipe, uma ferramenta for atualizada ou o piloto terminar. Teste também após mudanças em credenciais e integrações. Uma matriz documentada é o início da governança, não prova de que as restrições foram implementadas.
Perguntas frequentes
Um agente com acesso somente de leitura é sempre seguro?
Não. Ele ainda pode expor informações nos resultados, no contexto de um modelo ou em registros. É preciso limitar quais dados podem ser lidos e para onde podem ir.
A aprovação humana substitui as permissões?
Não. A aprovação é uma camada adicional para uma ação específica. A execução ainda precisa verificar se a identidade e a operação estão autorizadas.