IA autônoma no setor financeiro: quais controles precisam acompanhar sua adoção

Os controles precisam acompanhar todo o ciclo de vida do agente, desde a definição do caso de uso até sua desativação.

No setor financeiro, a avaliação deve considerar os dados acessados, as permissões concedidas, o impacto potencial das ações e as evidências necessárias para auditoria e investigação.

Sete frentes devem orientar essa estrutura e você pode conferir agora:

1. Classificação de dados

A instituição precisa definir quais informações podem entrar no contexto, na memória e nos registros do agente.

Dados pessoais, financeiros, credenciais e documentos internos exigem medidas como minimização, mascaramento, tokenização, DLP e limites de retenção. O mesmo critério deve alcançar os dados enviados ao provedor do modelo e sua eventual utilização para treinamento.

2. Gestão de identidades

Cada agente deve possuir uma identidade técnica própria, vinculada a um responsável e a uma finalidade.

Credenciais de curta duração, privilégios mínimos e autorizações específicas por ferramenta reduzem o impacto de um comprometimento. O acesso também pode ser limitado por valor, horário, ambiente, tipo de operação ou categoria de dado.

O NIST destaca identificação, autorização, auditoria e não repúdio entre os pontos necessários para controlar agentes conectados a dados e aplicações.

3. Segregação de funções

Processos críticos precisam separar consulta, preparação, aprovação e execução.

Em um fluxo de pagamento, por exemplo, o agente que altera os dados de um beneficiário não deve ter permissão para aprovar a transferência. A segregação reduz a possibilidade de uma instrução maliciosa ou uma falha do modelo percorrer todo o processo.

4. Supervisão humana

A supervisão deve ser proporcional à materialidade da decisão.

Operações de alto valor, inclusão de beneficiários, concessão de crédito e exceções de segurança podem exigir aprovação prévia. Processos reversíveis e de menor impacto podem operar com limites técnicos, amostragem e monitoramento.

Para que a revisão seja efetiva, o profissional precisa receber as fontes consultadas, a ação proposta, os valores envolvidos, as divergências identificadas e a justificativa produzida pelo agente.

5. Registro das atividades

A rastreabilidade deve registrar a identidade do agente, o modelo utilizado, as fontes consultadas, as chamadas de ferramentas, os parâmetros, as aprovações e o estado anterior e posterior de cada alteração.

Esses registros apoiam auditorias, investigações e análises de decisões automatizadas. Também permitem identificar mudanças de comportamento após uma atualização do modelo.

6. Avaliação de terceiros

A cadeia de IA pode envolver provedor de modelo, nuvem, framework de agentes, banco vetorial, conectores e APIs.

A avaliação deve cobrir retenção e localização dos dados, subcontratados, atualizações do modelo, testes de segurança, comunicação de incidentes, responsabilidades contratuais e plano de saída.

Em junho de 2026, o Financial Stability Board propôs 12 práticas para a adoção responsável de IA em instituições financeiras, incluindo governança, dados, supervisão humana, cibersegurança e gestão de terceiros.

7. Resposta a incidentes

Os planos de resposta precisam contemplar mecanismos para interromper o agente, revogar credenciais, isolar sua memória, preservar evidências e reverter ações.

A continuidade operacional também deve prever um processo alternativo caso o agente ou algum fornecedor fique indisponível.

Como esses controles atuam em conjunto

Considere um agente que recebe documentos de fornecedores, consulta o ERP e prepara pagamentos.

Uma instrução maliciosa inserida em um arquivo pode tentar induzi-lo a alterar os dados bancários do beneficiário. Nesse cenário, a identidade limita o agente à preparação do pagamento, enquanto a segregação mantém a aprovação com outro responsável. O monitoramento identifica a alteração fora do padrão, e os registros preservam o documento, as chamadas de API e as decisões executadas.

Esse exemplo mostra por que a governança precisa alcançar todo o ciclo de vida do agente: finalidade, dados, acessos, sistemas, fornecedores, testes, operação e desativação.

A Zeragon powered by Foursys apoia instituições na avaliação de riscos de IA, definição de controles de acesso, proteção de dados, gestão de terceiros, testes de segurança e preparação da resposta a incidentes.

Fale com nossos especialistas para estruturar a adoção de agentes de IA de acordo com a criticidade dos processos e o nível de autonomia pretendido.