Pular para o conteúdo

Segurança em IA começa antes da ferramenta

A corrida pela inteligência artificial dentro das empresas avançou mais rápido do que a capacidade de governar seu uso.

Enquanto lideranças discutem agentes, automações, copilotos e integrações com modelos generativos, muitas organizações ainda não conseguem responder perguntas básicas: quem usa IA, quais dados entram nos prompts, quais ferramentas foram aprovadas, quais fornecedores usam modelos generativos e o que acontece se uma automação gerar exposição, vazamento ou decisão incorreta.

O alerta aparece no Global Cybersecurity Outlook 2026, do World Economic Forum: 87% dos respondentes identificaram vulnerabilidades relacionadas à IA como o risco cibernético que mais cresceu ao longo de 2025. O mesmo relatório aponta que 94% dos líderes veem a IA como a força mais relevante na transformação da cibersegurança em 2026.

Na prática, a discussão sobre IA deixou de ocupar apenas a agenda de inovação. Agora, ela também pressiona as áreas de risco, governança, privacidade, identidade, continuidade e resposta a incidentes.

Esse é o tipo de discussão que a Zeragon tem levado para empresas que já perceberam que IA não pode ser tratada apenas como pauta de produtividade. A adoção pode até começar no negócio, mas a sustentação exige segurança, dados, acessos, fornecedores, políticas e resposta a incidentes trabalhando juntos.

Por isso, segurança em IA começa antes da ferramenta. Ela começa na política, na classificação dos dados, na visibilidade de uso, na governança de acessos e na capacidade da empresa de tratar incidentes envolvendo IA com a mesma seriedade aplicada a qualquer outro risco crítico do negócio.

O risco começa quando a IA entra sem controle

A adoção de IA avançou mais rápido do que a governança em muitos ambientes corporativos. O Cost of a Data Breach Report 2025, da IBM, ajuda a dimensionar essa lacuna. Segundo o relatório, 97% das organizações que sofreram incidentes de segurança relacionados à IA não tinham controles adequados de acesso para esses sistemas.

Além disso, 63% das organizações avaliadas não tinham políticas de governança de IA para gerenciar o uso da tecnologia ou prevenir shadow AI.

Esses dados deslocam a conversa. O problema não está apenas no modelo, na aplicação ou na ferramenta contratada. Ele também aparece na forma como a IA entra na rotina da empresa: sem inventário, sem critério de aprovação, sem classificação de dados, sem controle de permissões e sem clareza sobre responsabilidades.

Quando isso acontece, a organização passa a operar com uma nova superfície de risco sem saber exatamente onde ela começa e onde termina.

Um colaborador usa uma ferramenta pública para resumir uma ata de reunião. Um time testa uma automação conectada a dados internos. Uma área contrata uma solução SaaS com IA embarcada. Um fornecedor aplica modelos generativos dentro de um processo crítico. Um agente recebe permissões acima do necessário para executar tarefas em sistemas corporativos.

Cada situação pode parecer pequena isoladamente. No entanto, quando somadas, elas criam um ambiente difícil de enxergar, medir e proteger.

A empresa não protege o que não consegue ver

A visibilidade representa uma das primeiras camadas de maturidade em segurança de IA.

O Cisco Cybersecurity Readiness Index 2025 aponta que 60% das empresas não sabem quais solicitações específicas os colaboradores fazem em ferramentas de GenAI. Além disso, o mesmo levantamento mostra que 60% das organizações não têm confiança para identificar o uso de ferramentas de IA não aprovadas.

Esse cenário cria uma pergunta incômoda para a liderança: como controlar o risco de uma tecnologia que a empresa já usa, mas ainda não mapeia por completo?

A resposta não está em bloquear tudo por padrão. Essa abordagem costuma gerar desvio, uso informal e ainda menos visibilidade. Ao mesmo tempo, liberar tudo com base apenas na promessa de produtividade também amplia a exposição.

Portanto, o caminho mais consistente passa por critério de uso. A empresa precisa definir quais ferramentas aprova, quais usos permite, quais dados podem entrar em prompts, quais áreas precisam de validação prévia, quais integrações exigem análise de segurança e quais atividades devem gerar logs.

Sem isso, a IA entra pela porta da eficiência e cria risco pela janela da improvisação.

img_governança-1

Antes de dar autonomia à IA, a empresa precisa definir limites

O avanço dos agentes de IA torna essa conversa ainda mais urgente. Enquanto uma ferramenta de IA generativa tradicional responde a comandos, um agente pode executar etapas, consultar sistemas, acionar fluxos, conectar aplicações e tomar decisões intermediárias com base em contexto.

Essa capacidade aumenta a produtividade. Porém, também amplia o impacto de permissões mal definidas, dados expostos e integrações sem validação.

A OWASP Top 10 for Large Language Model Applications lista riscos como prompt injection, exposição de informações sensíveis, vulnerabilidades na cadeia de suprimentos, uso inseguro de plugins e excesso de autonomia. No caso de prompt injection, entradas maliciosas podem manipular o comportamento do modelo e levar a acesso não autorizado, vazamento de dados ou decisões comprometidas.

Esse ponto muda a lógica da segurança. Não basta avaliar se uma ferramenta “tem IA”. A empresa precisa entender onde ela se conecta, quais dados processa, quais permissões herda, quais decisões influencia e o que acontece se alguém manipular o comportamento esperado.

Portanto, quanto mais autonomia a IA recebe, mais claro precisa ser o modelo de controle ao redor dela.

Isso inclui segregação de acessos, princípio do menor privilégio, classificação de dados, validação de saídas, monitoramento contínuo, rastreabilidade de decisões e plano de resposta para incidentes envolvendo modelos, agentes, integrações ou vazamento de informações em prompts.

Política de IA não pode ser documento decorativo

Muitas empresas já perceberam que precisam de uma política de uso de IA. O problema é que, em alguns casos, essa política nasce como um documento genérico, pouco conectado à operação e sem mecanismos reais de aplicação.

Uma política eficiente precisa orientar decisões práticas. Ela deve deixar claro quais dados são sensíveis, quais informações não devem entrar em ferramentas públicas, quais soluções cada área pode adotar, quem aprova novos usos, como a empresa avalia fornecedores, quais logs precisa manter e como os times devem reportar incidentes.

Além disso, a política precisa considerar diferentes níveis de risco. Usar IA para revisar um texto institucional não tem o mesmo peso que usar IA para analisar dados de clientes, automatizar decisões financeiras, apoiar processos jurídicos, classificar risco de terceiros ou operar em ambientes conectados a sistemas críticos.

A maturidade está justamente em diferenciar esses cenários. O NIST AI Risk Management Framework propõe uma abordagem baseada em governar, mapear, medir e gerenciar riscos de IA. O próprio NIST reforça que o framework ajuda organizações a lidar com riscos associados à inteligência artificial de forma estruturada.

Essa lógica importa porque segurança em IA não depende apenas de uma aprovação inicial. Pelo contrário, ela precisa acompanhar todo o ciclo de vida do uso: escolha da ferramenta, teste, implantação, operação, monitoramento, revisão e resposta.

A ISO/IEC 42001:2023 também reforça esse movimento ao estabelecer requisitos para criar, implementar, manter e melhorar um sistema de gestão de IA dentro das organizações. Em outras palavras, governança de IA não deve funcionar como uma iniciativa isolada. Ela precisa fazer parte de um sistema de gestão.

Onde a Zeragon entra nessa discussão

A Zeragon nasce da evolução da Sec4sys, vertical da Foursys especializada em cibersegurança e riscos corporativos, com uma leitura clara do momento atual: empresas não precisam de mais ferramentas. Elas precisam de método para transformar tecnologia em segurança, risco em prioridade e governança em operação.

No tema de IA, essa diferença fica ainda mais evidente. Antes de discutir agente, automação ou ferramenta, a organização precisa entender sua maturidade. Precisa mapear usos atuais, identificar shadow AI, classificar dados, revisar acessos, avaliar fornecedores, definir critérios de aprovação, estruturar indicadores e preparar resposta a incidentes.

Apoiamos empresas justamente nessa conexão entre visão executiva e profundidade técnica.

 Quanto mais autonomia a IA recebe, mais claro precisa ser o modelo de controle ao redor dela.