Segurança na era da IA: protegendo dados contra ameaças inteligentes e vazamentos

Em 30 de outubro de 2026 apresentei a palestra “Segurança na Era da IA: Protegendo Dados Contra Ameaças Inteligentes e Vazamentos” no Conecta TI 2026, da Natercoop. Este texto reúne o conteúdo dos slides, em três atos: o cenário, onde as empresas estão expostas e o que fazer.

Abri com uma pergunta para o chat: quem aqui colou um texto do trabalho numa IA nesta semana? E em qual conta, a da empresa ou a pessoal? É aí que começa o assunto.

1. O cenário

Três mudanças chegaram ao mesmo tempo

• Colaboradores adotaram IA por conta própria, muitas vezes em conta pessoal, para produzir mais.
• Atacantes usam IA em golpes mais convincentes (phishing sem erro de português, voz e vídeo clonados) e em varreduras em escala.
• Incidentes ficaram mais caros e param a operação.

As três forças convergem para o mesmo ponto: os dados e a operação da empresa.

O custo médio de uma violação subiu

Segundo o relatório Cost of a Data Breach Brasil 2026, da IBM, o custo médio de uma violação de dados no Brasil passou de R$ 7,19 milhões em 2025 para R$ 7,44 milhões em 2026, alta de cerca de 3,5%. É a média do estudo, não uma previsão para uma empresa específica.

A LGPD já vale para dados colocados em IA

Não é preciso esperar uma lei específica de IA: a empresa responde pelos dados pessoais que trata, com ou sem IA. Se houver suspeita de vazamento:

1. Identificar se houve dado pessoal enviado ou exposto.
2. Validar o incidente e o que foi afetado.
3. Acionar o jurídico e o encarregado de dados, que avaliam a comunicação à ANPD e aos titulares.

É uma orientação geral; cada caso exige avaliação jurídica.

A IA já acelera etapas de ataques reais

• Novembro de 2025, Anthropic. Em uma campanha de espionagem, a IA executou a maior parte das atividades; os operadores entraram em 4 a 6 decisões. A Anthropic estima que a IA fez de 80% a 90% das atividades da campanha, que mirou cerca de 30 alvos, com poucas invasões confirmadas. A IA também alucinou resultados.
• Setembro de 2026, Google Threat Intelligence. Em uma campanha específica do 2º trimestre de 2026, depois de comprometer um recurso de nuvem, agentes planejaram, construíram e executaram a coleta de credenciais em menos de 6 horas. É um caso, não a média do mercado, e não é uma invasão completa em 6 horas.

A mensagem é que a IA acelera etapas e aumenta os ativos a proteger: dados, conectores, agentes e chaves.

PHP2Shell: da descoberta à exploração

Um caso de pesquisa defensiva com apoio de IA mostra como a janela entre descoberta e exploração é curta:

• 01/08/2026: a Calif descobre as falhas, em pesquisa com apoio de IA.
• 17/10/2026: a AWS registra uma tentativa de exploração em seu honeypot MadPot, antes da divulgação.
• 21/10/2026: o PHP publica versões corrigidas (8.2.35, 8.3.36, 8.4.27 e 8.5.12) para a CVE-2026-109618 e a CVE-2026-109619.
• 29/10/2026: a Palo Alto Networks confirma exploração ativa contra o PAN-OS com a interface de gestão exposta à internet.

Tentativa observada em honeypot e exploração confirmada têm escopos distintos. A IA apoiou a pesquisa defensiva; não há prova de uso de IA na exploração. A lição é a sequência: inventário, prioridade para ativos expostos, atualização e verificação de comprometimento.

2. Onde estamos expostos

Shadow AI: IA usada no trabalho sem a empresa saber

O colaborador quer ganhar tempo, sem má-fé. Usa uma ferramenta não aprovada: conta pessoal, extensão de navegador, app que grava reunião, assistente ligado ao e-mail e ao drive. No prompt vão contratos, planilhas, dados de clientes e cooperados, código, senhas e chaves. Em conta pessoal, os termos de uso podem permitir retenção e uso para treinamento.

A empresa não vê o que saiu, nem para onde foi. Ninguém age de má-fé; falta um caminho oficial.

Assistentes conectados podem seguir instruções escondidas

Aqui a IA é o alvo. Na injeção de comando (prompt injection), um e-mail, documento ou página traz uma instrução escondida que o assistente lê. A cadeia tem quatro passos, e cada um pede um controle:

Etapa	O que pode falhar	Controle
O conteúdo chega	E-mail ou documento traz instrução escondida	Tratar conteúdo externo como não confiável
O assistente lê	Acessa mais dados do que a tarefa exige	Menor privilégio: só o necessário
O assistente age	Pode seguir a instrução maliciosa	Confirmação humana em ações sensíveis
O dado sai	Informação enviada para fora	Bloquear e registrar saídas

O caso histórico é o EchoLeak (CVE-2025-32711), uma falha de zero clique no Microsoft 365 Copilot em 2025, já corrigida pela Microsoft. Vale como lição, não como risco aberto. O menor privilégio não elimina o risco, mas reduz o impacto.

Golpes com vídeo falso já convencem

Em Hong Kong, em 2024, um funcionário do financeiro da Arup fez várias transferências, em sigilo, que somaram cerca de US$ 25 milhões, depois de uma videochamada com o “diretor financeiro” e colegas. Todos eram deepfakes.

O controle é de processo: pedido de pagamento por vídeo, áudio ou mensagem se confirma por um segundo canal já cadastrado, nunca pelo contato que veio no pedido.

A superfície de ataque saiu do perímetro

O perímetro tradicional (rede e servidores) virou uma parte pequena do que precisa de proteção. Hoje a superfície inclui identidades, SaaS, APIs, terceiros, dados e agentes de IA, com seus conectores e chaves. O atacante começa pelo que está exposto: credenciais vazadas e ativos esquecidos abrem a porta, e agentes de IA são um novo acesso a proteger.

3. As soluções

Governança em três pilares

Proibir tudo empurra o uso para a sombra. O objetivo comum é proteger os dados e manter o negócio operando.

• Pessoas: responsáveis definidos e treinamento com casos reais.
• Processos: regras de uso, confirmação em segundo canal e resposta a incidentes.
• Tecnologia: menor privilégio, visibilidade (inventário, DLP, eventos de IA no monitoramento) e proteção de dados.

Negócio, TI, segurança e privacidade decidem juntos.

A resposta tem duas frentes

• Segurança para a IA, para proteger o uso: IA oficial, com contrato que define finalidade, retenção e acesso; regras claras e treinamento; menor privilégio para assistentes e agentes.
• IA para a segurança, para defender melhor: monitoramento e resposta 24/7; exposição externa vigiada continuamente; vulnerabilidades priorizadas por risco.

Regras de uso que cabem em uma página

• Pode usar: textos públicos, ideias, rascunhos sem nome de cliente e dúvidas gerais.
• Só na ferramenta oficial: documentos internos, relatórios, código e dados de clientes e cooperados, conforme contrato e permissão.
• Nunca: senhas, tokens e chaves, dados pessoais sensíveis e informação estratégica não divulgada.

Ferramenta oficial não torna qualquer dado seguro: contrato e política definem finalidade, retenção, acessos e tratamento. E, em todos os casos, a resposta da IA é rascunho; uma pessoa revisa antes de usar.

No SOC, a IA investiga e a pessoa decide

1. Detectar: a IA monitora sinais 24/7.
2. Investigar: a IA reúne contexto e evidências.
3. Decidir: o analista valida e decide.
4. Responder: a contenção acontece com aprovação.

Cada etapa registra o que a IA viu, o que sugeriu e quem decidiu. Segundo a IBM, organizações brasileiras com uso amplo de IA e automação na segurança relataram custo médio de violação cerca de 30% menor. É uma correlação observada, não uma garantia.

Um plano de 90 dias em três etapas

• Enxergar (dias 1 a 30): inventário de IA e de ativos; ferramenta oficial e política. Quem: TI, Segurança e áreas de negócio. Resultado: inventário aprovado e política publicada.
• Controlar (dias 30 a 60): privilégios mínimos; proteção de dados e correção das exposições prioritárias. Quem: TI, Segurança e Privacidade. Resultado: acessos revisados e exposições prioritárias corrigidas.
• Sustentar (dias 60 a 90): monitoramento; simulação de incidente e treinamento. Quem: Segurança, RH e Jurídico. Resultado: simulação realizada e equipes treinadas.

O plano organiza a evolução da capacidade; não é prazo para adiar a resposta a um risco crítico. Falhas críticas exploradas, credenciais vazadas e interfaces de gestão expostas pedem avaliação e contenção imediatas.

Checklist para levar

1. Sabemos quais IAs estão em uso e o que está exposto na internet?
2. Cada assistente e agente tem só o acesso necessário?
3. Pedidos de pagamento são confirmados em um segundo canal?
4. Se um dado vazar por uma IA, sabemos quem age e como?

Cada “não” vira um item do plano. O resumo cabe em uma frase: dar às pessoas um caminho oficial mais fácil que o atalho e trazer a IA para o lado da defesa.

Obrigado à Natercoop pelo convite para o Conecta TI 2026.