Vigilância preditiva com IA: o risco que sobra pra você

Você contratou uma IA para resumir reuniões. Ela lê todo mundo que fala, transcreve, e guarda. Agora imagine que o mesmo tipo de sistema, na mão de outra pessoa, foi contratado para prever quem vai protestar antes de protestar. Não é ficção. Foi o que o The American Prospect noticiou sobre a Anthropic construindo um sistema de vigilância preditiva para monitorar ativistas em contrato com órgãos de segurança dos EUA.

Vigilância preditiva com IA é exatamente o que o nome diz: juntar montanhas de dados sobre pessoas e pedir para o modelo apontar quem provavelmente vai fazer algo. Não o que fez. O que vai fazer. E se isso soa distante do seu negócio, fica comigo, porque a distância é menor do que parece.

O que mudou de verdade nessa notícia

Vigilância de Estado não é novidade. O que mudou é a barreira de entrada.

Antes, cruzar dados de milhares de pessoas exigia um time grande, orçamento e meses de trabalho. Hoje exige uma API, uma boa base de dados e um prompt bem escrito. A mesma tecnologia que resume seu contrato de 40 páginas em três parágrafos consegue ler 40 mil mensagens e montar um perfil de comportamento.

A Anthropic, vale dizer, é a empresa que mais vende "IA segura" e "constitutional AI" no mercado. É a que escreve manifestos sobre risco existencial. Que essa seja a empresa no centro de um contrato de monitoramento de ativistas diz algo importante: política de uso escrita no site não é garantia de nada. Contrato grande muda política.

Não estou dizendo que a Anthropic é vilã e as outras são santas. Estou dizendo o contrário: se a mais cuidadosa faz isso, pare de tratar a reputação do fornecedor como camada de segurança.

Por que isso te afeta mesmo sem você trabalhar com governo

Três motivos práticos.

O primeiro é que você já faz vigilância preditiva sem chamar por esse nome. Score de crédito é previsão de comportamento. Sistema que marca cliente como "provável churn" é previsão de comportamento. Ferramenta de RH que ranqueia currículos é previsão de comportamento. A diferença entre isso e o caso da notícia é escala e consequência, não técnica.

O segundo é regulação por contágio. Quando um caso desses estoura, o legislador não faz bisturi, faz marreta. A LGPD já tem o artigo 20, que dá ao titular o direito de pedir revisão de decisão automatizada que afete seus interesses. Se você tem qualquer sistema que decide algo sobre uma pessoa sem humano no meio, você já está nessa mira. Aperto de regra não vai perguntar se sua intenção era boa.

O terceiro é o mais chato: seus dados podem estar do outro lado. Se você usa uma ferramenta que envia dados de clientes para uma API de IA, você não sabe o que acontece depois. Sabe o que o contrato diz. Não é a mesma coisa.

Política de privacidade é promessa. Arquitetura é garantia.

O teste de uma pergunta

Uso isso com cliente e resolve 80% das dúvidas. A pergunta é:

Se essa base de dados vazasse amanhã, e alguém rodasse um modelo nela para prever comportamento das pessoas listadas, o que sairia?

Fiz esse exercício com uma clínica. Eles tinham um sistema simples de agendamento, nada sofisticado. Só que o campo "observações" tinha anos de anotação livre da recepção. Coisas como "paciente veio chorando", "marido não pode saber", "atrasa pagamento sempre". Ninguém desenhou aquilo como base de dados sensível. Virou uma, por acumulação.

Não tinha nada de IA no sistema. Mas se alguém apontasse um modelo para aquele campo, conseguia montar perfil psicológico e financeiro de 3 mil pessoas em uma tarde.

A correção não foi nenhum projeto de seis meses. Foi separar o campo livre em categorias fechadas, arquivar o histórico antigo em base separada com acesso restrito, e definir prazo de descarte. Duas semanas de trabalho. O risco caiu de "catastrófico" para "incômodo".

O que fazer na prática

Nada aqui precisa de comitê de ética nem de consultoria de meio milhão.

• Faça o inventário do que você manda pra fora. Toda ferramenta com IA que você usa: o que ela recebe? Nome completo? CPF? Conteúdo de conversa com cliente? Escreva numa planilha. A maioria das empresas não sabe responder isso, e esse é o problema inteiro.
• Ative retenção zero onde existir. OpenAI, Anthropic e Google oferecem modo sem retenção de dados nos planos de API e empresariais. Geralmente é uma configuração, não um contrato novo. Muita gente paga por isso e nunca liga.
• Minimize antes de enviar. Se a IA precisa classificar o sentimento de um ticket, ela não precisa do nome do cliente. Tire. Substitua por identificador. É meia hora de trabalho e muda a natureza do risco.
• Humano decide, IA sugere. Em qualquer decisão que afete uma pessoa (crédito, contratação, cancelamento, preço), a IA entrega sugestão com justificativa e um humano assina. Isso te põe do lado certo do artigo 20 e, de quebra, pega erro de modelo antes de virar processo.
• Defina prazo de descarte e cumpra. Dado que não existe mais não vaza, não é intimado e não alimenta previsão nenhuma. Guardar tudo pra sempre é a decisão mais caras que existe, e ninguém toma ela de propósito.
• Escreva o que você não vai fazer. Uma página. "Não usamos IA para prever comportamento individual de clientes fora de X." Serve de freio quando alguém animado propuser a ideia numa reunião.

A objeção que sempre aparece

"Diego, isso vai me atrasar. Concorrente vai usar tudo e passar na frente."

Talvez. Por um tempo.

Só que o cálculo está incompleto. Sistema que decide sobre pessoas sem rastro de justificativa é bomba de efeito retardado. Quando dá errado, dá errado de forma que você não consegue explicar, porque nem você sabe por que o modelo decidiu aquilo. Já vi empresa passar três semanas tentando reconstruir a lógica de uma recusa automática para responder a uma reclamação no Procon. Três semanas de time sênior. O "atraso" que evitariam era de dois dias.

E tem o lado comercial. Cliente corporativo já pergunta onde os dados dele trafegam. Quem responde com clareza fecha contrato. Quem responde "acho que fica na nuvem" perde. Governança de dados virou argumento de venda em B2B, não só item de compliance.

O ponto que interessa

A notícia sobre vigilância preditiva não é sobre a Anthropic. É sobre o fato de que o poder de prever comportamento humano em escala ficou barato e acessível, e ninguém combinou as regras antes.

Você não controla o que empresa de IA faz com contrato de governo. Controla o que sai da sua empresa, por quanto tempo fica guardado, e quem assina as decisões. Isso é pouco? É. Mas é o pedaço que é seu, e a maioria das empresas não cuidou nem dele.

O trabalho é sem glamour: inventário, minimização, prazo de descarte, humano no loop. Nada disso rende post bonito no LinkedIn. Rende dormir tranquilo quando a próxima manchete sair.

Se você usa IA no seu negócio e não sabe responder que dados saem pela porta, esse é o momento de olhar. Me conta o que você está usando e a gente mapeia isso juntos, sem transformar em projeto de um ano.

A Anthropic, a empresa que mais fala em "IA segura", apareceu num contrato de vigilância preditiva para monitorar ativistas.

E a lição não é sobre a Anthropic. É que prever comportamento humano em escala ficou barato: antes exigia um time e meses, hoje exige uma API e um prompt bem escrito.

Se você acha que isso não te toca, faça o teste de uma pergunta: se sua base vazasse amanhã e alguém rodasse um modelo nela, o que sairia?

Fiz isso com uma clínica. O campo "observações" tinha anos de anotação livre da recepção. Ninguém desenhou aquilo como dado sensível. Virou, por acumulação. Duas semanas de trabalho tiraram o risco de catastrófico para incômodo.

Política de privacidade é promessa. Arquitetura é garantia.

Se você usa IA no negócio e não sabe responder quais dados saem pela porta, é hora de olhar. Me conta o que você está usando e a gente mapeia junto.

#IA #ProtecaoDeDados #LGPD #GovernancaDeDados #Tecnologia