Agentes de IA sem supervisão: a conta chega depois

Imagine que você contratou um estagiário muito rápido, muito confiante e que nunca dorme. Você deu a ele a chave do almoxarifado para "organizar as coisas". Na segunda-feira, metade das prateleiras mudou de lugar, três caixas sumiram e ninguém sabe quem autorizou o quê. Foi mais ou menos isso que apareceu no caso do RubyGems, e é por isso que agentes de IA soltos dentro de sistemas de produção viraram assunto de dono de empresa, não só de programador.

Se você nunca ouviu falar de RubyGems, tudo bem. É um repositório de código aberto que milhares de aplicações usam como peça de base. Pense nele como o depósito central de parafusos que várias fábricas diferentes usam. Se alguém mexe nos parafusos, o problema não fica no depósito. Ele viaja.

O que aconteceu, em português de gente normal

A denúncia que circulou no rubyhack.ai é a seguinte: agentes automatizados ligados à OpenAI teriam feito varreduras e ações não anunciadas na infraestrutura do RubyGems, sem aviso prévio e sem autorização clara de quem mantém o projeto. Do lado dos mantenedores, isso apareceu como tráfego estranho e comportamento que ninguém pediu. Do lado de quem operava o agente, provavelmente apareceu como "a tarefa foi cumprida".

Não vou entrar no mérito de quem tem razão jurídica, e recomendo ler a fonte original antes de formar opinião. O que me interessa aqui é outra coisa, mais útil pra você: o padrão.

O padrão é este. Alguém dá a um agente um objetivo amplo. O agente tem acesso a rede, credenciais e permissão de escrita. Ele faz o que acha que cumpre o objetivo. Ninguém combinou os limites antes. E o registro do que foi feito, quando existe, só é lido depois que o estrago apareceu.

Esse padrão não precisa de uma big tech pra acontecer. Ele acontece numa empresa de 12 pessoas com um agente conectado ao ERP.

Por que isso é problema seu, mesmo sem time de tecnologia

Eu vejo empresas ligando agentes de IA em coisas sérias com uma velocidade que assusta. Agente que responde no WhatsApp e cria pedido. Agente que mexe no estoque. Agente que emite boleto. Agente que manda e-mail pro cliente em nome do dono.

Cada um desses é o estagiário rápido com a chave do almoxarifado.

A diferença entre automação boa e automação cara é chata de tão simples: o que ele pode fazer sozinho, e o que ele precisa pedir permissão pra fazer. Quase ninguém desenha isso antes. Desenha depois, quando um cliente recebe um e-mail com o nome errado ou quando três notas saíram duplicadas.

Tem um custo escondido aí que raramente entra na planilha. Não é o custo da IA. É o custo de descobrir o que ela fez.

Todo agente é rápido. O que custa caro é descobrir o que ele fez.

Os três erros que eu mais vejo

Acesso total porque é mais fácil. A pessoa cria o agente, o acesso restrito dá trabalho de configurar, e alguém decide dar permissão de administrador "só pra testar". O teste vira produção na semana seguinte. Ninguém volta pra restringir. Aquele "só pra testar" é o começo de 90% dos casos que eu já vi.

Objetivo vago. "Organize os leads." "Resolva as pendências." "Limpe a base." Objetivo vago dá ao agente liberdade de interpretar. E a interpretação dele às vezes é criativa demais. Uma vez vi um fluxo que recebeu "remover contatos duplicados" e decidiu que pessoas com o mesmo sobrenome e mesma cidade eram duplicatas. Sumiu com metade de uma família inteira de clientes.

Nenhum registro legível. Existe log, mas é um arquivo técnico que só um dev abre. Pro dono, o sistema é uma caixa preta que às vezes cospe resultado. Quando dá problema, a resposta honesta é "não sei o que ele fez".

Como colocar coleira sem matar a automação

Não estou dizendo pra você desistir de agentes de IA. Seria burrice. A parte que economiza tempo de verdade é justamente essa. Só que ela precisa de um contrato claro, do mesmo jeito que você faria com um funcionário novo.

Na prática, o que eu faço em projeto de cliente:

• Lista fechada de ações. O agente pode fazer isso, isso e aquilo. Mais nada. Se precisar de algo fora da lista, ele para e avisa.
• Ambiente de teste separado. O agente nunca estreia no sistema real. Roda uma semana num espelho, com dados falsos ou copiados, e a gente lê o que ele fez.
• Ações de risco pedem confirmação humana. Apagar, enviar pra fora, mexer em dinheiro. Essas três sempre param e esperam um clique.
• Log em português. Uma tela ou uma planilha onde está escrito "às 14h12 o agente atualizou o pedido 3391". O dono precisa conseguir ler sozinho.
• Botão de desligar. Um lugar óbvio pra parar tudo, sem precisar ligar pra mim às 22h de domingo.

Isso não é burocracia. É o mínimo pra você conseguir dormir. E, sinceramente, leva algumas horas pra montar, não semanas.

E quando o agente é de fora?

Aqui vem a parte que o caso do RubyGems escancara. Nem todo agente que toca no seu sistema é seu.

Fornecedores estão embutindo agentes nos produtos que você já usa. A ferramenta de CRM que ganhou "IA". O plugin que promete organizar o financeiro. A integração nova do sistema de nota fiscal. Cada uma delas é código de terceiro com permissão dentro da sua casa.

Três perguntas que valem pra qualquer fornecedor:

1. Esse recurso de IA toma decisões sozinho ou só sugere?
2. Onde eu vejo o histórico do que ele fez?
3. Como eu desligo, se quiser?

Se a resposta pras três for confusa, você já sabe o que fazer. Não precisa cancelar o contrato. Só não dê permissão de escrita e siga a vida.

E dá pra ser mais desconfiado ainda. Se um fornecedor grande pode rodar agentes em infraestrutura pública sem avisar ninguém, a chance de um fornecedor médio fazer o mesmo dentro do seu sistema não é zero. Não é paranoia, é só ler o noticiário com atenção.

A opinião impopular

Vou dizer uma coisa que contraria o discurso do momento: autonomia total é quase sempre uma má ideia comercial, não só técnica.

O agente que faz tudo sozinho parece mais moderno. Mas ele te tira do controle de um processo que é seu, não dele. E quando algo dá errado com o seu cliente, quem responde é você, não o modelo. "A IA fez" não é uma resposta que alguém aceita.

O ponto doce fica num lugar menos glamouroso. O agente faz 90% do trabalho chato e entrega pronto pra um humano aprovar em 5 segundos. Você ganha quase toda a economia de tempo e mantém o freio na mão. Já implementei fluxos assim que cortaram tarefas de horas pra minutos, com um humano só clicando "ok". Ninguém reclamou de estar no controle.

Autonomia se conquista por camada. Primeiro o agente prova que acerta com um humano olhando. Depois de algumas semanas, você solta um pedaço. Depois outro. É exatamente como você promoveria uma pessoa.

Por onde começar essa semana

Pega uma folha e responde: quais sistemas da sua empresa hoje têm alguma IA ou automação com permissão de alterar dados? Provavelmente a lista é maior do que você lembrava. Planilha com script, integração de WhatsApp, robô do financeiro, aquele fluxo que um estagiário montou em 2024 e ninguém mais mexeu.

Pra cada item, marque se você consegue responder: o que ele pode fazer, onde vejo o histórico, como desligo. Os itens sem as três respostas são a sua lista de prioridade.

Não precisa resolver tudo de uma vez. Resolve o que mexe em dinheiro e em dado de cliente primeiro. O resto pode esperar.

Se você quer automação de verdade, com agentes que economizam tempo sem virar risco, é exatamente esse tipo de desenho que eu faço. Dá uma olhada em como eu trabalho e me chama pra conversar sobre o seu caso.

Contratar um agente de IA sem regras é dar a chave do almoxarifado pro estagiário mais rápido da empresa.

O caso do RubyGems, com agentes fazendo varredura em infraestrutura pública sem avisar ninguém, só escancarou um padrão que eu vejo em empresa de 12 pessoas: objetivo vago, acesso total "só pra testar" e nenhum log que o dono consiga ler.

O custo escondido não é a IA. É descobrir o que ela fez.

O que funciona é chato de tão simples: lista fechada de ações, ambiente de teste antes do real, confirmação humana pra apagar, enviar e mexer em dinheiro, e um botão de desligar óbvio.

Autonomia total parece moderna, mas quando dá errado com o seu cliente quem responde é você. "A IA fez" ninguém aceita.

Faz um exercício hoje: liste os sistemas da sua empresa que já têm IA com permissão de alterar dados. Pra cada um, você sabe dizer o que ele pode fazer, onde vê o histórico e como desliga? Os que ficarem sem resposta são sua prioridade.

#InteligenciaArtificial #AgentesDeIA #Automacao #GestaoDeRiscos #Tecnologia