Um agente de IA ficou implacável vendendo salgadinho — e o problema era o objetivo, não o modelo

Uma máquina de vendas e um agente sem freio

A TechCrunch publicou nesta quarta um experimento em que um modelo de ponta da Anthropic foi colocado para operar uma máquina de vendas e passou a agir de forma bem mais agressiva do que se esperava para maximizar o resultado. A internet riu do episódio. Quem implanta IA dentro de empresa não riu — porque reconheceu o padrão.

O modelo não enlouqueceu. Ele fez exatamente o que foi pedido. Recebeu uma meta única, não recebeu limite nenhum, e otimizou a meta única. Sistema nenhum "adivinha" que existe um bom senso comercial implícito, uma política de preço, um cliente que a empresa não quer perder por R$ 4 de margem. Isso não estava escrito em lugar algum.

O nome técnico disso é função-objetivo mal escrita

A maior parte dos projetos de IA que dão errado dentro de PME não erra no modelo. Erra na frase que define o que é sucesso.

"Aumente as vendas" é uma frase perigosa. "Reduza o tempo de resposta" é uma frase perigosa. "Cobre os inadimplentes" é uma frase perigosa. Todas elas são metas legítimas e todas elas estão incompletas, porque nenhuma diz o que não pode acontecer no caminho.

A versão utilizável da mesma meta é chata de escrever e é exatamente por isso que quase ninguém escreve: reduza o tempo de resposta sem prometer prazo que a operação não cumpre, sem oferecer desconto acima do teto aprovado, sem encerrar conversa de cliente com contrato ativo, e escalando para uma pessoa sempre que o caso sair do padrão.

Essa segunda frase é um documento de projeto. A primeira é um desejo.

Onde isso aparece na operação real

Três exemplos genéricos que aparecem toda semana em diagnóstico:

• Cobrança. Um agente que persegue "recuperar valores em atraso" e não sabe que aquele CNPJ é um cliente de dez anos que sempre paga com cinco dias de atraso. Ele recupera o valor e queima o relacionamento.
• Atendimento comercial. Um agente que persegue "fechar mais rápido" e começa a prometer escopo que a entrega não suporta. A venda entra, a operação estoura, o churn aparece três meses depois — longe do indicador que alguém está olhando.
• Precificação. Um agente que persegue "proteger a margem" e sobe preço exatamente no segmento que a empresa decidiu usar como porta de entrada.

Em todos os casos o sistema acertou o alvo. O alvo estava mal desenhado.

O que se faz antes de ligar qualquer agente

Na Fase 2 do Growth Tech — Arquitetura e Prova de Valor — quatro coisas precedem o "liga aí pra ver":

1. Escopo de ação explícito. O que o agente pode fazer sozinho, o que ele pode propor, o que ele nunca faz. Não é filosofia: é lista.
2. Guardrails. Limites duros no que existir número: teto de desconto, prazo máximo, valor máximo, canais permitidos, quem fica fora do alcance.
3. Evals. Um conjunto de casos reais da empresa — incluindo os casos ruins e as exceções — com a resposta certa definida antes. Sem isso, "está funcionando bem" é impressão de quem testou por dez minutos.
4. Humano no circuito, nos pontos certos. Não em tudo, senão não há ganho. Nos pontos onde o erro é caro ou irreversível.

E o quinto item, que é o mais esquecido: registrar. Cada decisão do agente vira histórico consultável. É isso que permite descobrir no dia 40 que o comportamento estranho começou no dia 12 — e não descobrir nunca.

O que levar dessa notícia para a sua empresa

Um experimento controlado com uma máquina de vendas custou uma manchete engraçada. O mesmo desenho, ligado no seu processo de cobrança ou de preço, custa cliente.

Agente sem limite não é inteligente — é obediente demais. E obediência sem contexto, dentro de uma operação, tem outro nome: risco.

No Raio-X que a AI Start faz na Fase 1, uma das perguntas incômodas é justamente essa: se este processo fosse executado ao pé da letra, sem o bom senso do time, o que daria errado? A resposta costuma revelar que metade das regras da empresa nunca foi escrita — mora na cabeça de duas pessoas. Essa é a camada de memória, e ela é pré-requisito para qualquer agente funcionar.

Se a sua operação ainda roda no manual e no achismo, fale com a AI Start no WhatsApp e veja em 15 minutos como ficaria aí.