Uber vai pagar quase US$ 1 bi por suspender motorista com algoritmo, sem humano no meio

Uma decisão de algoritmo, sem ninguém pra vetar

Segundo reportagem da TechCrunch, a Uber vai pagar uma multa que passa perto de US$ 1 bilhão por suspender motoristas de forma automatizada, sem revisão humana na maior parte dos casos. Um sistema decidia que um motorista tinha cometido uma infração grave e a conta de trabalho da pessoa saía do ar. Sem ligação, sem prazo para recurso, sem ninguém checando se o algoritmo tinha razão antes de aplicar a punição.

Isso não é uma notícia sobre a Uber. É uma notícia sobre o que acontece quando uma empresa trata "automatizar uma decisão" e "automatizar uma punição" como a mesma coisa.

O erro não foi automatizar, foi automatizar sem revisão

Decisão automatizada não é o vilão da história. Uma régua de crédito automatizada, um score de risco, uma priorização de fila de atendimento — tudo isso roda sem humano no meio quando o custo de errar é baixo e reversível. O problema aparece quando a decisão tira o sustento de alguém, fecha uma conta ou nega um serviço, e não existe caminho de volta rápido.

Na metodologia Growth Tech, é exatamente isso que a Fase 2 (Arquitetura e Prova de Valor) resolve antes de qualquer coisa ir para produção: guardrails e evals, limites explícitos do que a IA pode decidir sozinha e do que precisa passar por uma pessoa. Não é burocracia, é a diferença entre um sistema que erra barato e um sistema que erra caro.

Camada C2: quem, na sua empresa, pode dizer não para o sistema

No framework das 4 camadas que usamos em todo diagnóstico, a camada C2 é sobre pessoas: quem executa, quem decide, quem tem poder de veto sobre uma ação automatizada. Uma pergunta simples separa empresa com governança de empresa sem: se a sua IA de triagem de currículo rejeitar o candidato errado, se o seu chatbot de cobrança negativar um cliente que já pagou, se o seu sistema de suporte fechar um chamado que devia ter escalado, alguém na sua operação percebe antes do cliente reclamar, ou só depois?

Se a resposta for "só depois", o problema não está na IA. Está em ninguém ter desenhado o veto.

O gate que faltou

O Raio-X da Fase 1 do Growth Tech projeta o retorno antes de qualquer linha de código, mas também mapeia onde a decisão automatizada pode causar dano irreversível. Nesses pontos, a resposta quase sempre é a mesma: automatiza a sugestão, mantém a decisão final com uma pessoa, pelo menos até o sistema provar com dado real que erra menos do que a pessoa que ele substituiria.

Isso vale para uma multinacional de mobilidade e vale para uma PME que automatiza cobrança, atendimento ou triagem de pedido. A pergunta que separa as duas situações não é o tamanho da empresa, é se alguém, em algum ponto do fluxo, tem autoridade e visibilidade para segurar o sistema antes dele causar um dano que não dá para desfazer.

Não é desconfiança da tecnologia. É reconhecer que um segundo de revisão humana custa muito menos do que uma multa de bilhão de dólares — ou, na escala de uma PME, muito menos do que um cliente perdido e uma reclamação pública.

Se a sua empresa já automatiza alguma decisão que afeta cliente ou colaborador direto, vale perguntar quem tem o poder de vetar o sistema. Se a resposta for "ninguém", fale com a AI Start no WhatsApp antes que seja a sua empresa aparecendo numa manchete dessas.