Auditor externo para IA só funciona se existir registro: o que a proposta da Microsoft pressupõe

O que foi dito em 12 de outubro

Brad Smith, presidente da Microsoft, defendeu regulação urgente de IA num podcast da BBC, segundo a TechCrunch. Disse que o leite e a máquina de lavar têm mais supervisão do que as empresas de IA. Chamou a tecnologia de "arma e ferramenta" e afirmou que o momento de criar regras globais de segurança "chegou".

Sobre o documento assinado no mês passado na Casa Branca, com compromisso de trabalhar com "auditores independentes", ele disse que é um "bom passo", mas fica aquém do necessário. O argumento central: compromisso voluntário só é cumprido pelas empresas boas. Nas palavras dele, "são as empresas menos responsáveis que preocupam".

As propostas concretas foram três. Um dever legal de avisar uma organização quando o sistema dela for invadido por agentes de IA fora de controle. Aprovação de avaliadores externos antes do lançamento de produtos. E apoio a mecanismos que pausem ou desacelerem a IA se humanos perderem o controle.

Smith também afirmou que o Reino Unido, e não os Estados Unidos nem a União Europeia, é quem está mais bem posicionado para liderar essas regras. O instituto britânico de segurança em IA confirmou na segunda-feira que continua com acesso aos modelos mais recentes para testes. A TechCrunch relata que, em setembro, o presidente americano teria pedido que Anthropic e OpenAI segurassem novos modelos longe dos testadores britânicos.

O que as três propostas têm em comum

Aviso de invasão, avaliação externa e botão de pausa parecem medidas diferentes. Têm um pressuposto comum: alguém precisa conseguir reconstruir o que o sistema fez.

Um aviso de invasão exige saber quando e por onde o agente entrou. Um avaliador externo exige material para avaliar. Um botão de pausa só é útil se quem pausa sabe em que ponto a tarefa estava.

O presidente-executivo da Microsoft, Satya Nadella, tocou nesse ponto dois dias antes, em publicação na rede X comentada pela TechCrunch. Pediu que toda ação relevante de um modelo seja documentada com "evidência à prova de adulteração e legível por humanos". É a proposta mais objetiva do pacote. E é a que menos aparece nas manchetes.

A leitura da casa

A posição da AI Start é que empresa esquece. O que não vira registro morre junto com a pessoa que sai, ou junto com a sessão que fechou. Vale para conhecimento de equipe e vale, com mais força, para máquina.

A discussão regulatória hoje gira em torno de quem fiscaliza: governo, instituto, auditor privado, a própria empresa. A pergunta que decide se a fiscalização funciona é anterior. O que foi gravado? Em que formato? Por quanto tempo? Quem pode ler?

Um auditor independente sem registro faz entrevista. Entrevista produz opinião, e opinião sobre sistema que age sozinho envelhece rápido. O Reino Unido, se vier a liderar, vai ser medido menos pelo poder de testar modelos antes do lançamento e mais pela exigência de registro depois dele.

O que ainda não se sabe

A matéria não traz estatísticas de incidentes nem estimativa de custo regulatório. Não há texto de lei, só discurso e propostas. O documento da Casa Branca, nas palavras de Smith, não tem força de regra. Também não está claro se o governo americano aceitaria um padrão de registro definido fora do país.

O que dá para afirmar é o sentido da pressão. Quem opera agentes, em qualquer porte, vai ser cobrado por trilha de ação antes de ser cobrado por qualquer certificado. É leitura de cenário, não previsão de data. Quem já guarda o que o sistema fez chega a essa cobrança com a tarefa pronta.