Bill Gates passou de otimista a alarmista e agora quer a IA vigiada

Bill Gates disse nesta semana que a inteligência artificial é a maior ameaça que a humanidade já esteve perto de enfrentar. Foram duas declarações em três dias, uma na televisão americana no domingo e outra em entrevista ao jornalista Ezra Klein publicada na terça-feira, e nas duas ele usou a mesma medida para o tamanho do estrago possível, um evento capaz de matar um bilhão de pessoas.

A escala da comparação é o ponto de virada. Gates passou a colocar a inteligência artificial acima do arsenal nuclear que definiu o século passado. Na avaliação dele, nenhuma tecnologia construída antes deixou um grupo pequeno tão perto de causar destruição em massa.

Os alvos concretos que ele aponta são dois, e nenhum envolve uma máquina que decide sozinha destruir algo. O primeiro é biológico, o segundo é digital, e os dois já estão no presente.

Os dois limites que ele diz terem sido cruzados

Gates afirma que esses limites foram rompidos no começo deste ano. No campo biológico, desenhar um organismo perigoso deixou de ser privilégio de Estados e passou ao alcance de grupos pequenos com acesso aos modelos mais recentes. No campo digital, os modelos começaram a encontrar falhas de segurança em programas que equipes humanas revisavam havia mais de vinte anos, o que transformou a vulnerabilidade dos sistemas em um problema de escala.

O que mudou foi o custo de entrada, hoje baixo o bastante para um grupo pequeno.

O risco urgente, diz ele, está em outro lugar. O cenário de uma inteligência que escapa das mãos de quem a criou existe e merece atenção, mas vem depois. O que está na frente é gente com má intenção usando ferramentas que já estão disponíveis. Gates lembra que foguetes e armas nucleares nasceram de programas militares, com o governo no papel de financiador e comprador, e que os modelos de IA vieram do setor privado. Para ele, o governo americano, que por décadas reuniu o pessoal mais preparado do mundo no assunto, não enxerga o tamanho do perigo.

O diagnóstico dele é que a sociedade combinou de reagir no dia em que um limite fosse rompido. Os limites foram rompidos, e a reação não veio.

Por que a autorregulação não resolve

A proposta que Gates leva às entrevistas é uma camada de fiscalização embutida em cada um dos modelos, com registro de como cada sistema é usado e capacidade de barrar pedidos que sirvam para derrubar redes elétricas, travar contas de bancos ou ajudar a produzir uma arma biológica. Ele descarta que as empresas cuidem disso sozinhas, e diz que a responsabilidade civil não basta. Remédios, aviões e carros, afirma, obedecem a regras de segurança que vão além de eventuais processos na Justiça.

Os modelos abertos continuariam livres e personalizáveis na proposta dele, desde que rodem em plataformas onde o poder público consiga conferir se as travas seguem no lugar. A briga é a mesma que trava a regulação nos Estados Unidos, onde a tese dominante entre aliados do presidente Donald Trump é a de que os próprios laboratórios têm incentivo econômico para não lançar um produto perigoso.

Gates respondeu a essa tese classificando a autorregulação como insanidade, e afirmou que fala tão alto por esse motivo.

O setor, enquanto isso, já freou por conta própria. A OpenAI interrompeu mais de uma vez o treinamento de modelos para investigar comportamentos fora do previsto. A Anthropic cortou o número de usuários com acesso a um modelo capaz de conduzir ataques cibernéticos e, mais adiante, suspendeu por um período o treinamento de sistemas ainda não lançados, depois que um dos modelos agiu fora do combinado durante uma avaliação de segurança no Reino Unido.

Há um efeito colateral nesse aperto que o próprio Gates citou. Na avaliação dele, a Anthropic exagerou nos filtros de um dos seus modelos, a ponto de empurrar para versões menores usuários que faziam perguntas sobre câncer.

O outro risco, o emprego

O terceiro risco da lista dele não depende de nenhum ataque. Gates sustenta que a IA segue criando mais postos do que fecha, mas que a conta vira em poucos anos nas funções de escritório e de atendimento, porque um sistema trabalha 24 horas por dia, em qualquer idioma, com paciência infinita e memória para detalhes. Programar é, na avaliação dele, o ofício em que a ferramenta já venceu o humano em confiabilidade. Contabilidade, advocacia, telemarketing e suporte viriam na sequência.

A resposta que ele propõe começa no sistema tributário.

A ideia é cobrar do empregador, quando o trabalho é feito por uma máquina, o mesmo tributo que hoje recai sobre quem contrata gente. O equipamento, lembra Gates, pode ser deduzido na hora como despesa, conta que empurra a empresa a trocar pessoas por máquinas.

Ele também defende reservar algumas funções apenas para humanos, como o cuidado de crianças e a assistência a idosos, e reforçar a rede de proteção antes de o desemprego subir.

O tom mudou depressa. Em 1996, ele disse a David Letterman que computadores que pensam eram um pensamento assustador e distante. No texto que publicou em julho de 2023, tratava os riscos como reais, mas controláveis. No ensaio que publicou em agosto deste ano, tema das duas entrevistas, ele avisa logo no início que o mundo segue sem preparo para o que vem.

A fundação dele decidiu entrar no assunto por outro lado, o do acesso.

Sessenta organizações se comprometeram em setembro com uma meta de cinco anos, fazer com que 3,4 bilhões de falantes de idiomas mal atendidos pelos modelos atuais consigam usar inteligência artificial na língua materna e ouvir a resposta no mesmo idioma. A lista de signatários reúne laboratórios de fronteira, entre eles Anthropic, Google e Microsoft, inclui a NVIDIA e o braço filantrópico da OpenAI, e passa por universidades, ministérios e organizações comunitárias.

O dinheiro vem de um orçamento anual de US$ 9 bilhões aprovado em janeiro, dentro do plano de gastar mais de US$ 200 bilhões até 2045, ano em que a fundação encerra as atividades.

No ensaio, Gates escreve que vai levar o assunto a legisladores a cada visita a Washington e que a fundação pretende ampliar o uso benéfico da IA em países africanos. A coalizão anunciada em setembro ainda não definiu sua governança, e o texto do compromisso prevê que a estrutura e os grupos de trabalho sejam montados ao longo do próximo ano.