Em fevereiro, a Anthropic — cujos modelos de IA têm se revelado os mais sofisticados para uso por empresas e governos — foi banida pelo Pentágono de fazer qualquer negócio com o governo americano, por se recusar a aceitar que seus sistemas pudessem ser usados em vigilância ou armas autônomas. Amodei se transformou numa espécie de profeta dos riscos da IA. Sua pregação dentro e fora da empresa defende a regulação e a imposição de limites ao avanço da tecnologia. No almoço em Évian, ele exortou os presentes a trabalhar em conjunto e a “resistir à tentação de se dividir”. Foi, ao menos no discurso, secundado por Altman e Hassabis.

Empresas americanas estão na vanguarda do desenvolvimento da IA, já mais eficaz que humanos na confecção de trabalhos jurídicos ou na programação de computadores. Descobertas científicas impressionantes têm sido registradas em áreas como química ou matemática. É crível uma sucessão de novas conquistas, com cura para doenças hoje intratáveis, alternativas nunca pensadas para problemas como aquecimento global ou combate ao crime. A melhora exponencial dos modelos permite supor que um dia ultrapassem a capacidade intelectual humana. Tudo isso também traz riscos.

Em abril, a Anthropic anunciou um modelo capaz de encontrar vulnerabilidades em softwares, o Mythos — nas mãos erradas, ele permitiria a criminosos invadir sistemas de bancos ou empresas. Para encontrar fragilidades, abriu-o a testes restritos antes de oferecê-lo ao mercado. Em 9 de junho, lançou uma versão batizada Fable. Três dias depois, a Casa Branca, alegando risco à segurança nacional, proibiu que fosse usada por estrangeiros, mesmo morando nos Estados Unidos. A Anthropic então tirou o Fable do ar.

A maior preocupação do governo americano não parece estar no uso desses modelos, militar ou civil, mas em sua captura por potências estrangeiras, sobretudo pela China. Os chineses conduzem as únicas iniciativas capazes de alcançar o desempenho das americanas. Mas adotaram outra estratégia. Acreditando que no futuro modelos estarão facilmente disponível, apostam em versões mais baratas para aplicações específicas, com menor consumo de energia. É difícil saber qual estratégia será bem-sucedida, mas é fácil imaginar o poder do primeiro país que obtiver uma IA com recursos militares ou de vigilância robustos.

Na declaração final, os países do G7 afirmaram “trabalhar em conjunto com empresas líderes para acelerar a implantação segura e benéfica” da nova tecnologia. Avança a ideia de criar, para a IA, um organismo nos moldes da Agência Internacional de Energia Atômica. Não deveria ser necessário a IA demonstrar que tem poder de destruição equivalente ao das armas nucleares para isso acontecer.