Alex Turner deixa Google DeepMind após disputa sobre contratos de IA

Turner tentou transformar princípios em veto contratual

Turner diz que descobriu que o Google Cloud vendia serviços às agências do DHS depois que agentes federais mataram pelo menos duas pessoas em janeiro. Ele considerou errado manter esses contratos e procurou a forma mais eficaz de pressionar a própria empresa. A campanha cresceu quando o Pentágono passou a pressionar fornecedores de IA por acordos militares sem restrições para killer robots ou mass surveillance.

O ponto técnico não está no desempenho de um modelo. Está no controle sobre infraestrutura, acesso e uso final. Um contrato de nuvem pode colocar capacidade computacional e serviços de IA nas mãos de órgãos que a empresa não consegue supervisionar diretamente em cada operação. Para Turner, a defesa pública de princípios só vale se também limitar contratos concretos.

Turner tentou mobilizar pesquisadores conhecidos, falar com Jeff Dean e levar seu Framework a executivos. O documento propunha uma red line e mecanismos de oversight para contratos governamentais de IA. Segundo o relato, quase todos os nomes procurados recusaram agir, enquanto Jeff Dean assinou um amicus brief em apoio à Anthropic. Depois, o Google assinou o acordo com o governo, e Demis afirmou que os princípios de IA da empresa não haviam mudado.

O texto também registra a justificativa de que empresas ocidentais poderiam trabalhar com democracias ocidentais para “vencer a China” sem aceitar toda exigência de Donald Trump. Essa lógica desloca a decisão do uso específico para a disputa geopolítica. Ela também cria um problema técnico de governança: uma política interna pode proibir armas autônomas, mas não impedir que um contrato amplo seja usado por diferentes órgãos e finalidades.

Os comentários questionam eficácia, escala e responsabilidade

Os leitores não discordaram apenas sobre a decisão de Turner. Eles discutiram se uma empresa consegue sustentar limites éticos sozinha quando depende de contratos federais. “Mesmo que o Google tivesse adotado seu Framework, o Pentágono teria recusado”, escreveu bigyabai. Para o comentarista, Google, OpenAI e Anthropic poderiam formar uma coalizão, mas concorrentes tratam flexibilidade moral como vantagem.

inamiyar atacou a estratégia por outro ângulo. “Por que não mencionar No Tech For Apartheid ou Google Workers United, que fazem trabalho semelhante há anos?”, escreveu. Também questionou se o problema começou apenas no segundo governo Trump e se concentrar em executivos com grandes cargos mede o poder real dentro da empresa. A crítica aponta para incentivos, contratos anteriores e estruturas de decisão que um pedido individual a CEOs não altera.

draw_down concentrou a cobrança em Jeff Dean. “Jeff Dean ainda é considerado um santo no Google? Se é, como isso não muda essa percepção?”, escreveu, ao lembrar que Dean e outros funcionários seniores haviam prometido não participar nem apoiar o desenvolvimento, a fabricação, o comércio ou o uso de armas autônomas letais. O comentário trata a permanência de executivos como parte da própria política, não como detalhe pessoal.

Outros leitores apoiaram a saída. recitedropper escreveu: “Respeito total a TurnTrout por tomar uma atitude como essa. O mundo precisa de mais pessoas inteligentes dispostas a defender aquilo que consideram certo, apesar das pressões em contrário.” tomrod também disse que Turner empurrou a situação “o mais longe que podia” diante da transformação de uma promessa de futuro abundante em capital para acionistas.

O consenso parcial aparece justamente aí: os dois lados tratam contratos, liderança e compromissos públicos como decisões que moldam o uso da IA. A divergência está na alavanca. Turner apostou em pressão interna, mobilização de pesquisadores e um Framework; os críticos defendem análise de poder, sindicatos, coalizões e mudanças nos incentivos. Nenhum comentário resolve se uma empresa deve abandonar contratos, impor limites verificáveis ou aceitar acordos com cláusulas de uso.

O debate deixou 170 comentários, mas apenas 6 foram coletados para análise. Fica aberta a pergunta sobre quem responde quando a política da empresa permanece intacta no papel e muda sob pressão estatal. Para quem aprova sistemas ou contratos, a lição prática é exigir limites auditáveis, responsáveis identificáveis e regras que valham também para clientes governamentais. Sem isso, uma promessa ética depende mais da permanência de indivíduos do que do desenho técnico da organização.