O debate sobre como controlar os riscos da inteligência artificial ganhou um novo capítulo com uma proposta de peso vinda de dentro do próprio setor. Demis Hassabis, cofundador e CEO do Google DeepMind, defendeu a criação de um mecanismo internacional de fiscalização capaz de conter os avanços da tecnologia caso os modelos mais poderosos se tornem perigosos demais.

Uma espécie de 'guardião' da IA

Em publicação em seu blog, Hassabis argumentou que o mundo precisa de um órgão de vigilância com autoridade suficiente para, na prática, acionar o freio quando necessário. A preocupação está voltada especialmente para os chamados modelos de fronteira — os sistemas de IA mais avançados, que operam no limite do que a tecnologia consegue fazer atualmente e que concentram tanto o maior potencial quanto os maiores riscos.

A ideia central é que exista um instrumento capaz de estabelecer padrões e limites globais, evitando que o desenvolvimento acelerado da tecnologia avance sem qualquer tipo de supervisão coordenada entre países.

Por que os Estados Unidos, segundo Hassabis

Um dos pontos centrais da proposta é a defesa de que os Estados Unidos assumam a liderança dessa iniciativa. Para o executivo do Google DeepMind, o país reúne as melhores condições para definir padrões globais para a área, sustentando esse argumento a partir do peso econômico e da posição de destaque dos EUA no cenário da tecnologia.

A posição chama atenção justamente por partir de uma das principais figuras do desenvolvimento de IA no mundo. O DeepMind, laboratório de pesquisa que hoje faz parte do Google, é responsável por avanços significativos na área, o que dá à manifestação de Hassabis um peso adicional dentro da discussão sobre regulação.

O contexto do debate

A proposta se insere em uma conversa cada vez mais frequente sobre governança da inteligência artificial. À medida que os modelos se tornam mais capazes, cresce a preocupação de pesquisadores, empresas e governos sobre como garantir que a tecnologia se desenvolva de forma segura e sob algum tipo de controle coletivo.

A ideia de um órgão internacional de fiscalização não é inédita no debate público, mas ganha relevância quando defendida por lideranças que estão diretamente envolvidas na criação desses sistemas. O fato de Hassabis apontar um país específico para liderar o processo, em vez de defender uma estrutura totalmente neutra ou multilateral desde o início, também deve alimentar discussões sobre quem deve ditar as regras do jogo.

O que ainda falta esclarecer

As informações disponíveis até o momento se concentram no posicionamento público de Hassabis e nos argumentos que ele apresentou em seu blog. Detalhes sobre como esse órgão funcionaria na prática, quais seriam seus poderes concretos e como se daria a adesão de diferentes países não foram especificados nas fontes consultadas.

De qualquer forma, a manifestação reforça uma tendência: cada vez mais, os próprios criadores das tecnologias de ponta pedem regras claras para o setor, sinalizando que o futuro da IA passará, inevitavelmente, pela discussão de sua regulação.