Mais de 1,2 mil pesquisadores e executivos de empresas de IA, entre elas OpenAI, Anthropic, Google DeepMind e Meta, divulgaram uma carta aberta pedindo que o governo dos Estados Unidos apoie a criação de mecanismos internacionais capazes de controlar o ritmo de desenvolvimento da chamada IA de fronteira, termo utilizado para designar os modelos mais avançados em desenvolvimento.
Segundo o documento, os principais laboratórios do setor estão próximos de automatizar parte da própria pesquisa em IA, o que poderá acelerar a evolução desses sistemas além da capacidade humana de compreendê-los ou supervisioná-los. Diante desse cenário, os signatários defendem que governos e desenvolvedores criem instrumentos técnicos e de governança para permitir, quando necessário, reduzir deliberadamente o ritmo desse avanço.
A carta foi publicada na plataforma Pacing the Frontier e reunia 1.224 assinaturas verificadas até sua divulgação. As adesões foram feitas em caráter pessoal e não representam, necessariamente, a posição oficial das empresas.
“Precisamos de mecanismos técnicos e de governança capazes de regular de forma deliberada o ritmo do desenvolvimento da IA de ponta”, diz a carta em tradução direta.
Lideranças do setor aderem ao documento
Entre os signatários estão Dario Amodei, CEO da Anthropic; Jakub Pachocki, cientista-chefe da OpenAI; Mark Chen, diretor de pesquisa da OpenAI; Jared Kaplan, cofundador e cientista-chefe da Anthropic; Anca Dragan, vice-presidente de Segurança e Alinhamento de IA do Google; e Shengjia Zhao, cientista-chefe da Meta AI.
Segundo os autores, a capacidade crescente dos sistemas de IA para realizar pesquisas científicas, escrever códigos e aperfeiçoar outros modelos exige a criação de mecanismos internacionais de coordenação antes que essas tecnologias avancem para um estágio em que os riscos superem a capacidade de implementação de salvaguardas.
O documento não propõe uma paralisação do desenvolvimento da IA. Em vez disso, recomenda que governos e empresas estabeleçam previamente mecanismos capazes de desacelerar temporariamente a evolução dos modelos de fronteira caso isso seja considerado necessário para preservar a segurança e permitir o avanço das pesquisas de alinhamento. A iniciativa recebeu apoio das organizações Guidelight AI Standards e Encode AI.
Empresas já defendiam coordenação internacional
O conteúdo da carta converge com posições públicas divulgadas recentemente pelas próprias desenvolvedoras de IA. Em junho, a Anthropic afirmou que seria positivo existir a possibilidade de desacelerar ou interromper temporariamente o desenvolvimento de modelos de fronteira para que pesquisas de alinhamento e estruturas de governança acompanhassem a evolução tecnológica.
A empresa ressalvou, contudo, que uma medida dessa natureza precisaria ser coordenada internacionalmente para evitar que laboratórios menos cautelosos avançassem de forma isolada.
Também em junho, a OpenAI apresentou uma proposta para criação de uma organização internacional voltada à coordenação entre os principais desenvolvedores de IA. Segundo a empresa, esse organismo poderia facilitar uma desaceleração conjunta do desenvolvimento de sistemas de fronteira, caso governos e empresas concluíssem que o avanço tecnológico estivesse superando a capacidade de estabelecer medidas de segurança.
Debate ganha força após incidente
A divulgação da carta ocorre poucos dias depois de a OpenAI revelar detalhes de um incidente de segurança registrado durante uma avaliação interna de capacidades cibernéticas.
Segundo a empresa, modelos utilizados em testes exploraram vulnerabilidades em um ambiente controlado e chegaram a acessar sistemas da Hugging Face para obter informações relacionadas ao benchmark ExploitGym. A Hugging Face confirmou o episódio e informou que a investigação não identificou comprometimento de modelos públicos nem de dados de clientes além do ambiente utilizado na avaliação.
O post Carta pressiona EUA por regras para IA apareceu primeiro em TeleSíntese.
