Chris Olah, cofundador da Anthropic, responsável pela IA Claude, disse nesta segunda-feira (25) que o desenvolvimento da inteligência artificial não pode ficar exclusivamente nas mãos das empresas de tecnologia, e defendeu mais supervisão por parte de líderes religiosos, governos e da sociedade civil. Ele fez a declaração no Vaticano durante a apresentação da primeira encíclica do Papa Leão XIV sobre inteligência artificial, Olah afirmou que há “uma possibilidade real” de que a IA substitua o trabalho humano “em escala muito ampla”.
“Se isso acontecer, apoiar os trabalhadores substituídos será um imperativo moral de proporções históricas”, disse ele, sentado ao lado do papa Leão XIV. Olah foi taxativo: empresas como a dele operam sob fortes pressões comerciais, geopolíticas e pessoais, que podem entrar em conflito com os interesses mais amplos da sociedade.
“Todo laboratório de IA de fronteira (…) opera dentro de um conjunto de incentivos e restrições que às vezes podem conflitar com fazer a coisa certa”, afirmou, acrescentando que até pesquisadores bem-intencionados continuam influenciados por essas forças. Segundo Olah, isso torna essencial a existência de fiscalização externa.
A Anthropic entrou em atrito com o governo do presidente Donald Trump ao defender limites para o uso de seus modelos de IA em aplicações militares, como armas autônomas e vigilância doméstica. Olah elogiou o envolvimento da Igreja com a tecnologia em rápida evolução, afirmando que as questões éticas levantadas pela IA vão muito além da engenharia.
“As questões levantadas pela IA são maiores do que a própria comunidade de pesquisa em IA”, disse ele, defendendo a atuação de “críticos sérios e reflexivos” capazes de desafiar as empresas e ajudar a direcionar a criação de novos sistemas poderosos para um caminho positivo.
Olah destacou três áreas que, segundo ele, exigem atenção urgente: o risco de perdas generalizadas de empregos, a necessidade de garantir que os benefícios da IA sejam distribuídos globalmente e a questão ainda não resolvida de como interpretar o comportamento de sistemas cada vez mais complexos e, às vezes, opacos. “O desenvolvimento da IA está concentrado em um pequeno grupo de países ricos. Como podemos garantir que os ganhos da IA sejam compartilhados globalmente?”, questionou Olah.
