A inteligência artificial oferece enormes benefícios potenciais para países e pessoas globalmente, mas também apresenta grandes riscos, afirmaram 40 cientistas e especialistas renomados no primeiro relatório elaborado por um painel científico independente da ONU sobre a tecnologia.
O relatório, que será apresentado aos governos no primeiro Diálogo Global da ONU sobre a governança da IA, em Genebra, de 6 a 7 de julho, oferece a primeira avaliação científica global e independente da IA. Os membros do painel foram selecionados em todas as regiões do mundo e cumprem um mandato de três anos, independentemente de qualquer governo, instituição ou empresa.
A seguir, alguns detalhes do relatório preliminar:
- Os formuladores de políticas precisam de evidências científicas para governar a IA, mas as capacidades da tecnologia estão superando o entendimento científico e a capacidade de adaptação dos governos, com poucos métodos disponíveis para controlar sistemas de IA altamente autônomos.
- O copresidente do painel Yoshua Bengio observou evidências crescentes de comportamentos enganosos da IA e afirmou que a ciência não pode garantir que a IA não causará danos catastróficos “seja por conta própria, seja devido a usuários mal-intencionados”, à medida que suas capacidades aumentam.
- “Os benefícios potenciais da IA são enormes”, concluiu o relatório. “A implantação rápida e descontrolada da tecnologia em grande escala também apresenta riscos consideráveis, incluindo danos à saúde mental dos usuários, uso potencial como ferramenta destrutiva, impactos nos sistemas sociais, econômicos e ambientais, e desafios associados ao controle da tecnologia.”
- A adoção da IA acelerou de forma ampla, mas desigual, entre países e setores. Globalmente, mais de um bilhão de pessoas agora usam IA conversacional semanalmente, mas a adoção nos países em desenvolvimento está atrasada.
- O desenvolvimento da IA está ainda mais concentrado, com os EUA respondendo por 75% do poder de computação entre os 500 maiores supercomputadores de IA do mundo, e a China, por 15%.
- Embora mais de 7.000 idiomas sejam falados em todo o mundo, os modelos atuais de IA são treinados para apenas uma pequena fração deles, e a tradução automática de alguns idiomas está repleta de erros que podem afetar diagnósticos de saúde e decisões de tratamento.
- Os riscos incluem possíveis impactos negativos sobre os direitos humanos, os sistemas sociais e o meio ambiente, com a circulação cada vez mais frequente de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.
- A IA também facilita a produção e o direcionamento de conteúdo persuasivo em grande escala, contribuindo para uma “erosão gradual da integridade da informação que pode enfraquecer a confiança pública, a coesão social e a deliberação democrática”.
- A maioria dos países, incluindo as economias avançadas, carece do conhecimento técnico necessário para avaliar os novos modelos de IA mais avançados ou participar de forma significativa de sua governança.
