Embora a IA generativa ofereça inúmeras oportunidades, ela também apresenta desafios que requerem uma abordagem regulatória adequada, defende Eduardo Santini de Lucena

Por Eduardo Santini de Lucena* 

A inteligência artificial (IA) generativa, também conhecida como AI generativa, é uma área em rápido crescimento que tem despertado grande interesse e empolgado especialistas, empresas e entusiastas de tecnologia em todo o mundo. Essa forma de IA baseia-se em modelos como o GPT3.5, uma poderosa ferramenta capaz de gerar texto e até mesmo imagens com qualidade impressionante. No entanto, ao mesmo tempo que celebramos o avanço dessa tecnologia, também devemos abordar as questões de regulação que surgem com seu desenvolvimento.

O potencial da AI Generativa: A AI generativa tem o potencial de revolucionar diversas áreas, desde a criação de conteúdo e design até a medicina e a pesquisa científica. Ela pode auxiliar na geração de novas ideias, na solução de problemas complexos e até mesmo na criação de obras de arte. Ao aprender com grandes volumes de dados, a AI generativa é capaz de criar resultados surpreendentes, muitas vezes indistinguíveis de algo produzido por um ser humano.

Desafios da regulação

Embora a AI generativa ofereça inúmeras oportunidades, ela também apresenta desafios que requerem uma abordagem regulatória adequada. Um dos principais desafios está relacionado à ética e à responsabilidade. À medida que a IA generativa se torna mais sofisticada, surgem preocupações sobre o uso indevido da tecnologia, como a disseminação de desinformação ou a criação de conteúdo prejudicial.

Além disso, a propriedade intelectual e os direitos autorais também são questões a serem consideradas. Como determinar quem é o autor de um texto gerado por uma máquina? Como proteger os direitos dos criadores originais quando a AI generativa pode facilmente produzir conteúdo semelhante? Essas são questões complexas que exigem uma análise jurídica e regulatória cuidadosa.

A regulação da AI generativa varia de país para país e ainda está em desenvolvimento em muitas jurisdições. No mundo todo, governos, organizações e especialistas estão buscando formas de lidar com os desafios éticos, legais e sociais apresentados por essa tecnologia. Aqui estão algumas abordagens de regulação da AI generativa em diferentes partes do mundo:

Estados Unidos

Nos Estados Unidos, a regulação da AI generativa ainda está em estágios iniciais. Embora não exista uma legislação específica para essa tecnologia, as preocupações com a privacidade, a ética e a responsabilidade estão sendo abordadas por meio de leis existentes, como a Lei de Proteção de Dados do Consumidor da Califórnia (CCPA) e o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia, que afetam empresas que operam nesses locais.

União Europeia

A União Europeia (UE) está adotando medidas significativas para regulamentar a inteligência artificial (IA) em geral, incluindo a AI generativa. Em abril de 2021, a Comissão Europeia propôs o Regulamento de IA, que busca estabelecer um conjunto abrangente de regras para o uso ético e seguro da inteligência artificial em toda a UE.

O Regulamento de IA da UE tem como objetivo proteger os direitos e os valores fundamentais dos cidadãos europeus, garantindo a confiança na tecnologia e promovendo a inovação responsável.

Algumas das principais disposições propostas incluem:

Classificação de sistemas de IA: O regulamento classifica os sistemas de IA em diferentes categorias de risco, como sistemas de IA proibidos, sistemas de IA de alto risco e sistemas de IA de risco limitado. Isso permite uma abordagem diferenciada na regulamentação, com foco particular em sistemas de alto risco.
Requisitos para sistemas de IA de alto risco: Os sistemas de IA considerados de alto risco, como aqueles usados em setores como transporte, saúde, segurança e administração pública, estão sujeitos a requisitos mais rigorosos. Esses requisitos incluem avaliação de conformidade, documentação técnica, supervisão humana adequada, transparência e explicabilidade, entre outros.
Proibições e restrições: O regulamento proíbe certas práticas de IA consideradas inaceitáveis e de alto risco, como sistemas de IA que manipulam o comportamento humano de forma inadequada, sistemas de vigilância em massa e sistemas de IA que pontuam socialmente indivíduos sem base justificável.
Avaliação de conformidade e certificação: O regulamento estabelece a necessidade de avaliação de conformidade para sistemas de IA de alto risco e a possibilidade de certificação voluntária para outros sistemas. Os organismos de certificação serão designados para realizar essas avaliações.
Governança e supervisão: A proposta prevê a criação de uma estrutura de governança da IA, incluindo a criação de autoridades nacionais de supervisão e a cooperação entre os Estados-Membros. O objetivo é garantir a conformidade com o regulamento e promover a aplicação consistente em toda a UE.

É importante observar que o Regulamento de IA da UE ainda está em processo de discussão e pode sofrer alterações antes de ser aprovado e entrar em vigor. No entanto, ele reflete o compromisso da UE em equilibrar a inovação e o desenvolvimento tecnológico com a proteção dos direitos e valores dos cidadãos europeus.

Reino Unido

No Reino Unido, a regulação da inteligência artificial (IA) é abordada principalmente por meio de diretrizes, estruturas e organizações reguladoras. Embora não haja uma legislação específica para a regulação da AI, existem várias iniciativas e abordagens em vigor para lidar com os desafios éticos, legais e sociais apresentados pela tecnologia

Centre for Data Ethics and Innovation (CDEI): O CDEI é um órgão independente do governo do Reino Unido que tem como objetivo promover o uso ético e responsável dos dados e da IA. O CDEI realiza pesquisas, consulta partes interessadas e emite orientações para informar o desenvolvimento de políticas e regulamentações relacionadas à IA.

Estratégia de IA do Governo do Reino Unido: O governo do Reino Unido publicou uma Estratégia de Inteligência Artificial, que estabelece uma visão e um conjunto de ações para promover a inovação, a adoção e a regulação responsável da IA no país. A estratégia inclui o compromisso de revisar a legislação existente para garantir que seja adequada para lidar com os desafios da IA.

Lei de Proteção de Dados: O Reino Unido adotou o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia, que oferece proteção de dados e privacidade para os cidadãos. A GDPR estabelece requisitos para o processamento de dados pessoais, incluindo aqueles relacionados à IA.
Ética em IA: O governo do Reino Unido está incentivando a adoção de práticas éticas em IA. Por exemplo, foi desenvolvido um Código de Ética em IA que visa garantir que as organizações desenvolvam e utilizem a tecnologia de forma ética, transparente e responsável.
Setores regulamentados: Algumas áreas específicas que utilizam IA, como serviços financeiros e saúde, estão sujeitas a regulamentações setoriais existentes. Por exemplo, a Autoridade de Conduta Financeira (FCA) e a Agência Reguladora de Medicamentos e Produtos de Saúde (MHRA) têm diretrizes para o uso de IA nesses setores.

Além disso, o Reino Unido está ativamente envolvido em discussões e colaborações internacionais sobre a regulação da IA. Por exemplo, é membro fundador da Global Partnership on AI (GPAI), uma iniciativa internacional para promover a cooperação e a governança responsável da IA em todo o mundo.

Em resumo, a regulação da AI no Reino Unido é abordada por meio de diretrizes, estratégias e organizações reguladoras que buscam promover a inovação, a ética e a responsabilidade no uso da tecnologia. Embora não haja uma legislação específica, o governo e as entidades reguladoras estão trabalhando para desenvolver uma abordagem equilibrada e eficaz para lidar com os desafios da AI.

Canadá

O Canadá tem sido um líder na regulação da AI generativa. Em 2020, o governo canadense lançou o Quadro Pan-Canadense para a Regulação Responsável da Inteligência Artificial, uma iniciativa do governo do Canadá para promover a regulação ética e responsável da inteligência artificial (IA) em todo o país. Foi lançado em 2020 como parte dos esforços do Canadá para liderar o desenvolvimento e o uso ético da IA.

O quadro tem como objetivo principal proteger os direitos e a privacidade dos cidadãos canadenses, promover a transparência e a responsabilidade no uso da IA e garantir que os benefícios da tecnologia sejam amplamente distribuídos. Algumas características e elementos-chave do Quadro Pan-Canadense incluem:

Princípios orientadores: O quadro estabelece um conjunto de princípios fundamentais que devem guiar o desenvolvimento, a implementação e o uso da IA no Canadá. Esses princípios incluem equidade, transparência, responsabilidade, privacidade, inclusão e diversidade.
Abordagem baseada em risco: O quadro adota uma abordagem baseada em risco para a regulação da IA. Isso significa que as regras e as medidas regulatórias serão adaptadas de acordo com o nível de risco associado a diferentes aplicações de IA. Isso permite uma regulação proporcional aos potenciais impactos negativos da tecnologia.
Governança e supervisão: O quadro estabelece a criação de um órgão de governança para supervisionar e coordenar a regulação da IA no Canadá. Esse órgão seria responsável por desenvolver diretrizes, políticas e regulamentos, além de monitorar e fiscalizar a conformidade com essas diretrizes.
Colaboração e engajamento: O quadro enfatiza a importância da colaboração entre governo, indústria, academia e sociedade civil. Ele reconhece a necessidade de envolver diferentes partes interessadas na definição das políticas e regulamentações de IA, buscando um diálogo aberto e inclusivo.
Pesquisa e desenvolvimento: O quadro incentiva a pesquisa e o desenvolvimento contínuos no campo da IA, especialmente no que diz respeito a questões éticas e regulatórias. Ele promove o investimento em pesquisa, a educação em IA e a colaboração com outras jurisdições e organizações internacionais.

O Quadro Pan-Canadense para a Regulação Responsável da Inteligência Artificial demonstra o compromisso do Canadá em garantir que a IA seja desenvolvida e utilizada de maneira ética e responsável, levando em consideração os valores e os interesses dos cidadãos canadenses. Ele serve como uma estrutura para orientar a regulação e a governança da IA no país, promovendo o equilíbrio entre inovação, proteção dos direitos individuais e benefícios sociais.

China

A China adotou uma abordagem única em relação à regulação da inteligência artificial (IA), incluindo a AI generativa. Embora não haja regulamentos específicos para a AI generativa, o governo chinês tem se concentrado em supervisionar e regulamentar a IA em geral, com o objetivo de promover o desenvolvimento responsável e ético da tecnologia.

A abordagem de regulação da AI na China é impulsionada por um conjunto de diretrizes éticas lançadas em 2019 pelo Ministério da Indústria e Tecnologia da Informação. Essas diretrizes, intituladas “Novo Geração de Desenvolvimento de Inteligência Artificial”, estabelecem princípios para o desenvolvimento e uso da IA no país.

Alguns dos elementos-chave das diretrizes incluem:

Segurança: As diretrizes enfatizam a importância da segurança dos sistemas de IA, especialmente em áreas críticas, como transporte e saúde. Elas destacam a necessidade de garantir a estabilidade e a confiabilidade desses sistemas para proteger a segurança das pessoas e a integridade das infraestruturas.
Transparência e explicabilidade: As diretrizes também enfatizam a necessidade de transparência e explicabilidade nos sistemas de IA. Elas afirmam que os sistemas de IA devem ser desenvolvidos de forma a serem compreensíveis e explicáveis, para que os usuários e a sociedade possam entender como eles funcionam e tomar decisões informadas.
Proteção de dados e privacidade: As diretrizes destacam a importância da proteção de dados e privacidade na utilização da IA. Elas defendem a coleta, o armazenamento e o uso responsável dos dados, bem como a implementação de medidas de segurança para evitar o acesso não autorizado a informações pessoais.
Colaboração internacional: As diretrizes também incentivam a cooperação e a colaboração internacional no desenvolvimento e na regulação da IA. Elas destacam a importância do intercâmbio de conhecimentos, experiências e melhores práticas entre os países para promover um ambiente global de IA seguro e ético.

Além das diretrizes éticas, a China também possui leis e regulamentos gerais relacionados à proteção de dados e privacidade, que podem ser aplicados no contexto da AI generativa. Essas leis incluem a Lei de Proteção de Dados Pessoais e a Lei de Segurança da Rede.

No entanto, é importante observar que a regulação da AI na China também está sujeita à supervisão e à influência do governo central, que desempenha um papel significativo no desenvolvimento e na governança da IA no país. A regulação da AI na China é uma área em constante evolução, com um foco crescente na supervisão e no equilíbrio entre inovação tecnológica e segurança pública.

Japão

O Japão tem adotado uma abordagem ativa em relação à regulação da inteligência artificial (IA), reconhecendo seu potencial para impulsionar a inovação e o crescimento econômico. O governo japonês tem trabalhado para estabelecer diretrizes e estruturas regulatórias para garantir o uso ético e seguro da IA. Aqui estão algumas iniciativas e aspectos relevantes da regulação da IA no Japão:

Sociedade 5.0: O Japão está promovendo a iniciativa “Sociedade 5.0”, que visa transformar a sociedade por meio do uso avançado de tecnologias, incluindo a IA. A Sociedade 5.0 busca integrar a IA em diversos setores, como saúde, transporte, energia e agricultura, para melhorar a qualidade de vida dos cidadãos e impulsionar a inovação.
Estratégia de IA: O governo japonês estabeleceu uma Estratégia de Inteligência Artificial em 2017 para promover o desenvolvimento e a aplicação da IA. A estratégia inclui diretrizes para promover a pesquisa e o desenvolvimento de IA, bem como medidas para treinamento de talentos, promoção de parcerias público-privadas e incentivos financeiros para empresas de IA.
Diretrizes Éticas: O Japão lançou diretrizes éticas para o desenvolvimento e a utilização da IA em 2019. Essas diretrizes buscam garantir a transparência, a justiça, a segurança e a responsabilidade na aplicação da IA. Elas também destacam a importância de considerar o impacto social da IA e proteger a privacidade e os dados pessoais.
Lei de Proteção de Dados: O Japão tem uma legislação específica para a proteção de dados pessoais, conhecida como Lei de Proteção de Informações Pessoais. Essa lei regula o tratamento de dados pessoais e impõe obrigações às organizações que lidam com esses dados, incluindo aquelas que utilizam IA. A lei foi revisada em 2020 para fortalecer a proteção de dados e garantir a segurança da informação.
Agência de Transformação Digital: O governo japonês estabeleceu a Agência de Transformação Digital (Digital Agency) em 2021. A agência tem como objetivo promover a transformação digital do país, incluindo a IA, e desempenhará um papel importante na coordenação das políticas relacionadas à IA e no desenvolvimento de diretrizes e regulamentos.
Além dessas iniciativas, o Japão tem buscado colaboração internacional para a regulação da IA. O país é membro da Global Partnership on AI (GPAI) e tem participado ativamente de discussões sobre governança e ética da IA em nível global.

Em resumo, o Japão está adotando várias iniciativas para promover a regulação responsável da IA, incluindo diretrizes éticas, legislação de proteção de dados e estratégias de IA. O governo está comprometido em impulsionar a inovação e garantir que a IA seja usada de maneira ética e segura para o benefício da sociedade japonesa.

Outros países

Outros países estão explorando diferentes abordagens para a regulação da AI generativa. Alguns estão desenvolvendo comitês de ética para orientar o desenvolvimento e o uso da tecnologia, enquanto outros estão conduzindo pesquisas e debates públicos para informar futuras políticas regulatórias.

Encontrando um equilíbrio

Ao enfrentar esses desafios, é importante encontrar um equilíbrio entre a regulação e a inovação. A IA generativa oferece um enorme potencial para avanços científicos, criativos e econômicos, e uma regulação excessivamente restritiva pode sufocar a inovação. Por outro lado, a falta de regulamentação pode levar a abusos e consequências indesejáveis.

Uma abordagem adequada à regulação da AI generativa deve envolver a colaboração entre governos, empresas de tecnologia, especialistas em ética e sociedade civil. Será necessário estabelecer diretrizes claras e princípios éticos para orientar o desenvolvimento e o uso da tecnologia. Isso pode incluir a implementação de salvaguardas para evitar o uso indevido da AI generativa, a proteção da privacidade e a responsabilização dos desenvolvedores e usuários.

A AI generativa representa um marco importante no campo da inteligência artificial, com inúmeras aplicações e benefícios potenciais. No entanto, a regulação desse campo é essencial para garantir que a tecnologia seja usada de forma responsável, ética e segura. Ao encontrar um equilíbrio entre inovação e regulação, podemos aproveitar todo o potencial da AI generativa, ao mesmo tempo que protegemos os direitos e a dignidade humana. É um desafio complexo, mas necessário, que exigirá a colaboração de diversos atores para garantir um futuro promissor para a AI generativa.

Ex-consultor da KPMG, com formação em Grenoble e no MIT, Eduardo Santini de Lucena é membro do IBGC e Conselheiro de Administração certificado pela entidade (CCA)

O post IA Generativa e Regulação: Equilibrando Inovação e Responsabilidade apareceu primeiro em TeleSíntese.