A Comissão Temporária sobre Inteligência Artificial (CTIA) do Senado Federal aprovou nesta quinta-feira, 5, a proposta de marco legal para a tecnologia no Brasil. O projeto de lei agora segue ao Plenário. 

O texto que avança para a próxima fase é a sexta versão de um substitutivo construído a partir de proposição formulada em comissão de juristas ao longo do ano passado, o PL 2338/2023. Entre a primeira e a última versão, ocorreram diversas flexibilizações. Contudo, senadores já adiantam que haverá tentativa de mais mudanças antes do projeto chegar na Câmara (saiba mais abaixo). 

Em síntese, o projeto estabelece uma classificação de risco para os sistemas de IA (veja lista mais abaixo). Há um grupo com definição de “risco excessivo”, que será expressamente proibido e aqueles considerados de “alto risco”, que devem tomar medidas para garantir os seguintes direitos à pessoa ou grupo afetado por ele:

• direito à explicação sobre a decisão, recomendação ou previsão feitas pelo sistema;
• direito de contestar e de solicitar a revisão de decisões, recomendações ou previsões de sistema de IA; e
• direito à revisão humana das decisões, levando-se em conta o contexto, risco e o estado da arte do desenvolvimento tecnológico.

Entre as medidas previstas está a apresentação de documentações, possuir meios que admitam auditorias e tomar medidas para mitigar e prevenir vieses discriminatórios. 

Para acompanhar o cumprimento da lei, o projeto prevê a criação de um Sistema de Governança e Regulação sobre Inteligência Artificial (SIA), definido como um “ecossistema” a ser coordenado pela Autoridade Nacional de Proteção de Dados (ANPD) com a finalidade de “promover e garantir a cooperação e a harmonização com as demais autoridades setoriais e entes reguladores, sem vínculo de subordinação hierárquica entre eles, e outros sistemas nacionais para a plena implementação e fiscalização do cumprimento da lei em todo o território nacional com segurança jurídica”.

Ou seja, os órgãos reguladores continuarão responsáveis pelos seus respectivos setores, e a ANPD zelará pela atuação harmoniosa entre eles, seguindo as diretrizes previstas na lei. 

Conforme a proposta, a ANPD, em conjunto com os órgãos setoriais, poderão realizar investigações em casos de suspeita de violação aos princípios, direitos e deveres.

O SIA contará também com um Comitê de Especialistas e Cientistas de Inteligência Artificial (CECIA) com o objetivo de orientar e supervisionar de forma técnica e científica o desenvolvimento e aplicação da IA de forma responsável, e um Conselho Permanente de Cooperação Regulatória de Inteligência Artificial (CRIA), que funcionará como um fórum de colaboração com a ANPD. 

Uma das principais competências do SIA é a possibilidade de incluir ou excluir sistemas da classificação de riscos de IA nos próximos anos, em procedimento que garanta o direito ao contraditório, e mediante avaliação de impacto algorítmico.

Independentemente da classificação de riscos, a lei impõe fundamentos que devem ser observados no desenvolvimento, implementação e uso de sistemas de IA no país, entre eles, a proteção ao meio ambiente, privacidade, proteção de dados pessoais e integridade da informação.

Classificação e mudanças

Os últimos ajustes no relatório, confirmados nesta manhã, incorporam mudanças na lista de sistemas de alto risco, entre eles, o que se destina especificamente às plataformas digitais (provedores de aplicação de internet). 

O trecho retirado considerava de alto risco os sistemas de “curadoria, difusão, recomendação e distribuição, em grande escala e significativamente automatizada, de conteúdo por provedores de aplicação de internet, com objetivo de maximização do tempo de uso e engajamento das pessoas ou grupos afetados, quando o funcionamento desses sistemas puder representar riscos relevantes à liberdade de expressão e acesso à informação e aos demais direitos fundamentais”. 

Ao retirar esse trecho, o relator justificou que “a previsão anterior mostrou-se excessivamente genérica, considerando que a imprecisão técnica pode ter repercussões indesejáveis para setores importantes, vinculados inclusive à proteção de direitos fundamentais”. Ainda de acordo com o relator, “a garantia da liberdade de expressão apresenta-se como premissa básica a qualquer sociedade democrática e o texto ora relatado jamais poderia ser utilizado para afetar essa prerrogativa”. 

Diante disso, as listas ficaram previstas da seguinte forma

IA no Plenário

Independentemente da classificação, o projeto de lei prevê que o agente de IA que utilizar conteúdos protegidos por direitos de autor e direitos conexos em processos de mineração, treinamento ou desenvolvimento de sistemas de IA deve remunerar os respectivos titulares. As plataformas desenvolvedoras são contrárias, e alguns parlamentares também.

O senador Marcos Rogério (PL-RO) adiantou a tentativa de debater a questão dos direitos autorais nos sistemas de IA em plenário. O parlamentar também se manifestou contra o fundamento de integridade da informação previsto na lei. Para ele, não está claro “quem vai determinar” o que seria tal integridade.

No texto, o conceito é definido como o “resultado de um ecossistema informacional que viabiliza e disponibiliza informações e conhecimento confiáveis, diversos e precisos, em tempo hábil para promoção da liberdade de expressão”.

No Plenário, o projeto de regulação da IA já contava com mais de 25 propostas de emendas poucas horas após a chegada. Da base do governo, o senador Humberto Costa (PT – PE) busca reincluir o trecho retirado do substitutivo, que blinda plataformas digitais.

Humberto Costa também sugere atribuir ao Conselho de Cooperação Regulatória de Inteligência Artificial a garantir de revisão humana em decisões automatizadas que instituem punições disciplinares e dispensa de trabalhadores.