marco-de-ia:-debate-reune-visoes-sobre-‘excessos’-do-projeto

Marco de IA: Debate reúne visões sobre ‘excessos’ do projeto

Marco de IA: Debate reúne visões sobre 'excessos' no projeto de lei | Foto: Jefferson Rudy/Agência Senado
Audiência pública sobre marco de IA no Senado Federal | Foto: Jefferson Rudy/Agência Senado

A Comissão temporária responsável por discutir o marco legal de Inteligência Artificial (IA) no Senado Federal realizou nesta segunda-feira, 1º, a primeira audiência pública desde a apresentação do mais recente relatório do projeto de lei (PL 2338/2023), reunindo parte das entidades críticas ao texto e especialistas. O debate foi marcado pela visão de que a versão atual da proposta pode ser mais “excessiva” do que o ideal. 

A audiência teve como tema o ponto que mais gera divergência sobre o projeto, que é a definição dos riscos. Pela proposta, os sistemas classificados como de “alto risco” ou que “produzam efeitos jurídicos relevantes”, são submetidos a algumas obrigações, entre elas, explicar como a decisão é tomada pela IA e dispor de supervisão humana. A medida vem sendo justificada como uma forma de garantir a transparência (sendo ressalvado o segredo industrial) e a adequação à proteção de dados pessoais e ao direito autoral. 

Durante o debate, o diretor-executivo do Conselho Digital, Felipe França, – entidade que tem provedores como Google, Meta, TikTok e X entre associados – manifestou preocupação com eventual impacto da lei nas redes sociais, a partir de determinados sistemas que estão no rol de alto risco. Um deles é a “produção, curadoria, difusão, recomendação e distribuição, em grande escala e significativamente automatizada, de conteúdo por provedores de aplicação com objetivo de maximização do tempo de uso e engajamento das pessoas ou grupos afetados”.

“A gente sabe que quando ele [relator] está colocando essa tecnologia, de sistema de recomendação e distribuição, ele também está mirando no feed das plataformas […]  E por ser um sistema de alto risco, ele vai estar sob o SIA [Sistema Nacional de Regulação e Governança de Inteligência Artificial] sobre a ANPD [Autoridade Nacional de Proteção de Dados] e vai ser regulado. Então é esse é um primeiro ponto que a gente precisa prestar atenção, estão regulando a tecnologia e não o risco e isso vai afetar nosso dia a dia”, opina.

Outro tipo de sistema de alto risco, como o de identificação e autenticação biométrica para o reconhecimento de emoções, França reconhece que a intenção do legislador possa ser mirar o reconhecimento facial em locais públicos, onde há preocupação com o viés discriminatório, mas entende que acaba afetando aplicações das redes sociais como o uso de “filtros”. 

Ao listar recomendações de ajuste, o representante do Conselho Digital defendeu ainda que o direito autoral não seja tratado junto ao PL de IA, citando como exemplo o processo de desenvolvimento do ChatGPT, que envolve milhões de dados que estavam disponíveis na internet, o que envolve diversos autores. “É uma quantidade imensa e é muito difícil”, afirmou França.

Segurança

Por outro lado, a advogada Patrícia Peck, especialista em Direito Digital e membro do Comitê Nacional de Cibersegurança (CNCiber) pontuou que o objetivo de proteção de direitos impostos na lei são positivos, mas precisam de ajustes. Também citando a restrição do desenvolvimento de IA de identificação biométrica, Peck destaca as exceções permitidas são voltadas para a segurança pública. 

“Fica um desafio ou ainda a revisitação da matéria para quando [o sistema] é usado para fins de segurança privada […] Uma coisa é definir que tem que se garantir ali uma proteção contra o risco de viés, de discriminação. Este ponto está completamente correto dentro da legislação e acompanha todas as tendências internacionais. No entanto, na hora em que se traz ali a exceção específica mais à segurança pública, pode dar margem à dúvida em casos de utilização privada, como inseguranças que acontecem em shopping center, no comércio, nas agências de bancos, nas escolas”, exemplifica.

Para Peck, o tema da segurança “poderia ser melhor acomodado de forma setorizada”. 

No mais, a advogada lembrou que a tecnologia envolve planejamento e uma eventual reclassificação de risco pode afetar o desenvolvimento. “Sabemos que os investimentos em inteligência artificial são altos e são de médio para longo prazo. Então, uma mudança de reclassificação de risco pode significar não apenas a necessidade de mais controles e implementar governança, o que traz com toda a certeza custos, mas também até de se reclassificar para um risco ‘inaceitável’, o que gera assim uma certa insegurança”, alertou Peck.

Risco excessivo

Na visão de mercado, Marcelo Almeida, diretor de Relações Institucionais e Governamentais da Associação Brasileira das Empresas de Software (ABES), também fez críticas. “O cenário posto é um convite à criação de direitos, deveres e obrigações, mas muitas vezes com desprestígio de inovação e desenvolvimento tecnológico”, disse.

Almeida criticou diretamente a previsão de uma avaliação preliminar para sistemas de alto risco, onde o desenvolvedor ou a empresa que vai aplicar a tecnologia precisa comprovar que a ferramenta está de acordo com a lei, e se manifestou contra a lista de “riscos excessivos” que são os sistemas que serão proibidos no país. 

“Aquilo que está sendo chamado de riscos excessivos, na verdade, é um excesso (veja lista abaixo). É esse, verdadeiramente, o risco. Aquilo que está sendo chamado de avaliação preliminar, na verdade, é uma censura. E aquilo que está sendo chamado de alto risco, na verdade, é aquilo que nós deveríamos assumir como o risco de ter uma inteligência artificial brasileira competitiva”, alegou Almeida. 

São sistemas de risco excessivo, conforme o mais recente substitutivo:

  • que empreguem técnicas subliminares que tenham por objetivo ou por efeito induzir o comportamento da pessoa natural ou de grupos de maneira que cause ou seja provável que cause danos à saúde, segurança ou outros direitos fundamentais próprios ou de terceiros;
  • que explorem quaisquer vulnerabilidades de pessoa natural ou de grupos com o objetivo ou o efeito de induzir o seu comportamento de maneira que cause ou seja provável que cause danos à saúde, segurança ou outros direitos fundamentais próprios ou de terceiros;
  • pelo poder público, para avaliar, classificar ou ranquear as pessoas naturais, com base no seu comportamento social ou em atributos da sua personalidade, por meio de pontuação universal, para o acesso a bens e serviços e políticas públicas, de forma ilegítima ou desproporcional;
  • que possibilitem a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes;
  • que avaliem os traços de personalidade, as características ou o comportamento passado, criminal ou não, de pessoas singulares ou grupos, para avaliação de risco de cometimento de crime, infrações ou de reincidência;
  • sistemas de armas autônomas (SAA); e
  • sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público [com algumas exceções]

Veja a íntegra do projeto de lei neste link

Fui com vários Provedores para Las Vegas a convite da DPR no evento da NOKIA SREXPERTS
A TV QUE SEU PROVEDOR MERECE : Explorando Oportunidades de Mercado
MAX DICAS - Especialista em Roteadores Wi-Fi CAST DOS LOUCOS
ESTRATÉGIAS PARA CRESCER COM EFICIÊNCIA NO MERCADO DE ISP4 - KAREN BANAR
ATENDA 512 CASAS NA FIBRA ÓPTICA COM ESSA OLT DA DATACOM
ARRUMAMOS UM PROVEDOR DE INTERNET REGIONAL - Aproveite todas as dicas e melhore também seu provedor
O QUE É ASN E IRR - com ARLEI especialista da ASAP Telecom
INICIAMOS A MONTAGEM DO DATA CENTER
PARTE ELÉTRICA DO ZERO DE UM PROVEDOR DE INTERNET- EP 05
QUAL É O MELHOR ROTEADOR HUAWEI - NE8000 M8, M14 E M4 ?