O avanço da inteligência artificial no setor público exige mais do que inovação tecnológica: demanda governança, transparência, rastreabilidade de dados e participação humana nas decisões. Essas foram algumas das principais reflexões do Painel 4 do Tech Gov Fórum ES, realizado em Vitória, com o tema “IA Ética e Responsável: Aplicações práticas no setor público”.

O debate reuniu especialistas em tecnologia, ciência de dados, direito digital e inovação pública para discutir os desafios da implementação de soluções de inteligência artificial em governos, especialmente diante do crescimento da automação de serviços públicos e do uso cada vez mais intenso de dados da população.

A mediação foi conduzida por André Ágil Sanches, fundador e CEO do Universo Ágil, que destacou a diversidade técnica dos participantes do painel. “Temos aqui pessoas que entendem de dados, tecnologia, comunicação e jurídico. Isso mostra como a discussão sobre inteligência artificial é multidisciplinar”, afirmou.

O diretor-presidente da ATI Piauí e vice-presidente de Tecnologia da ABEP-TIC, Ellen Gera, afirmou que a implementação de inteligência artificial no setor público depende diretamente de governança e colaboração institucional. “O Brasil é extremamente complexo, com estados, municípios, secretarias e diferentes estruturas de poder. A República é complexa por natureza e exige diálogo e integração”, declarou.

Segundo ele, apesar da complexidade administrativa brasileira, existem experiências bem-sucedidas de cooperação entre governos. “Temos políticas públicas nacionais que funcionam em escala, como o SUS. Isso mostra que é possível construir modelos colaborativos eficientes”, afirmou.

Gera destacou ainda que o Brasil precisa avançar na criação de infraestrutura tecnológica própria e no desenvolvimento de modelos nacionais de inteligência artificial. “Estamos caminhando para ter uma infraestrutura soberana no país e precisamos desenvolver nossos próprios modelos de linguagem”, disse.

Ele apresentou como exemplo o projeto “Soberania”, desenvolvido no Piauí, uma LLM (Large Language Model) totalmente em português e voltada ao setor público brasileiro. “Ela não será usada apenas no Piauí. Pode se tornar um case nacional”, afirmou.

Segundo o gestor, a criação de uma cultura de dados dentro da administração pública é um dos pilares para consolidar essa transformação. “O Piauí é hoje o único estado brasileiro que possui uma Secretaria Estadual de Inteligência Artificial e um Conselho de Transformação Digital presidido pelo governador”, destacou.

Entre os exemplos práticos apresentados, Gera citou o uso de inteligência artificial para registro de boletins de ocorrência via WhatsApp e leitura automatizada de exames médicos nas Unidades Básicas de Saúde. “Hoje, no Piauí, o cidadão não precisa mais ir à delegacia para registrar um BO. Ele pode fazer isso pelo WhatsApp, com apoio de IA”, explicou.

Ele também destacou que exames realizados em unidades de saúde municipais são analisados em poucos minutos por sistemas inteligentes. “Um exame é lido em cerca de quatro minutos”, afirmou.

O gerente de Dados do Prodest, Nivaldo Helmer, abordou os desafios relacionados aos vieses algorítmicos e à confiabilidade dos dados utilizados pela inteligência artificial. “Antes de nos preocuparmos com vieses, precisamos garantir a rastreabilidade dos dados”, afirmou.

Isso porque, de acordo com ele, muitos dados já chegam aos sistemas carregando distorções e inconsistências, o que exige processos rigorosos de catalogação, curadoria e monitoramento. “Os modelos se degeneram ao longo do tempo porque novas informações entram continuamente. Não conseguimos eliminar totalmente o viés, mas conseguimos mitigá-lo entendendo de onde os dados vêm”, explicou.

O professor da UFES, Alberto Ferreira de Souza, destacou os desafios técnicos para tornar sistemas de inteligência artificial auditáveis e transparentes. “Muita gente não sabe que o poder da IA moderna está nela mesma. Ela funciona como uma rede neural com bilhões de conexões que, em muitos casos, superam nossa própria capacidade de compreensão”, afirmou.

Ele conta que empresas de tecnologia já trabalham em soluções para que modelos de IA consigam “explicar” o funcionamento de outros modelos. “A Anthropic desenvolveu recentemente um método em que uma IA tenta compreender como outra IA funciona. Talvez consigamos entender o que acontece dentro desses sistemas, embora ainda seja difícil compreender completamente o motivo das respostas”, explicou.

O Head de Inovações da Montreal, Adriano Carpinetti, afirmou que a ética em sistemas de inteligência artificial precisa nascer ainda na arquitetura tecnológica das soluções. “No fim de tudo, a IA sempre precisa ter um humano tomando a decisão”, declarou. Por isso os sistemas desenvolvidos pela empresa utilizam mecanismos de segurança conhecidos como “guard rails”, responsáveis por limitar ações automáticas e garantir supervisão humana. “Hoje temos IAs curadoras e, ao final, curadores humanos validando as decisões”, afirmou.

O Tech Lead de Ciência de Dados da Bravonix, Jesse Fernandes Ferreira, destacou que a redução de riscos reputacionais depende diretamente da qualidade da arquitetura dos sistemas e da definição clara de regras. “Escolher o modelo de linguagem correto já é um desafio importante. Isso influencia diretamente o risco de alucinação da IA”, explicou.

Ele explica que quanto maior o nível de restrições e direcionamentos aplicados ao sistema, menor o risco de respostas incorretas. “No serviço público, muitas vezes é melhor que a IA responda ‘eu não sei’ do que fornecer uma resposta errada”, afirmou.

Ao abordar a soberania tecnológica, Gera defendeu que o Brasil precisa deixar de depender exclusivamente de soluções estrangeiras. “O Piauí decidiu não ficar apenas a reboque das tecnologias globais e investir em uma IA soberana”, disse, destacando que o projeto foi construído em parceria com empresas privadas e com o Serpro, visando expansão nacional.

Para Helmer, iniciativas como essa ajudam a consolidar uma cultura de transformação digital dentro do serviço público. “Quando o governo estabelece essa estratégia, mostra para toda a estrutura que esse é um caminho sem volta”, afirmou, reforçando que a inteligência artificial pode liberar servidores para atividades mais estratégicas e humanizadas. “Deixamos que a IA cuide de processos repetitivos para que o servidor possa atuar em demandas mais humanas”, explicou.

O debate também abordou a responsabilização por erros cometidos por sistemas de IA. Carpinetti defendeu que decisões críticas ainda precisam permanecer sob responsabilidade humana. “No setor público, tudo depende de definição de regras. Dependendo da decisão, ela precisa necessariamente passar por uma validação humana”, afirmou.

Já o Souza trouxe uma reflexão mais ampla sobre o futuro da inteligência artificial e os limites éticos do avanço tecnológico. “A guerra da Ucrânia já utiliza drones autônomos e existem estudos mostrando que, em alguns cenários, a IA toma decisões melhores do que humanos”, afirmou.

Desta forma, o avanço acelerado da inteligência artificial exigirá debates jurídicos e sociais cada vez mais complexos. “Talvez precisemos começar a discutir, no futuro, a criação da figura da ‘pessoa de IA’, com direitos, deveres e responsabilidades”, concluiu.