Agentes de IA devem passar por um processo de integração e começar a operar com acesso restrito aos sistemas corporativos. A recomendação é de Ricardo Moraes, sócio-líder da prática de Cyber Security da KPMG no Brasil, que relacionou parte dos incidentes envolvendo a tecnologia à concessão de privilégios excessivos.
“Com os agentes de IA, tem que ser da mesma maneira. Quem faz o onboarding desse agente? Que acesso ele precisa ter?”, questionou nesta terça-feira, 11, durante o evento TS Segurança Digital e Serviços Gerenciados, realizado pelo Tele.Síntese em São Paulo.
Ricardo participou do painel “Marco Regulatório de Cibersegurança: coordenação nacional, infraestruturas críticas e responsabilidades”. Ao ser questionado sobre os controles mínimos necessários antes de um agente acessar dados, APIs e sistemas internos ou executar tarefas autonomamente, comparou a adoção da tecnologia à entrada de um funcionário em uma empresa.
Segundo o executivo, novos profissionais geralmente recebem orientações sobre as regras internas e começam com permissões limitadas. Outros acessos são concedidos conforme as necessidades identificadas durante o trabalho. Para Ricardo, as empresas devem aplicar procedimento semelhante aos agentes de IA.
Acesso amplo começa nos testes
Ricardo afirmou que, na prática, agentes podem receber privilégios elevados desde o início para conseguir consultar informações e produzir respostas mais abrangentes. O modelo inverte a lógica aplicada aos funcionários, que normalmente começam com acesso restrito. “Para que ele tenha um acesso amplo, para que possa dar uma resposta, ele já começa com acesso privilegiado. É isso que, na prática, acaba acontecendo”, afirmou.
Antes da implantação, as empresas deveriam definir quais sistemas cada agente precisa consultar e quem está autorizado a utilizá-lo. Também deveriam avaliar se a ferramenta realmente necessita de todas as permissões solicitadas. “Ele realmente precisa ter acesso a tudo? Quem pode executar esse agente?”, questionou.
O executivo ressaltou que a IA não deve ser tratada como inimiga. Na sua avaliação, a tecnologia pode atuar como habilitadora, desde que esteja submetida aos controles de segurança adotados pela organização.
“A gestão de acesso do agente tem que ser tão diligente quanto ela é com o nosso acesso”, afirmou.
Privilégios permanecem após experimentos
Parte do risco aparece quando permissões concedidas durante testes permanecem ativas depois da experiência inicial. Segundo Ricardo, essa situação está entre os problemas encontrados nos incidentes com IA acompanhados pela KPMG. “O que a gente mais se depara com os incidentes de IA é justamente isso: um agente com acesso privilegiado. Foi feito um teste, o acesso ficou ali privilegiado e causou um incidente”, relatou.
A avaliação indica que o controle não deve terminar com a autorização inicial do projeto. As permissões concedidas durante o desenvolvimento precisam ser revistas antes que a ferramenta passe a operar em outros ambientes ou seja utilizada por mais pessoas.
Ricardo comparou esse processo às revisões de acesso realizadas com funcionários. As organizações verificam se determinado profissional ainda precisa entrar em cada sistema e se as autorizações concedidas continuam compatíveis com sua atividade.
“Durante muitos anos, a gente se preocupou muito com o controle de acesso. A gente tinha que responder se você deveria continuar com acesso àquele sistema e se precisava ter acesso a todas aquelas plataformas”, disse. “A gente tem que fazer a mesma coisa com os agentes de IA.”
Controle deve acompanhar capacidade de atuação
O cuidado ganha importância à medida que os agentes deixam de apenas consultar informações e passam a executar tarefas. Antes de conectá-los a dados, sistemas e APIs, as empresas precisam delimitar os recursos necessários para cada finalidade.
A proposta apresentada por Ricardo consiste em transportar para os agentes os controles já usados na gestão de acessos corporativos. Isso inclui começar com permissões restritas, liberar novos recursos conforme a necessidade e revisar os privilégios mantidos após a fase de testes.
Para o executivo, a ausência desse processo pode deixar agentes com acesso superior ao necessário para cumprir suas funções. A gestão das permissões, portanto, deve integrar a implantação da tecnologia desde o primeiro momento, e não ser adicionada somente após a ocorrência de um incidente.
O post Agentes de IA devem passar por “onboarding”, alerta KPMG apareceu primeiro em TeleSíntese.
