Embora 95% das organizações afirmem possuir uma estratégia de inteligência artificial, somente 8% conseguem medir o retorno obtido com a tecnologia. Os percentuais foram apresentados por Ricardo Moraes, sócio líder da prática de Cyber Security da KPMG no Brasil, durante o evento Segurança Digital e Serviços Gerenciados, promovido pelo Tele.Síntese nesta terça-feira, 11.
Outro dado exibido durante o keynote indica que 64% das empresas ainda estão nos estágios iniciais de adoção da IA. Segundo Moraes, segurança e privacidade estão entre os principais obstáculos para ampliar o uso corporativo da tecnologia e transformar os investimentos em resultados mensuráveis.
“A gente precisa ter governança sobre IA. Acho que essa é a principal palavra aqui”, afirmou. Para o executivo, as empresas devem identificar quais aplicações estão sendo utilizadas, quais informações são consultadas e quais permissões foram concedidas aos sistemas.
Moraes também apresentou a metodologia Trusted AI, da KPMG, que reúne práticas destinadas a orientar o desenvolvimento e a utilização de sistemas de IA. Segundo ele, trata-se de uma metodologia de governança, e não de uma ferramenta instalada no ambiente tecnológico das organizações.
Agentes ampliam identidades não humanas
A adoção dos agentes de IA acrescenta uma nova camada aos controles de identidade e acesso. Esses sistemas podem consultar plataformas corporativas, acessar informações e executar tarefas, mas nem sempre são submetidos aos mesmos mecanismos de autorização e monitoramento aplicados aos usuários humanos.
De acordo com os dados, 61% das organizações não se sentem confortáveis com os acessos concedidos a agentes de IA. “Vocês sabem quem está usando esses agentes? Vocês sabem o que esses agentes estão acessando?”, questionou Moraes.
O executivo classificou os agentes como identidades não humanas. Na avaliação dele, as empresas precisam manter um inventário desses sistemas, definir níveis de acesso e acompanhar as ações executadas. Os controles devem considerar tanto o agente quanto as credenciais, aplicações e bases de dados às quais ele tem acesso.
Prompt injection expõe risco aos dados
Moraes fez uma demonstração de prompt injection, técnica pela qual uma instrução maliciosa pode induzir um sistema de IA a desconsiderar restrições ou revelar informações acessíveis ao modelo. O exemplo mostrou como o risco pode surgir a partir dos comandos e conteúdos processados pela própria aplicação.
A demonstração reforçou, segundo o executivo, a necessidade de controlar os dados consultados pelos modelos e as respostas fornecidas aos usuários. A proteção também deve alcançar os equipamentos utilizados para acessar os sistemas de IA.
Entre os mecanismos citados estão as plataformas de gerenciamento de dispositivos móveis, conhecidas pela sigla MDM, que permitem administrar equipamentos corporativos e aplicar políticas de segurança. Para Moraes, a expansão da IA exige uma atuação coordenada sobre governança, identidades, acessos, dados e dispositivos.
O post Só 8% das empresas medem retorno da IA, diz KPMG apareceu primeiro em TeleSíntese.
