Estudo divulgado pela Progress indica que, no mundo, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão atualmente tratando disso e têm um processo de avaliação contínuo. No Brasil, 57% das organizações afirmam sofrer com o enviesamento de dados, 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões, e 75% confirmam que precisam fazer mais para lidar com esse problema.
A pesquisa global “Data Bias: The Hidden Risk of AI” (“Enviesamento de dados: o risco escondido da IA”, em português) foi conduzida pela empresa de pesquisa independente Insight Avenue e se baseia em entrevistas com mais de 640 profissionais de negócios e TI em todo o mundo, em cargos de direção e acima, que usam dados para tomar decisões e que usam ou planejam usar inteligência artificial (IA) e aprendizado de máquina (ML ou machine learning, em inglês) para apoiar suas tomadas de decisão. O relatório completo e as conclusões podem ser encontrados aqui.
Os vieses da dados (ou data bias, em inglês) muitas vezes são herdados por experiências culturais e pessoais daqueles que constroem os modelos de inteligência artificial e de machine learning, produzindo resultados inesperados e potencialmente prejudiciais às pessoas e organizações. No entanto, apesar do risco de armadilhas legais e financeiras, há uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz.
Quando questionados sobre os benefícios de tomar medidas para evitar enviesamento de dados, os destaques apontados por líderes de negócios e TI brasileiros são:
? 96% deles acreditam em um potencial aumento das oportunidades de mercado;
? 92% dizem que isso trará mais atratividade para o cliente e uma tomada de decisão mais eficaz;
? 90% pensam que isso ajudará a melhorar a diversidade e a inclusão.
Entre os principais riscos de não abordar adequadamente o viés de dados:
? 61% dos executivos brasileiros citam possíveis danos à reputação e credibilidade;
? 57% deles estão preocupados com problemas de segurança e governança.
Além disso, entre as maiores barreiras apontadas por eles:
? 47% dos executivos enfrentam uma falta de ferramentas para identificar e mitigar o fenômeno;
? 45% sentem que não têm a compreensão sobre a melhor maneira de evitar o viés de dados;
? 43% mencionam a falta de conscientização de possíveis enviesamentos.
Os resultados da pesquisa também mostram que:
? 80% dos líderes brasileiros acreditam que a ética em torno da automação de decisões se tornará mais importante e urgente nos próximos dois anos;
? 78% das organizações no Brasil preveem tornar-se mais dependentes de IA/ML para a tomada de decisão nos próximos anos;
? 71% das empresas brasileiras estão trabalhando para garantir a integridade dos conjuntos de dados a fim de evitar e resolver problemas com o enviesamento de dados.
“Os dados do estudo são convincentes: há uma preocupação crescente e muito a ser feito em relação ao enviesamento de dados no Brasil. As informações deixam claro como este fenômeno pode afetar negativamente as operações comerciais e a tomada de decisões em todos os setores”, comenta Francisco Larez, vice-presidente da Progress para América Latina e Caribe. “À medida que identificamos novas capacidades de inteligência artificial e machine learning, queremos apoiar nossos clientes para garantir que eles tenham as informações corretas para tomar as melhores decisões. Nesse sentido, este levantamento da Progress é revelador”, completa.
