Viés de dados em IA afeta 57% das organizações do País

Estudo divulgado pela Progress indica que, no mundo, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão atualmente tratando disso e têm um processo de avaliação contínuo. No Brasil, 57% das organizações afirmam sofrer com o enviesamento de dados, 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões, e 75% confirmam que precisam fazer mais para lidar com esse problema.

A pesquisa global “Data Bias: The Hidden Risk of AI” (“Enviesamento de dados: o risco escondido da IA”, em português) foi conduzida pela empresa de pesquisa independente Insight Avenue e se baseia em entrevistas com mais de 640 profissionais de negócios e TI em todo o mundo, em cargos de direção e acima, que usam dados para tomar decisões e que usam ou planejam usar inteligência artificial (IA) e aprendizado de máquina (ML ou machine learning, em inglês) para apoiar suas tomadas de decisão. O relatório completo e as conclusões podem ser encontrados aqui.

Os vieses da dados (ou data bias, em inglês) muitas vezes são herdados por experiências culturais e pessoais daqueles que constroem os modelos de inteligência artificial e de machine learning, produzindo resultados inesperados e potencialmente prejudiciais às pessoas e organizações. No entanto, apesar do risco de armadilhas legais e financeiras, há uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz.

Quando questionados sobre os benefícios de tomar medidas para evitar enviesamento de dados, os destaques apontados por líderes de negócios e TI brasileiros são:

? 96% deles acreditam em um potencial aumento das oportunidades de mercado;
? 92% dizem que isso trará mais atratividade para o cliente e uma tomada de decisão mais eficaz;
? 90% pensam que isso ajudará a melhorar a diversidade e a inclusão.

Entre os principais riscos de não abordar adequadamente o viés de dados:
? 61% dos executivos brasileiros citam possíveis danos à reputação e credibilidade;
? 57% deles estão preocupados com problemas de segurança e governança.

Além disso, entre as maiores barreiras apontadas por eles:

? 47% dos executivos enfrentam uma falta de ferramentas para identificar e mitigar o fenômeno;
? 45% sentem que não têm a compreensão sobre a melhor maneira de evitar o viés de dados;
? 43% mencionam a falta de conscientização de possíveis enviesamentos.

Os resultados da pesquisa também mostram que:

? 80% dos líderes brasileiros acreditam que a ética em torno da automação de decisões se tornará mais importante e urgente nos próximos dois anos;
? 78% das organizações no Brasil preveem tornar-se mais dependentes de IA/ML para a tomada de decisão nos próximos anos;
? 71% das empresas brasileiras estão trabalhando para garantir a integridade dos conjuntos de dados a fim de evitar e resolver problemas com o enviesamento de dados.

“Os dados do estudo são convincentes: há uma preocupação crescente e muito a ser feito em relação ao enviesamento de dados no Brasil. As informações deixam claro como este fenômeno pode afetar negativamente as operações comerciais e a tomada de decisões em todos os setores”, comenta Francisco Larez, vice-presidente da Progress para América Latina e Caribe. “À medida que identificamos novas capacidades de inteligência artificial e machine learning, queremos apoiar nossos clientes para garantir que eles tenham as informações corretas para tomar as melhores decisões. Nesse sentido, este levantamento da Progress é revelador”, completa.

Tags

Compartilhe

celulares-5g-custarao-r$-500,-diz-claro-na-tim,-e-hora-de-upsell.
Celulares 5G custarão R$ 500, diz Claro. Na TIM, é hora de upsell.
anatel-avalia-fazer-leiloes-de-espectro-em-2025,-2027-e-2029
Anatel avalia fazer leilões de espectro em 2025, 2027 e 2029
bets-ja-concorrem-com-telecom,-avaliam-operadoras
Bets já concorrem com telecom, avaliam operadoras
camara-aprova-projeto-que-amplia-incentivos-a-semicondutores,-paineis-fotovoltaicos-e-celulares
Câmara aprova projeto que amplia incentivos a semicondutores, painéis fotovoltaicos e celulares
cada-real-perdido-em-fraudes-custa-as-empresas-r$-3,59,-aponta-estudo 
Cada real perdido em fraudes custa às empresas R$ 3,59, aponta estudo 
vivo-cria-ia-generativa-para-assistente-do-atendente-de-call-center
Vivo cria IA Generativa para assistente do atendente de call center
ministro-chefe-do-gsi-estima-em-mais-de-r$-1-trilhao-prejuizo-do-pais-com-crimes-ciberneticos.
Ministro-chefe do GSI estima em mais de R$ 1 trilhão prejuízo do país com crimes cibernéticos.
extratos-bancarios-serao-padronizados-pelos-bancos-a-partir-de-8-de-julho
Extratos bancários serão padronizados pelos bancos a partir de 8 de julho
malware-contra-android-faz-espionagem-e-operacoes-de-ransomware
Malware contra Android faz espionagem e operações de ransomware
universidade-de-marilia-vai-construir-polo-tecnologico-especializado-em-ia
Universidade de Marília vai construir polo tecnológico especializado em IA