O que a inteligência artificial (IA) do Google interpreta quando você armazena imagens no serviço de fotos da empresa? Um engenheiro de software que já trabalhou na gigante das buscas aproveitou os conhecimentos na área para criar uma campanha de conscientização que mostra exatamente isso.

O resultado é o site They see your photos (Eles veem as suas fotos, em tradução literal para português), uma página de proposta bastante simples. Nela, você envia uma foto para o sistema ou escolhe uma das amostras e aguarda o resultado.

O que o serviço faz é armazenar a imagem no serviço de armazenamento em nuvem do Google e usar a API Google Vision para gerar uma descrição em texto do conteúdo.

A plataforma cria três parágrafos que abordam o cenário, a iluminação, o enquadramento e até detalhes aspectos como roupas, expressão do rosto e o clima da foto.

Mas qual é o problema?

O criador da They see your photos é o engenheiro Vishnu Mohandas, que largou o cargo na divisão do Google Assistente após discordar de parcerias feitas pela empresa com órgãos militares nos Estados Unidos. A partir daí, Mohandas abriu a própria companhia focada em armazenamento de fotos com privacidade e segurança.

Segundo ele, o Google Vision mostra como uma IA interpreta certos elementos de uma foto de forma subjetiva e, às vezes, com algum viés problemático. Uma das imagens da sua família enviada ao serviço fez com que o serviço notasse que o relógio usado pela esposa, um Casio F-91W, fosse “normalmente associado com terroristas islâmicos”.

O susto pela associação fez com que ele criasse o site, com o objetivo de conscientizar o público de que as fotos guardadas no serviço são “lidas” e interpretadas das mais variadas formas pela empresa. Além disso, a ideia é mostrar também o quanto uma empresa de IA pode aprender sobre você a partir de um único arquivo.

• Saiba mais: ‘É uma obsessão’: Ex-CEO do Google alerta que meninos estão trocando mulheres por namoradas de IA

A empresa de Mohandas, chamada Ente, vende um serviço de armazenamento de imagens com privacidade e criptografia. Ele até acusou o Google de dificultar a presença do app da startup na Play Store do Android, com a marca alegando que ela não se encaixa em algumas das regras da plataforma.

O que diz o Google?

Um porta-voz da companhia contatado pela Wired se recusou a comentar sobre o assunto, mas indicou uma consulta ao site de suporte do Google Fotos.

Lá, consta que o serviço só é usado para treinar modelos de IA que ajudam no gerenciamento de álbuns e bibliotecas, sem comercializar esse conteúdo com terceiros ou usá-lo para publicidade. O acesso às imagens e a geração da descrição não podem ser impedidos pelo usuário, de acordo com os termos de serviço e pela ausência de uma criptografia de ponta a ponta nos dados trocados.