A OpenAI, criadora do ChatGPT, está prestes a lançar novas funcionalidades de busca e voz, mas também possui uma ferramenta que supostamente é muito eficaz para identificar artigos falsos gerados por IA que circulam na internet. A empresa está com essa ferramenta há quase dois anos, e tudo o que precisaria fazer é ativá-la. Mesmo assim, a empresa liderada por Sam Altman ainda está avaliando se deve ou não lançá-la, pois isso pode desagradar seus maiores fãs.
- Siga o tecflow no Google News!
- Participe dos nossos canais no Twitter,Telegram ou Whatsapp!
- Confira nossos stories no Instagram e veja notícias como essa!
- Siga o tecflow no Google Podcast e Spotify Podcast para ouvir nosso conteúdo!
- Anuncie conosco aqui ou apoie o tecflow clicando neste link.
Não se trata daquele algoritmo de detecção de IA desativado que a empresa lançou em 2023, mas de algo muito mais preciso. A OpenAI está hesitante em lançar essa ferramenta de detecção de IA, de acordo com um relatório do Wall Street Journal de domingo, baseado em algumas fontes anônimas dentro da empresa. O programa é, efetivamente, um sistema de marca d’água de IA que imprime no texto gerado por IA certos padrões que sua ferramenta pode detectar. Como outros detectores de IA, o sistema da OpenAI daria uma pontuação a um documento com base na probabilidade de ter sido criado com o ChatGPT.
O suposto programa é, segundo documentos internos, 99,9% eficaz, de acordo com o WSJ. Isso seria muito melhor do que a eficácia declarada de outros softwares de detecção de IA desenvolvidos nos últimos dois anos. Isso provavelmente ocorre porque a OpenAI tem acesso ao seu próprio “molho secreto”. Proponentes internos do programa afirmam que ele ajudaria muito os professores a descobrir quando seus alunos entregaram tarefas geradas por IA.
A empresa supostamente manteve esse programa em segredo por anos devido a preocupações de que quase um terço de sua base de usuários não gostariam dele. A Gizmodo entrou em contato com a OpenAI para comentar, mas não obteve resposta imediata. A empresa disse ao WSJ que a tecnologia possui “riscos importantes que estamos pesando enquanto pesquisamos alternativas”.
Outro problema para a OpenAI é a preocupação de que, se lançar a ferramenta amplamente, alguém possa decifrar a técnica de marca d’água da empresa. Há também a questão de que ela pode ser tendenciosa contra falantes não nativos de inglês.
O Google também desenvolveu técnicas semelhantes de marca d’água para imagens e textos gerados por IA, chamadas SynthID. Esse programa não está disponível para a maioria dos consumidores, mas, pelo menos, a empresa é aberta sobre sua existência.
À medida que as grandes empresas de tecnologia desenvolvem novas formas de gerar texto e imagens por IA na internet, as ferramentas para detectar falsificações não são tão capazes. Professores e acadêmicos estão especialmente pressionados para descobrir se seus alunos estão entregando trabalhos escritos pelo ChatGPT. As ferramentas de detecção de IA atuais, como o Turnitin, têm uma taxa de falha de até 15%. A empresa diz que faz isso para evitar falsos positivos.
Fonte: Gizmodo
Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.
Leandro Lima
Graduado em tecnologia e design gráfico, sou apaixonado pela fotografia e inovações tecnológicas. Atualmente escrevo para o Tecflow.
