Uma pesquisa recente realizada por uma empresa de verificação de identidade descobriu que a capacidade dos americanos de distinguir imagens reais de deepfakes gerados por IA era tão precisa quanto jogar uma moeda ao ar.
A investigadora de consumo da CBS LA, Kristine Lazar, colocou essa descoberta à prova e acertou apenas três em 12 em um teste de detecção de IA antes de aprender o que procurar.
“Sou investigador do consumidor há quase uma década, mas tirei F quando tentei identificar imagens e vídeos feitos com IA”, disse Lazar.
Veriff, uma ferramenta de verificação de identidade online, criou um questionário com imagens e vídeos lado a lado para testar a capacidade do Lazar de identificar conteúdo autêntico e gerado por IA. Embora inicialmente ela se sentisse confiante em suas escolhas, ela rapidamente descobriu que muitas de suas suposições estavam erradas.
“Achei que ele era o mais falso do mundo”, disse Lazar depois de saber que uma das pessoas que ela acreditava ter sido gerada por IA era na verdade real.
No geral, Lazar identificou corretamente apenas três das 12 imagens e vídeos, uma taxa de precisão de 33%.
Raul Liive, diretor de produtos da Veriff, disse que esses resultados são consistentes com o que a empresa descobriu ao testar o público.
“Estamos vendo que especialmente as pessoas na América estão perto de, essencialmente, ser um cara ou coroa, que não podemos realmente fazer a diferença – é uma fotografia falsa ou real”, disse Liive.
Quando questionado se as pessoas estão adivinhando, Liive respondeu: “É uma espécie de palpite para você e para mim”.
Liive disse que os sinais reveladores nos quais as pessoas confiavam, como dedos distorcidos, olhos não naturais ou outras falhas visuais óbvias, desapareceram em grande parte à medida que a tecnologia de IA melhorou.
“A IA melhorou muito nos últimos anos”, disse Liive. “Costumava ser bem simples porque, como você disse, faltavam dedos ou olhos estranhos, mas agora a qualidade é muito boa.”
Em vez disso, ele recomenda examinar atentamente as características faciais em busca de inconsistências sutis, mudanças incomuns de textura e padrões não naturais. Os vídeos podem ser ainda mais difíceis devido ao movimento contínuo, mas os espectadores podem notar piscadas limitadas, velocidades de movimento inconsistentes ou padrões de roupas que se misturam de maneira não natural ao fundo.
Depois de receber orientação de Liive, Lazar refez o teste e melhorou sua pontuação de três respostas corretas para oito em 12. Olhando com mais atenção, ela percebeu pistas sutis, incluindo brincos incompatíveis em um assunto.
“O brinco dela é um pouco maior de um lado do que do outro”, disse Lazar. “Os brincos dela não são iguais.”
Liive disse que mesmo os especialistas que trabalham com IA todos os dias não conseguem identificar corretamente todas as imagens falsas sem ferramentas adicionais.
“Não, não consigo acertar 100% nesse teste”, disse ele.
A experiência ressaltou como se tornou difícil confiar apenas em pistas visuais.
“A principal lição para mim: ver não é mais acreditar”, disse Lazar.
Os especialistas recomendam o uso de ferramentas de detecção baseadas em IA ou aplicativos de verificação especializados para ajudar a determinar se uma imagem ou vídeo é autêntico, em vez de confiar apenas no que aparece na tela.
Experimente o teste e veja quantas imagens de IA você consegue identificar.