Ferramentas alimentadas por IA podem criar imagens realistas de pessoas que não existem.
Vamos ver se você consegue identificar quais dessas fotos são de pessoas reais e quais são geradas por IA.
Desde o lançamento público de ferramentas como Dall-E e Midjourney nos últimos dois anos, imagens geradas por IA geraram confusão sobre… Últimas notíciasTendências da moda e Taylor Swift.
A distinção entre um rosto real e um rosto gerado por IA revelou-se particularmente confusa.
Pesquisas publicadas em vários estudos descobriram que os rostos de pessoas brancas gerados por sistemas de IA eram percebidos como mais realistas do que fotos reais de pessoas brancas, um fenômeno chamado hiperrealismo.
Os pesquisadores acreditam que as ferramentas de IA são excelentes na produção de rostos altamente realistas porque foram treinadas em dezenas de milhares de imagens de pessoas reais. Esses conjuntos de dados de treinamento continham imagens principalmente de pessoas brancas, resultando em rostos brancos muito realistas. (A dependência excessiva de imagens de pessoas brancas para treinar IA é um problema conhecido na indústria de tecnologia.)
Os pesquisadores descobriram que a confusão dos participantes era menos pronunciada entre os rostos não brancos.
Os participantes também foram solicitados a indicar o quão seguros estavam sobre suas escolhas, e os pesquisadores descobriram que uma maior confiança estava associada a uma maior probabilidade de erro.
“Ficamos muito surpresos ao ver o nível de excesso de confiança que estava ocorrendo”, disse a Dra. Amy Doyle, professora associada da Universidade Nacional Australiana, autora de dois dos estudos.
“Refere-se às formas de pensar que nos tornam mais vulneráveis online e mais suscetíveis à desinformação”, acrescentou.
A ideia de que rostos gerados por IA possam ser considerados mais realistas do que pessoas reais surpreendeu especialistas como o Dr. Dowell, que temem que a falsificação digital possa ajudar a espalhar mensagens falsas e enganosas online.
Os sistemas de IA têm sido capazes de produzir rostos realistas há anos, embora houvesse sinais de que as imagens não eram reais. Os sistemas de IA têm lutado para criar ouvidos que se pareçam com imagens espelhadas uns dos outros, por exemplo, ou olhos que olham na mesma direção.
Mas à medida que os sistemas melhoraram, as ferramentas tornaram-se melhores na criação de rostos.
Os rostos hiper-realistas usados nos estudos tendiam a ser menos distintivos e aproximavam-se das proporções médias, tão próximas que não conseguiam levantar suspeitas entre os participantes, disseram os investigadores. Quando os participantes olhavam fotos reais de pessoas, pareciam concentrar-se em características que se desviavam das proporções médias – como uma orelha deformada ou um nariz maior do que a média – vendo isso como um sinal de envolvimento da IA.
As imagens do estudo vieram de Stylegan2um modelo de imagem treinado em um repositório público de fotografias contendo 69% de rostos brancos.
Os participantes do estudo disseram que confiaram em certas características para tomar suas decisões, incluindo a proporcionalidade dos rostos, a aparência da pele, rugas e características faciais como os olhos.
“Desbravador de viagens dedicado. Estudioso de cerveja freelance. Analista apaixonado. Fanático hardcore do twitter.”
More Stories
O príncipe Harry foi forçado a ficar no hotel durante uma viagem ao Reino Unido na próxima semana porque a realeza está “muito ocupada” para conhecê-lo
Relatórios dizem que a ABC News está demitindo o meteorologista Rob Marciano por “questões de controle da raiva”.
A esposa de Jelly Roll, Bonnie XO, responde aos odiadores após declaração da diretoria