Novamente, o mau uso da inteligência artificial coloca as mulheres em risco na internet: segundo matéria da Vice, uma nova ferramenta de deepfake é capaz de criar, com graus variados de realismo, um “falso nude” de qualquer mulher, usando como base apenas uma imagem da vítima vestida.

O software se chama DeepNude e vem sendo distribuído online e para usuários do Windows e do Linux em duas versões: uma gratuita e uma premium, no valor de US$ 99. Em ambas as versões, as imagens geradas trazem marcas d’água que identificam as criações como falsas, mas testes realizados pela Motherboard, a editoria de tecnologia da Vice, indicam que as marcas em si são bem fáceis de serem removidas.

A qualidade do material produzido pela aplicação, como na maioria dos casos de uso de deepfakes na pornografia, é variável: não é lá muito preciso e, no que tange ao fotorrealismo, há como questionar sua autenticidade. Entretanto, também não é ruim a ponto de ser dispensada por usuários mais desavisados. Em outras palavras, é fácil divulgar uma imagem gerada pelo app e fazê-la ser confundida como algo verdadeiro.

A vantagem, se é que há alguma em casos assim, é que alguns detalhes denunciam a falsificação: o material adicionado pela ferramenta em si tem aspecto pixelizado e embaçado, e a ferramenta funciona melhor apenas em imagens de alta resolução onde a pessoa na foto já esteja vestindo trajes reveladores, como lingeries e roupas curtas. A grosso modo, fotos comuns podem ser usadas também, mas os resultados provavelmente serão visualmente inferiores. Imagens em baixa resolução, cujo arquivo original já tem qualidade visual menor, porém, podem ser passadas por nudes reais, já que a granulação da ferramenta poderia ser atribuída à má qualidade da foto em si.

Esse é mais um caso que promete manter aquecido o debate social em torno dos deepfakes: há diversos casos em que a ferramenta teve ótimos usos, como um museu nos EUA que “ressuscitou” o pintor surrealista Salvador Dalí para que ele conduzisse turnês por suas obras aos visitantes.

Entretanto, o elemento constante da ferramenta é o seu uso direcionado ao público feminino. Os deepfakes tornaram-se conhecidos justamente da forma como se espera: usuários mais técnicos do Reddit usaram pesquisas acadêmicas como base para criar uma ferramenta que fazia a sobreposição de rostos de celebridades de Hollywood em filmes pornô.

Isso indica um uso direcionado, que pode trazer problemas à vida de algumas pessoas: há, hoje, fóruns dedicados onde usuários podem pedir que especialistas criem imagens e vídeos de mulheres aleatórias ou suas próprias conhecidas e, isso, uma vez compartilhado online, pode trazer impactos severos. Ferramentas como o DeepNude, porém, pioram esse tipo de problema, já que a premissa do app é facilitar a criação das imagens falsas. Bastam alguns cliques e o upload de uma imagem qualquer, e o usuário tem o resultado desejado.

Fonte: Vice

canaltech.com.br