Deep Fake Detection – desafio Microsoft e Facebook

Uma pesquisa do Gartner Group feita em 2017 que procurava identificar as tendências do cenário digital até 2022 apontou duas previsões preocupantes.

A primeira delas é que até 2022 a maioria das pessoas consumirá mais notícias falsas, as fake news, do que verdadeiras; a outra é que os softwares de criação de “realidade falsa” irão superar os mecanismos utilizados para detectá-la.

Tais previsões têm se mostrado verdadeiras pois estão cada vez mais realistas os conteúdos digitais de imagens, sons, vídeos, ou documentos, que representam fatos que nunca ocorreram ou coisas que jamais existiram.

Recentemente têm se multiplicado no YouTube os deep fake, que são vídeos, na sua maioria humorísticos, que colocam personalidades brasileiras e estrangeiras em situações inusitadas com o intuito de fazer rir.

Entretanto, as risadas são substituídas por grande preocupação ao se refletir a respeito das potencialidades nocivas deste tipo de recurso quando usado com intenção de prejudicar e destruir reputações.

Atualmente os deep fakes podem facilmente ser identificados por operadores humanos ou por softwares que façam uso da IA (inteligência artificial) os quais analisam as marcações e sinais deixados pelos programas utilizados para criar os deep fakes.

Contudo, o que o estudo do Gartner aponta, é que a IA usada para criação dos conteúdos falsos, já em 2022, irá superar aquela usada para identificá-los.

Uma das consequências disto será o aumento da desconfiança digital devido a um cenário de insegurança em relação a veracidade do conteúdo que se consome pelas redes.

O site WhoisHostingThis conduziu a pesquisa intitulada Dodging Deception & Seeking Truth Online (algo como Desviando do Engano e Buscando a Verdado on-line) na qual são exibidos dados que demonstram a crescente falta de confiança nas informações disseminadas, seja por internet, redes sociais e até pela mídia convencional.

Este cenário de falta de confiança, principalmente on-line, fez com que algumas grandes empresas como Microsoft e Facebook criassem o Deepfake Detection Challenge (desafio para detecção de deepfakes), uma espécie de concurso para premiar as melhores técnicas de detecção de imagens e vídeos falsificados.

A iniciativa, da qual fazem parte pesquisadores de várias universidades e também a Partneship on AI, integrada por grandes como Amazon e Apple, tem como objetivo:

Incentivar a indústria a desenvolver novas formas de detectar e prevenir que as mídias manipuladas por técnicas de IA sejam utilizadas para enganar as pessoas”.

As palavras acima foram postadas em um blog por Mike Schroepfer, CTO do Facebook, empresa que contribuirá com 10 Milhões de dólares para esta causa.

O desafio de detecção de deep fakes terá início em outubro de 2019 e se estenderá até março de 2020.

Mais informações no site do evento: https://deepfakedetectionchallenge.ai/

Referências:

10 tendências que nortearão o cenário digital até 2022, segundo o Gartner

Facebook, Microsoft, and Partners Announce Deepfake Detection Challenge

Dodging Deception & Seeking Truth Online