Como detectar Deepfakes e notícias falsas: dicas e recursos

Como detectar Deepfakes e notícias falsas: dicas e recursos

O que é um deepfake? Em essência, é um vídeo alterado usando a IA mais recente, mostrando alguém dizendo ou fazendo algo que eles Nunca disse ou fez. A qualidade é variada, mas os melhores deepfakes são praticamente indistinguíveis hoje em dia, apresentando ameaças potenciais à nossa democracia e à confiança que temos nas instituições de mídia de todo o mundo. Aqui estão algumas dicas sobre como detectar deepfakes e notícias falsas.

Vamos começar com um cenário rápido que descreve os hábitos de milhões de americanos – se não milhões em todo o mundo. Você está no horário do almoço, percorrendo seu feed do Facebook ou Twitter sem pensar, informando as notícias do dia. De repente, você encontra um vídeo compartilhado por um amigo ou conhecido. Possivelmente até alguém que você não conhece.

A manchete é inacreditável. Você assiste o vídeo duas vezes. Parece 100% real e passa em todos os testes sensoriais imagináveis. O conteúdo em si? Ele mostra alguém dizendo algo ultrajante, politicamente prejudicial ou pego em um momento quente do microfone. É bom demais para deixar passar e cair, para que você possa ser um dos primeiros a compartilhá-lo. Ouro de mídia social.

Você esperaria, mas não terá tempo para verificar a fonte original do conteúdo e, porque reforça as noções em que já acredita, decide não fazer uma verificação honesta, porque seus olhos e ouvidos não mentem – e ei, você ter uma reunião de equipe em 10 minutos. Você compartilha – porque por que não – ouvir a descrença surgir, um comentário de cada vez.

Milhares de outras pessoas fizeram isso ao mesmo tempo – divulgando o vídeo para centenas, milhares, senão milhões de pessoas ao mesmo tempo. Em minutos. Por impulso.

A única coisa é: o vídeo é falso. Falso. Uma fraude. Mas ninguém sabe ainda porque a qualidade é excelente – ela passou por todos os B.S. detectores e senso comum coletivo. Mas agora, em vez de ser um amigo que conheceu todo mundo com essa história inacreditável, você se tornou essencialmente o macaco 'Outbreak'. Edição digital.

Obviamente, você o reduz depois de descobrir que é falso (se esse fato é verificável), mas já gerou toneladas de envolvimento e deixou uma marca indelével em todos aqueles que consomem, comentam e compartilham o vídeo antes que o descrédito aconteça. . E quem sabe, eles podem nem descobrir que isso é desacreditado … Dano causado.

Nesse cenário hipotético – que infelizmente acontece o tempo todo – todos soltamos um suspiro coletivo.

Bem-vindo à era dos deepfakes. Porque é aqui que estamos. Como cultura, sociedade, raça humana.

Os Deepfakes não são mais apenas um jogo para trapaceiros técnicos especializados no uso do Adobe Photoshop ou After Effects. A tecnologia ficou mais fácil de usar, mais acessível e automatizada na medida em que os algoritmos fazem muito trabalho para você. Ultimamente, o medo aumentou em relação à sua capacidade de fazer tudo, desde enfraquecer a democracia até gerar dúvidas antes das eleições.

Curioso o quão real eles ficaram? Confira essas pessoas que realmente não existem. Cada face é uma farsa total, gerada usando o tipo de IA empregada para renderizar deepfakes: redes adversárias generativas (GANs).

Então, como evitar deepfakes, falsificações baratas (as contrapartes menos sofisticadas das deepfakes) e a disseminação de notícias falsas em uma época em que ver não é necessariamente acreditar? Especialmente quando gigantes da mídia social, Twitter, Facebook e Instagram, de propriedade do Facebook, são agora começando a endereçar esses problemas não tão falsos?

É verdade que uma ótima maneira de impedir a disseminação de informações erradas é através da educação, restrição e uma enorme conscientização sobre o que essa ameaça implica. Mas isso por si só pode não ser suficiente diante de maus atores.

Recentemente, o Facebook afirmou que proibirá os deepfakes, mas não os baratos, como o vídeo divulgado no ano passado pela presidente da Câmara, Nancy Pelosi, que obteve milhões de visualizações em 48 horas.

Como impedir que deepfakes se espalhem

Assim como não dirigir embriagado ou apontar uma arma carregada, há coisas que podemos fazer para minimizar os danos e evitar conseqüências não intencionais. Dicas acionáveis ​​que podem ajudar a impedir a disseminação de conteúdo falsificado, desinformação ou notícias falsas na era pós-verdade.

Então, vamos entrar nisso.

    1. Faça uma verificação rápida para avaliar a probabilidade de um vídeo ser real.
    2. Não compartilhe, a menos que você esteja 100% certo de sua autenticidade.
    3. Se você ainda não tiver certeza, verifique os recursos on-line projetados para evitar a disseminação de informações erradas (as quais entraremos abaixo).

Como detectar deepfakes

Como detectar deepfakes

Quando se trata de deepfakes para uso puramente como entretenimento, sua existência é impressionante, divertida e mostra como seus poderes podem ser usados ​​para o bem. Os inofensivos produzem uma gargalhada por sua criatividade, mesmo que possuam desconexões lógicas, dublagem ruim e pessoas de olhos arregalados que mal conseguem piscar.

Infelizmente, estamos muito além disso.

Os melhores agora têm edições que são praticamente imperceptíveis … com o potencial de enganar a todos. Se você quiser saber até que ponto a tecnologia chegou, não procure mais, este exemplo do YouTuber Ctrl Shift Face é revelador.

Nele, vemos o ator / comediante Bill Hader em Late The Late Show com David Lettermanfazendo impressões de Tom Cruise e Seth Rogen. Quando ele faz suas vozes, você vê o rosto de Hader se transformar perfeitamente em cada um dos respectivos atores dos quais ele está impressionando. A sutileza é bastante assustadora.

Se o uso mais comum dos deepfakes fosse da variedade inofensiva, isso seria uma coisa. Mas isso não. Neste momento, 96% dos deepfakes na Web estão sendo usados ​​para “pornografia não consensual”, de acordo com um estudo recente da Deeptrace lançado em julho de 2019, que mostra onde a maior parte da energia foi paga até o momento.

E notícia: o fenômeno está apenas começando.

Em seu estudo, o Deeptrace encontrou 14.678 vídeos deepfake on-line – um aumento de 75% em relação ao ano anterior. Isso indica um ponto de inflexão em relação ao que poderia ser seguido – um ponto destacado nesta matéria do New York Times, que elabora as recentes descobertas que explicam por que cada vez mais estão aparecendo no YouTube e nas mídias sociais.

Agora, as tecnologias de inteligência artificial estão simplificando o processo, reduzindo o custo, o tempo e a habilidade necessários para medicar imagens digitais. Estes A.I. os sistemas aprendem por conta própria como criar imagens falsas analisando milhares de imagens reais. Isso significa que eles podem lidar com uma parte da carga de trabalho que antes coube a técnicos treinados. E isso significa que as pessoas podem criar muito mais coisas falsas do que costumavam. – New York Times, “Empresas de Internet se preparam para combater o futuro do 'Deepfake'”

Dada essa prevalência recente, há uma necessidade cada vez maior de tecnologia de detecção para fazer determinações nesses vídeos – e rapidamente – antes que as pessoas as espalhem acidentalmente sem saber melhor.

A grande questão é: Como você percebe um fracasso profundo quando muitos dos principais especialistas da área reconhecidamente têm dificuldade em fazê-lo?

A solução: ferramentas de detecção deepfake

Com esses vídeos se tornando tão reais, existe um ônus para as pessoas perceberem a diferença, caso um conteúdo questionável caia. E vai. É por isso que empresas como a Deeptrace projetaram ferramentas de detecção de deepfake para identificar quando um vídeo foi alterado usando “tecnologia de detecção proprietária, aproveitando os últimos avanços em aprendizado profundo e análise forense de vídeo”.

Essencialmente, uma salvaguarda que poderia permitir que todos, de marcas confiáveis ​​e organizações de notícias, sinalizassem um vídeo como falso antes de divulgá-lo. Da mesma forma, também existe o Reality Defender 2020 da AI Foundation, que lançou o FacedForensics como “o primeiro conjunto de dados de detecção de deepfake em larga escala”. Ambas as ferramentas de detecção identificam deepfakes usando grandes conjuntos de dados.

Em uma matéria escrita para The Hill, o diretor da AI Foundation e o professor de ciência da computação Subbarao Kambhampati apresentaram suas idéias sobre como as ferramentas funcionam:

Para detectar vídeos falsos de pessoas, as técnicas atuais se concentram nas correlações entre movimentos labiais, padrões de fala e gestos do falante original. Uma vez detectada, a mídia falsa pode ser adicionada a alguns bancos de dados globais de falsificações conhecidas, ajudando na identificação mais rápida no futuro.

Recursos para ajudar as empresas a discernir se um vídeo é real ou falso

  • Deeptrace Labs: Oferece uma ferramenta abrangente de detecção de deepfake que “aproveita os últimos avanços em aprendizado profundo e análise forense de vídeo e elabora inteligência em torno da autenticidade do conteúdo visual”.
  • Reality Defender 2020 da Fundação AI: Oferece “uma página de envio somente para convidados”, na qual os vídeos podem ser inseridos para serem verificados e verificados, a fim de determinar “se o conteúdo é falso, manipulado ou original” antes de renderizar um relatório. (Disponível para jornalistas).

Mas como o músico Pink disse uma vez, e nós? Existe uma ferramenta de detecção convencional para as pessoas usarem no nível local? A resposta curta é: ainda não. Mas empresas como a Dessa, com sede no Canadá, estão trabalhando com aprendizado de máquina e IA do mundo real.

De acordo com o artigo do New York Times:

Dessa recentemente testou um detector deepfake que foi construído usando os vídeos sintéticos do Google. Ele pode identificar os vídeos do Google com precisão quase perfeita. Mas quando eles testaram seu detector em vídeos deepfake obtidos da Internet, eles falharam mais de 40% do tempo.

Ainda assim, há coisas que podemos fazer se um vídeo deepfake passar por eles – o que eles farão.

Por exemplo:

  • Há o botão de pausa humana, guiado pela restrição e bom senso enquanto um vídeo está sendo dissecado e debatido.
  • Também existem sites de verificação de fatos, como o site vencedor do Prêmio Pulitzer, Politifact.com, para verificar se o conteúdo do vídeo com o qual você se deparou foi considerado “Verdadeiro” ou “Falso” pelo Truth-o-Meter ™. Eles ainda cobrem as áreas cinzentas como “Half True” e “Mostly False” para mostrar que nem tudo no mundo da verdade e da ficção é preto e branco.

Somente o tempo dirá qual será o impacto dos deepfakes – e quão poderosas as ferramentas serão detectadas. “No momento, não temos maneiras automatizadas de detectar os deepfakes de maneira confiável e escalável”, diz Dawn Song, professor de ciências da computação da UC Berkeley, na peça de Chenxi Wang para a Forbes. “Será uma corrida armamentista entre aqueles que criam deepfakes e aqueles [who] procure detectá-los. “

Deseja se tornar um cidadão digital melhor na era pós-verdade de #deepfakes e #fakenews? Aqui está como. Clique para Tweet

Como identificar notícias falsas

Como identificar notícias falsas

Se você está acordado e está nos Estados Unidos desde 2016, a frase “notícias falsas” pode significar coisas diferentes para você, dependendo de quem você é e do que acredita. Mas, apesar de todas as nossas diferenças, uma coisa com a qual podemos concordar é que as notícias falsas e fictícias não deveriam ter uma plataforma na era pós-verdade.

Infelizmente, nos últimos quatro anos, muita atenção foi dada à existência de notícias falsas (especialmente nos meses que antecederam as eleições de 2016), mas houve um pouco menos atenção na maneira como impedimos que isso aconteça novamente.

A solução: verificar fontes e fatos

Desde a verificação de fontes até o uso de sites de verificação de fatos, como o FactCheck.org e o mencionado Politifact, para autenticar se as alegações de histórias são verdadeiras, existem muitas maneiras de confrontar notícias falsas e evitar sua disseminação.

Outro grande recurso para verificar se uma história é legítima está no Snopes, o maior detector de mentiras da Internet desde 1994. Lá, o mérito de uma história específica pode ser confirmado e verificado (se já não tiver sido).

Ainda não sabe como apagar o cotão? Considere o seguinte teste rápido antes de clicar no botão “compartilhar”.

3 dicas para identificar notícias falsas (* antes de compartilhar):

1. Considere a fonte.

Não me lembro quantas vezes vi histórias no meu feed do Facebook de meios de comunicação que soam legítimos – URLs que não passam no teste do olfato com suas extensões de ponto qualquer e cabeçalhos inventados às pressas. Ambas as bandeiras vermelhas.

Se você estiver em dúvida, explore o site para investigar o autor e a seção Sobre nós, por exemplo, para ler sobre credenciais jornalísticas, missão etc. Se algum deles cheirar ou parecer suspeito, pode ser falso. Capital F.

2. Fique à frente das manchetes.

Os títulos geralmente são sua primeira pista de que algo está errado. Quanto mais ultrajante ou insondável uma manchete é … maior a chance de isso não ser verdade. Antes de dar credibilidade, verifique se você pode confirmar a presença da história em outros lugares credíveis on-line.

As manchetes Clickbait-y tendem a ser um pouco inacreditáveis. De fato, as manchetes costumam ter toda a extensão do conteúdo, pois as histórias são falsas e têm o objetivo de causar uma impressão apenas em um feed de notícias. Se você suspeitar, clique para ver se uma história bem pesquisada apóia a manchete com relatórios substanciais, credenciamento legítimo de cotação ou até mesmo prova visual (não profunda) de que o que eles estão dizendo aconteceu, de fato … aconteceu. Provavelmente não.

3. Deixe os erros serem o seu guia.

As histórias fabricadas não passam pelo exame árduo que os meios de comunicação há muito estabelecidos passam porque … são falsas. Eles também tendem a ter relatórios espalhados por toda parte na forma de erros não característicos, erros gramaticais e movimentos amadores como ALL CAPS.

As instituições jornalísticas têm padrões rigorosos para o que passa antes da publicação de uma história, portanto, quanto mais erros você vê, maior a chance de a história toda ser apenas um grande erro.

Uma palavra rápida sobre fotos falsas e notícias enganosas …

As melhores fotos falsas enganaram milhões de cada vez. Alguns são relativamente divertidos como um piloto tirando uma selfie a 30.000 pés, outros têm ramificações políticas. Quando se trata de fotos, pergunte a si mesmo quem enviou a foto e procure inconsistências que possam indicar algum tipo de manipulação de foto, como inconsistências de iluminação, embaçamento não característico ou problemas lógicos.

Se houver uma foto que pareça particularmente incrédula, há coisas que você pode fazer para identificar falsificações. Isso inclui fazer uma pesquisa reversa de imagens no Google ou usar aplicativos como o Tineye para avaliar a legitimidade.

Aqui está outra realidade do que estamos enfrentando: o uso enganoso de imagens reais para contar histórias falsas.

Por exemplo, com a morte trágica do astro da NBA Kobe Bryant e outros oito, circulou um vídeo que alegava mostrar o acidente do helicóptero. Na realidade, a filmagem foi não do helicóptero de Bryant, mas de uma aeronave de cauda que caiu nos Emirados Árabes Unidos em 2018.

Mas o vídeo se espalhou como fogo, com apenas uma postagem no Twitter recebendo mais de 3,3 milhões de visualizações em apenas dois dias. Snopes desmascarou essa história falsa, citando a classificação como “Diversos”, o que significa que o vídeo foi emparelhado incorretamente. Para dissipar sua legitimidade, a AFP também conseguiu verificar esses detalhes para refutá-los usando uma pesquisa de imagens reversa.

Tudo dito, nunca é demais possuir um ceticismo saudável sobre a origem de uma história. Vendedores ambulantes de notícias falsas gostam de aproveitar as manchetes do dia para plantar sementes de dúvida enquanto espalham propaganda, pânico e medo. Não seja vítima. Não importa como você define o que seu O que é decisivo é usar seu cérebro antes de escolher o que compartilhar nunca é uma coisa ruim.

Recursos úteis para detectar o uso de notícias / imagens falsas:

As repercussões da criação de deepfakes

As repercussões da criação de deepfakes

Até que o mundo esteja bem versado e preparado para detectar falhas profundas de uma variedade maliciosa, maus atores persistirão na tentativa. Como resultado, há muitos senadores e congressistas tentando proibir os deepfakes para ajudar a evitar a ameaça.

Dito isto, nenhuma legislação federal foi aprovada (ainda) para impedir que as pessoas tentem criar deepfakes com orientação política. Mas houve um movimento recente no nível estadual e leis introduzidas no federal.

A solução: novas consequências

Na Califórnia, em outubro passado, o governador Gavin Newsom aprovou o AB-730 proibindo a criação de vídeos deepfake projetados para influenciar as eleições estaduais. Isso torna ilegal – dentro de 60 dias da eleição – qualquer pessoa distribuir “com malícia real meios de áudio ou visual materialmente enganosos do candidato com a intenção de prejudicar a reputação do candidato ou enganar um eleitor para votar a favor ou contra o candidato. “

No nível federal, no verão passado, um grupo bipartidário de senadores introduziu o The Deepfake Report Act de 2019 para visar e reduzir a ameaça por vídeo do deepfake. No ano anterior, foi lançada a Lei de Proibição Falsa Profunda Mal-Intencionada.

Mas se alguém se tornará lei antes das eleições de 2020 é uma incógnita. Os sonoros do Deepfake, como o professor da UC Berkeley e o especialista em forense digital, Hany Farid, também têm sido defensores vocais tentando desesperadamente conscientizar sobre a ameaça representada pelos deepfakes.

Uma das preocupações mais prementes de Farid, de acordo com este artigo do Washington Post, é a democratização das ferramentas necessárias para criar deepfakes. “Nós estamos desarmados”, adverte Farid. “O número de pessoas que trabalham no lado da síntese de vídeo, em oposição ao lado do detector, é de 100 a 1.”

É provavelmente por isso que a Agência de Projetos de Pesquisa Avançada em Defesa do Pentágono (DARPA) dedicou recursos para a SRI International, sem fins lucrativos, a desenvolver ferramentas de detecção de acordo com o Techcrunch. O SRI, como o Deeptrace, identificaria e restringiria rapidamente a liberação de deepfakes maliciosos. Uma abordagem envolve a avaliação automatizada que detectaria erros no vídeo com certos problemas lógicos, sinalizando e desqualificando-os rapidamente – impedindo a disseminação da desinformação. O jogo final é uma tentativa de nivelar o campo de jogo, que atualmente favorece o manipulador.

Nesse ponto, é seguro dizer que, se você criar um deepfake de orientação política com intenção maliciosa na Califórnia, pelo menos, estará infringindo a lei.

É um começo, mas não o suficiente para impedir que os danos sejam infligidos antes de uma eleição em todo o país.

Algo percebido como real ou até provável, mesmo que por um curto período, pode causar danos. É por isso que todos devemos nos importar com o que está por aí e apoiar a busca de uma solução, seja através de medidas sem fins lucrativos ou de financiamento coletivo, como o Deepfake Detection Challenge. Assim que tivermos as ferramentas, todos teremos o poder de parar o crescimento de deepfakes e notícias falsas.

Todos sabíamos que os robôs poderiam um dia vir para o nosso trabalho. Mas nossos sentidos? Essa é nova.

Aqui está o que você precisa saber sobre #deepfakes, #fakenews e proteção da verdade em um ano eleitoral. Clique para Tweet

Nota do autor: A arte de criar deepfakes é um tópico complicado, que exige uma explicação visual mais aprofundada. Para um aprofundamento mais aprofundado do fenômeno, confira esta análise convincente de Negócios da CNN.

Tags:,