O poder das mentiras digitais: a ameaça das deepfakes para a sociedade

De Celestino Joanguete

A rápida evolução da tecnologia digital trouxe consigo uma nova ameaça à sociedade: o poder das mentiras digitais. Nesse contexto, informações falsas, distorcidas ou manipuladas têm se disseminado de forma alarmante, representando uma ameaça à confiança, à democracia e ao bem-estar social. Esta pesquisa busca investigar a natureza e o impacto das mentiras digitais, explorando suas origens, mecanismos de propagação e consequências. Além disso, serão analisadas as estratégias de combate a essa problemática, abordando tanto as soluções tecnológicas quanto as medidas sociais e educacionais necessárias para proteger a sociedade contra as ameaças decorrentes das mentiras digitais. O objetivo é fornecer insights para o desenvolvimento de políticas públicas, ferramentas e estratégias eficazes para mitigar os danos causados pelas mentiras digitais e preservar a integridade da informação na era digital.

• Idioma: Português
• Editora: Editora Dialética
• Data de lançamento: 8 de ago. de 2023
• ISBN: 9786525294001

Pré-visualização do livro

CAPÍTULO 1 FUNDAMENTOS DE DEEPFAKE

O que é Deepfake

O termo deepfake é uma fusão das palavras deep learning (aprendizagem profunda) e fake (falso), e se refere a uma técnica de inteligência artificial que possibilita a criação de vídeos falsos, porém convincentes, com base em imagens ou vídeos originais. Essa técnica, cada vez mais sofisticada, manipula imagens e vídeos com o auxílio da IA.

Embora a tecnologia por trás deste fenômeno seja relativamente recente, sua origem remonta a 2017, quando um usuário do Reddit, conhecido como deepfakes, utilizou uma técnica de aprendizado de máquina chamada autoencoder para criar vídeos pornográficos falsos com o rosto de celebridades.

O autoencoder é um tipo de rede neural artificial não supervisionada, empregada no aprendizado de representações de dados. Essa rede é composta por duas partes principais: o codificador (encoder) e o decodificador (decoder).

O codificador, primeira parte da rede neural, é responsável por converter os dados de entrada em uma representação compacta e comprimida, denominada código latente ou gargalo (bottleneck)¹. O codificador reduz a dimensionalidade do espaço de características dos dados de entrada, capturando os aspectos mais relevantes desses dados.

O decodificador, segunda parte da rede neural, é responsável por reconstruir os dados de entrada a partir do código latente. Utilizando o código latente como entrada, o decodificador recria os dados de entrada com a maior fidelidade possível.

O objetivo do autoencoder é minimizar a diferença entre os dados de entrada originais e os dados reconstruídos pelo decodificador. Para alcançar isso, os pesos da rede neural são ajustados durante o processo de treinamento, de modo a minimizar o erro de reconstrução.

O autoencoder é usado para várias tarefas de aprendizado de representação de dados, como compressão de dados, redução de ruido de dados, detecção de anomalias e geração de dados sintéticos. Ele é um importante componente em muitas aplicações de aprendizado de máquina e processamento de dados, incluindo processamento de imagem, reconhecimento de voz e processamento de linguagem natural.

Desde então, a tecnologia por trás dos DF evoluiu rapidamente, tornando-se cada vez mais difícil de detectar. Os DF são gerados por algoritmos de aprendizado de máquina que analisam muitas imagens de uma pessoa e, em seguida, criam uma imagem falsa com base nessas informações. Essa técnica é usada para criar vídeos e imagens que parecem ser reais, mas que são completamente falsos.

A disseminação de DF representa um desafio significativo para a sociedade, uma vez que é usada para disseminar desinformação e manipular a opinião pública. O potencial para os DF serem usados para prejudicar a reputação de pessoas e organizações é preocupante.

Além disso, a tecnologia dos DF avança rapidamente, o que torna cada vez mais difícil distinguir o que é real do que é falso. Isso é especialmente preocupante quando se considera o papel que os vídeos têm na disseminação de informações. Os vídeos são usados para influenciar opiniões e decisões políticas, bem como para prejudicar a reputação de indivíduos e organizações.

Diante desse cenário, especialistas em tecnologia e pesquisadores estão trabalhando para desenvolver técnicas de verificação de DF que possam detectar manipulações e distinguir o que é real do que é falso. Essas técnicas podem incluir análise de imagem e vídeo, análise de áudio e aprendizado de máquina para detectar padrões que indicam uma imagem ou vídeo falsificado.

Algumas empresas de tecnologia estão investindo em soluções para detectar e prevenir a disseminação de DF. Essas soluções incluem o uso de inteligência artificial para identificar vídeos e imagens falsas e a verificação manual de imagens e vídeos por especialistas em tecnologia.

A disseminação de DF é um exemplo preocupante de como a tecnologia é usada para manipular a opinião pública e prejudicar a reputação de pessoas e organizações. Embora a tecnologia por trás dos DF seja relativamente nova, ela evolui rapidamente, o que torna cada vez mais difícil distinguir o que é real do que é falso. Diante desse desafio, é essencial que a sociedade desenvolva soluções eficazes para detectar e prevenir a disseminação de DF.

Como é criado um DF

Uma DF é gerada através de um processo que utiliza IA para manipular imagens e vídeos. O procedimento inicia com a seleção de imagens ou vídeos de um indivíduo específico, geralmente uma celebridade ou figura pública.

Posteriormente, o algoritmo de aprendizado de máquina examina essas imagens ou vídeos e emprega as informações coletadas para criar uma imagem ou vídeo falsificado. O algoritmo é treinado para replicar os movimentos e expressões faciais do indivíduo em questão, assim como sua fala e entonação de voz.

Para produzir uma DF de alta qualidade, é necessário possuir um amplo conjunto de dados para treinar o algoritmo. Quanto maior a quantidade de imagens e vídeos do indivíduo-alvo, melhor será a qualidade do DF gerado.

Existem diversos tipos de algoritmos empregados na criação de uma DF, incluindo redes neurais convolucionais (CNN) e redes adversárias generativas. As CNN são um tipo de rede neural artificial frequentemente utilizadas em tarefas relacionadas ao processamento de imagens. Elas foram inspiradas na estrutura e função do córtex visual do cérebro humano.

A CNN é composta por camadas de neurônios convolucionais que processam os dados de entrada através de convoluções, operações matemáticas que filtram e ressaltam características específicas de uma imagem.

Em seguida, as camadas de agrupamento (pooling) são usadas para reduzir a dimensão do espaço de características e, finalmente, as camadas completamente conectadas são empregadas para classificar a imagem resultante. A CNN são altamente eficientes em tarefas de visão computacional, como reconhecimento de imagens, detecção de objetos, segmentação de imagens e outras aplicações relacionadas ao processamento de imagens.

Redes adversárias generativas (GANs, na sigla em inglês) são um tipo de rede neural artificial que utiliza duas redes distintas - uma geradora e outra discriminadora - para gerar imagens ou outros tipos de dados sintéticos que são indistinguíveis de dados reais.

A rede geradora recebe um vetor de entrada aleatório e produz uma imagem sintética que é alimentada para a rede discriminadora, que tenta distinguir entre as imagens sintéticas e as imagens reais. A rede geradora é treinada para produzir imagens cada vez mais realistas, à medida que a rede discriminadora aprende a identificar as imagens sintéticas e as imagens reais.

As GANs são amplamente utilizadas em várias aplicações de processamento de imagens, incluindo a criação de arte digital, geração de imagens médicas e reconstrução de imagens de baixa qualidade. Elas também são usadas para criar DF, uma vez que a rede geradora é treinada para criar imagens falsas realistas.

As GANs são uma importante inovação em