Por Lívia Monteiro
Imagina que você está passando tempo nas redes sociais e, de repente, encontra um vídeo com seu rosto dizendo algo que você sabe que nunca falou. Bizarro, né? Porém, o que poderia ser tirado de um filme de ficção científica ou de uma série de distopia, como Black Mirror, agora é realidade. E pode ser mais grave do que a gente imagina, afinal, o que acontece quando começarmos a ver vídeos de pessoas famosas, políticos e demais figuras públicas da nossa sociedade falando e fazendo coisas que elas nunca falaram ou fizeram na vida real?
Programas que utilizam Inteligência Artificial (IA) agora são capazes de manipular e trocar rostos e vozes de pessoas em qualquer vídeo e fazer com que ela faça ou fale o que você quiser. Estes tipos de inteligência artificial fazem o mapeamento de diversos pontos de expressão, no rosto ou até mesmo no corpo, para a inserção realística no novo cenário, de vídeo ou foto, por exemplo.
De acordo com o Departamento de Homeland Security dos Estados Unidos (DHS), deepfakes podem ser utilizados em diversas formas para atacar a estabilidade de uma sociedade, destacamos aqui:
- A possibilidade da criação de vídeos para incitar a violência e o distúrbio da ordem;
- A criação de vídeos para disseminação de falsas informações;
- A produção de falsas evidências em casos criminais ainda em julgamento;
- Elaboração de material eleitoral negativo com o objetivo de influenciar o resultado de eleições;
- Condução de bullying virtual;
- Criação de conteúdo adulto com rostos de pessoas famosas, entre diversos outros casos.
Um caso que ganhou notoriedade na mídia internacional foi o da australiana Noel Martin, que teve seu rosto utilizado para a criação e venda de conteúdo adulto sem sua permissão em diversos sites da internet.
Neste sentido, políticos, organizações da sociedade civil, departamentos de inteligência e segurança de diversos países, aliados ao setor privado e a instituições de ensino e pesquisa espalhadas pelo mundo, estão juntando esforços para o desenvolvimento de técnicas e ferramentas para a detecção, controle e combate a disseminação de fotos, vídeos e áudios gerados através de algoritmos de inteligência artificial para criação de deepfakes.
Você pode estar se perguntando, o que podemos fazer para combater este tipo de vídeo? A australiana Noelle Martin decidiu colocar as mãos na massa e é um excelente exemplo de como agir. Ela decidiu não ficar calada e começou a fazer palestras para educar a população sobre os perigos e como se prevenir de golpes como o que ela sofreu. Noelle também decidiu entrar em contato com políticos e foi capaz de fazer entrar em vigor uma lei que criminaliza a criação de deepfakes sem o consentimento da pessoa.
O Departamento de Segurança Interna dos Estados Unidos também indica a necessidade da intervenção direta de governos e empresas para:
- Criar programas de alfabetização midiática;
- Treinar as pessoas com técnicas de como identificar se um conteúdo é real ou falso;
- Educar sobre a importância do compartilhamento consciente de informações on-line;
- Trabalhar com profissionais de segurança e da saúde em como tratar vítimas e lidar com casos de deepfake;
- Marcar conteúdos deepfakes com rótulo específico;
- Remover conteúdos deepfakes que sejam prejudiciais a indivíduos ou sociedade.
É importante também considerar que deepfakes, apesar da sua majoritária mídia negativa, possui seus lados positivos. Entretanto, para utilizar os algoritmos geradores de deepfake é preciso exercitar bastante a criatividade e inovação, como veremos em alguns casos interessantes.
Em Xangai, na China, o professor de programação Jiang Fei, notando que a atenção e o engajamento dos seus alunos diminuiu durante o lockdown de combate e controle da Covid-19, utilizou a inteligência artificial para se transformar em personagens de anime e mangá. Após a inovação em sala de aula, o professor comentou, em entrevista ao The Paper China, que o entusiasmo dos alunos nas aulas e a qualidade dos trabalhos de casa tiveram grande melhoria devido ao uso dessa tecnologia gerativa na sala de aula virtual.
A pesquisadora Mihailova (2021) aponta outro uso interessante dessa tecnologia para o engajamento em museus. No Museu do Dalí, na Flórida, Estados Unidos, as pessoas são recebidas por um vídeo de IA de Salvador Dalí que deseja as boas-vindas a todos visitantes. Nele, o pintor oferece, inclusive, a chance única de tirar uma selfie com ele.
Mihailova (2021) registra que este tipo de experiência oferece as pessoas “um senso de imediatismo, proximidade e personalização” dos visitantes com o pintor, maximizando a vivência deles dentro do museu. Outros casos interessantes são dos vídeos do David Beckham e da Rainha do Reino Unido, Elizabete II, que foram criados para alertar o público sobre os perigos da malária e da disseminação de falsas informações on-line, respectivamente.
É importante entender que a inteligência artificial e os deepfakes são avanços tecnológicos e farão parte do nosso futuro. Porém, também é preciso que, como qualquer avanço histórico, a sociedade civil, empresas e o setor público juntem seus esforços para entender as aplicações éticas e saudáveis do deepfake, assim como a criação de materiais educativos, políticas públicas e legislação que guiem a sociedade na condução desta nova ferramenta.
Comentários