Home > especial > O Cavalo de Troia do Século XXI
31/05/2022 especial

O Cavalo de Troia do Século XXI

Em um mundo globalizado e conectado quase por completo pela internet, a desinformação toma proporções nunca antes imaginadas, e conta com um fator que torna esta estratégia ainda mais refinada: o acelerado avanço tecnológico.

Do boca a boca ao impresso, do rádio para o cinema e a televisão. A propaganda com base na informação falsa ou manipulada esteve presente em diversos eventos registrados nos livros de história. Desencadeou guerras, sustentou ditaduras e interferiu no jovem desenvolvimento dos regimes democráticos. Hoje, em um mundo globalizado e conectado quase por completo pela internet, a desinformação toma proporções nunca antes imaginadas, e conta com um fator que torna esta estratégia ainda mais refinada: o acelerado avanço tecnológico.


Reportagem: Carol Bonamigo e Fernando Bortoluzzi

Um grande ícone da batalha entre gregos e troianos, o Cavalo de Troia é uma das histórias mais difundidas sobre como a estratégia e a enganação, muitas vezes, são cruciais para vencer uma guerra. Vamos relembrar o episódio imortalizado na epopeia Ilíada, de Homero. Por volta de 1250 a.C., após 10 anos em guerra contra Troia sem conseguir transpassar as muralhas fortificadas da cidade, os gregos simularam a sua retirada e deixaram um enorme cavalo de madeira nos portões dos seus inimigos. Recebido como um presente dos deuses pela vitória, os troianos transportaram o cavalo sem saber que ele era oco por dentro e estava repleto de soldados gregos, que saíram na calada da noite e finalmente tomaram a cidade. 

Apesar das inúmeras representações na literatura e no cinema, não há consenso entre os historiadores que o conflito tenha de fato ocorrido, mas este “presente de grego” tornou-se símbolo de guerra e também representação do uso bem sucedido da desinformação como poderosa arma. O termo é inclusive usado na computação há anos, quando malwares (softwares maliciosos com intuito de infiltrar um dispositivo) são utilizados escondendo suas verdadeiras intenções, ou seja, um vírus disfarçado. Mas não apenas isso. Cavalos de Troia nos são apresentados todos os dias, uma vez que grande parte da nossa vida tornou-se indissociável da conexão e das redes sociais digitais. Aplicativos convidativos e populares, como o FaceApp, que faz versões de uma foto sua em diferentes idades, ou Wombo, em que você tem a possibilidade de usar a imagem de um personagem e dublar sua fala e movimentos faciais a seu gosto, são alguns exemplos de testes de tecnologias que são aprimoradas dia após dia. Um artifício que pode ser utilizado tanto como um mero entretenimento quanto com a mais vil das intenções. Você pode estar apenas fazendo memes e compartilhando para seus amigos darem risada, quando na verdade está ajudando a treinar uma ferramenta de desinformação.

Resultado da sofisticação destas tecnologias são os deepfakes: vídeos e áudios criados a partir de inteligência artificial (IA) capaz de reproduzir traços de expressões faciais e de fala de uma pessoa real e colocá-las em outro contexto. Junção dos termos em inglês deep learning (aprendizado profundo) e fake (falso), surgiu em meados dos anos 1990, se popularizou em 2017 e só tem evoluído desde então.

Uma rica fonte de exemplos de deepfakes é o perfil de Bruno Sartori (@brunnosarttori), jornalista e roteirista conhecido como “bruxo dos vídeos”. Nas redes, ele divulga montagens que utilizam imagem e dublagem de diversas personalidades da cultura pop e da política, como Bolsonaro, Sergio Moro, Lula e Dilma. Os vídeos são claras edições carregadas de humor e críticas ironizando as personalidades, mas servem também para expor as possibilidades alcançadas pelo avanço da tecnologia. As adulterações já foram utilizadas desde sátiras, rejuvenescer atores em filmes, até inserir falsamente personalidades famosas em vídeos pornográficos e modificar discursos de políticos. E com isso acende também um alerta: podemos acreditar em todos os conteúdos que encontramos, recebemos e até mesmo compartilhamos?


NEM TUDO É O QUE PARECE

Fora do meio amador e satírico, o nível de detalhes desses vídeos é tão alto que muitas vezes não é possível perceber que algo está errado. Assim explicam Sandro da Silva de Oliveira, coordenador do curso de Ciências da Computação, e Marcos Moretto, professor nos cursos de Ciências da Computação e Sistemas de Informação, ambos da Unochapecó. “Isso não é feito por uma única pessoa, mas uma IA que busca – através de um acervo gigantesco – períodos e falas de alguém para fazer um vídeo, juntando outros momentos de uma forma que fique coerente e num tom próximo para não percebermos que é uma montagem”, explica Marcos. Não é um processo fácil de executar, nem um resultado que qualquer um atinge com rapidez e perfeição. Por isso, tratar o vídeo para que fique intencionalmente com baixa qualidade é uma das estratégias para driblar erros que possam denunciar a montagem. “As ferramentas tecnológicas são utilizadas nos dois mundos, tanto para o lado bom quanto para o ruim, às vezes para fins de tratamento da informação, mas também para distorção dela. Cada vez mais temos formas diferentes de distorcer a informação e a grande questão é como diferenciar o que é falso do que é verídico”, completa Sandro.

Mas seria possível criar uma situação hipotética do zero, utilizando imagem e voz de um político, por exemplo? A resposta é sim. Por se tratar de uma IA, ela é baseada em bancos de dados com milhares de amostras audiovisuais. E se tratando de uma figura pública, o acervo disponível para tal fim se torna imenso. “Tudo o que você gera de conteúdo na internet, falas, áudios, vídeos, abastecem um banco de dados. Isso são horas e horas de conteúdo analisadas por um algoritmo, um programa de computador, e baseado na mensagem que você quer colocar, ele busca trechos que se encaixam naquilo que você quer falar e monta o áudio inteiro”, esclarece Moretto, acrescentando que quanto mais informações para o algoritmo treinar, mais aprimorado é o resultado.

Para os professores, uma das maneiras de identificar deepfakes é ter maior atenção para detalhes como os olhos – se estão olhando para a câmera ou não –, a sincronia de movimentos, sombras incorretas e disparidades de iluminação entre partes do corpo. “Existem também alguns mecanismos para analisar esses vídeos e dar indicadores de falsidade, mas ainda é tudo muito inicial e não está disponível em larga escala, e vai depender de alguém acessar e mandar o vídeo ou o áudio para testar. O ponto é: não confiar em qualquer tipo de fonte, porque o objetivo, às vezes, não é só desinformar, é ganhar massa e cliques em determinados sites, para aumentar sua relevância e, consequentemente, sua monetização”, explica Marcos.

Portanto, não são apenas as pessoas públicas o interesse dos bancos de dados. O indispensável e cada vez maior uso da internet inverte a jogada e faz com que os usuários não percebam que, na verdade, eles são a própria informação, disponibilizada de bom grado. Cada base fornecida, cada curtida, cada conteúdo consumido são dados de que somos favoráveis a uma determinada ideia, e isso garante ao algoritmo quais conteúdos e propagandas estaremos mais suscetíveis, para ele então nos direcioná-las. “O que se tem é uma monetização e um capitalismo de vigilância, que nada mais é do que monitorar as redes sociais, os gostos da população, e a partir disso você tem um perfil social. Temos um traço da personalidade das pessoas, as reações expressam nosso sentimento em relação a um determinado conteúdo e isso fornece dados para as bigtechs, as plataformas de redes sociais digitais”, explica Ana Paula Bourscheid, doutoranda em Comunicação Social e professora nos cursos técnicos de Publicidade e Marketing no Instituto Federal de Educação, Ciência e Tecnologia do Amapá – IFAP.

Houve tempos em que o poder era representado principalmente pela posse de espaços geográficos, acúmulo de capital, influência e força física. Mas, como bem ilustrou George Orwell em sua obra 1984, o monopólio do poder encontra-se também na informação e na vigilância. O romance distópico, apesar de escrito há 74 anos, continua muito atual.

Quando a desinformação é utilizada como arma de guerra, tomando o universo digital como seu campo de batalha, como saberemos em quem confiar? Quem mais sofre com essa questão, de acordo com Ana Paula, são os chamados “imigrantes digitais” – a parcela da população que não cresceu conectada e agora, na vida adulta, precisa se inserir no mundo online. “Este é um público mais acostumado a confiar. Quando nascemos, aprendemos a confiar em nossos pais, família e amigos. Essa prática é levada para as redes sociais digitais, as pessoas confiam no que elas veem e, principalmente, naquilo que é dito por quem as representa”, afirma Bourscheid.


A ERA DA PÓS-VERDADE

Imagine que sua mente é uma caixa de entrada de e-mail e, todos os dias, é bombardeada com informações que não são de seu interesse ou são inverídicas. Como filtrar o que acessamos e acreditamos, em um momento em que se tem cada vez mais rapidez de consumo e compartilhamento dos conteúdos? Quisera ter um filtro de spam acoplado ao cérebro para nem sequer armazenarmos essas fontes, mas a verdade é que não temos como competir com as máquinas de desinformação. “A gente tem a desinformação automatizada, quem a produz tem isso como um negócio, então existe uma agenda de conteúdos a ser espalhada para que as pessoas tenham determinadas reações. Incitar o ódio, por exemplo”, explana a jornalista. E quando um conteúdo vem de encontro com nossas crenças pessoais e sentimentos, dificulta a desconfiança e o olhar crítico, por mais que todas as provas contrárias sejam colocadas. Agora, lembre-se de todos os dados que já forneceu espontaneamente às redes e pense nisso num contexto em que quem produz esses conteúdos sabe exatamente quais são seus gostos e crenças.

Além dos deepfakes, outra tendência que contribui para a perpetuação da desinformação é o uso contínuo de robôs para estimular os debates – ferramenta que pode ser crucial em situações determinantes de uma nação, como um processo eleitoral. “Os robôs (usuários falsos automatizados) sobem determinados assuntos para o debate público. As pessoas estão vendo aquilo, portanto falam sobre e tornam o conteúdo conhecido. Quando muitas pessoas falam algo, a chance de você pelo menos refletir sobre isso vai te afetar de algum modo. Para quem questiona, não aceita a coisa como ela vem, vai ter um impacto, mas há quem não questione. E se for algo que você já tem certa familiaridade, o algoritmo vai te oferecer cada vez mais”, pondera Bourscheid.



GUERRA É PAZ, LIBERDADE É ESCRAVIDÃO E IGNORÂNCIA É FORÇA

Na obra já citada de Orwell, um líder totalitário abstrato controlava sua população por meio do monitoramento constante, tanto das ações quanto dos pensamentos. Entretanto, o uso da tecnologia para a vigilância como forma de controle não é a única previsão descrita em 1984 já concretizada. O revisionismo propagado pelo Grande Irmão, além de reescrever a história da sociedade e reestruturar a linguagem de forma a ter ainda mais controle sobre a informação, deu novos sentidos a conceitos a fim de suprimir qualquer tipo de pensamento crítico. Uma distopia para a qual caminhamos hoje, segundo Antonio Andrioli, doutor em Ciências Econômicas e Sociais pela Universidade de Osnabrück, na Alemanha, e professor de Ciências Políticas na Universidade Federal da Fronteira Sul – UFFS. “Diria que estamos vivendo um enfraquecimento lento e constante das nossas instituições críticas. Principalmente a imprensa, o judiciário e as universidades, que são três instituições que conseguem produzir qualidade de informação ou aquilo que a população costumava chamar de informações confiáveis. E isso está em crise”.

Andrioli cita ainda que este é apenas um dos aspectos enfrentados que pode enfraquecer a democracia. Segundo ele, a falta de confiança nos políticos, o crescimento da intolerância e a crescente despolitização também têm contribuído para que informações falsas sejam intencionalmente difundidas na rede. “Aquilo que até agora se tornava algo induvidável, que era o áudio e o vídeo de uma pessoa, passa ser tão manipulável quanto o texto. Podemos dizer que a grande questão da crise da democracia é a crise de confiança na democracia. E isso não é só no Brasil, evidentemente. Para identificar os interesses ocultos nós precisamos de conceitos, e nossos conceitos estão sendo intencionalmente destruídos. Veja só o que as pessoas estão entendendo por liberdade, por exemplo. Como é que nós vamos fortalecer a imprensa séria diante da concorrência das redes sociais, que fazem o que querem? Essa liberdade de expressão, que é um direito conquistado pela humanidade, passou a ser uma licença para poder espalhar mentiras, para poder agredir e difundir preconceitos. Não foi para isso que a liberdade de expressão surgiu, mas é assim que ela vem sendo utilizada”, pontua.

Para Ana Paula, a solução está justamente no investimento na educação e na melhor instrução da população para o universo digital. “Não é algo que vamos conseguir imediatamente, nem nessa eleição e talvez nem na próxima, mas precisamos começar a discussão. Talvez um ganho seja a nova Base Nacional Comum Curricular dos ensinos básico, fundamental e médio, que tem um item falando sobre alfabetização midiática dentro da disciplina de Língua Portuguesa. Então tem-se uma tentativa dos agentes do Estado, as instituições, de trazer isso para o debate”.

Já a curto prazo, a jornalista defende como precaução desconfiar, especialmente, quando receber conteúdos de determinadas personalidades conhecidas por certos posicionamentos em discursos inflamados contendo informações completamente opostas. “O usuário precisa ter cada vez mais o olhar crítico e não confiar cegamente. A internet não é um lugar para pessoas ingênuas”, opina.

Mas não é tão simples a solução para a crescente despolitização, uma das razões pela qual as pessoas se negam a confiar nas instituições tradicionais, segundo Andrioli, que aponta um resultado um tanto orwelliano para a distorção do pensamento crítico. “A revolução da informática alterou os termos em que a democracia estava acostumada a operar, e isso nos colocou diante de um novo dilema: nós defendemos formas de comunicação que não são mais as acessadas prioritariamente. Não só as formas de comunicação, mas também de compartilhamento de informações, que escapam do nosso controle e da nossa compreensão. Nós precisamos de formação política, de educação digital e limitar a intolerância”, defende. 

Uma questão é unanimidade entre todos os entrevistados desta reportagem: está nas mãos das gerações mais jovens a responsabilidade de levar às mais velhas a informação sobre as possibilidades – tanto benéficas quanto nocivas – das novas tecnologias, e resgatar a confiança nas instituições críticas de longa data. Entretanto, confiar não pode ser aceitar os Cavalos de Troia que aparecem em nossos portões, ou então corremos o risco de cairmos em um infinito “diálogo de surdos”, em que as acusações mais absurdas prevalecem, sem lógica alguma de serem debatidas.

AUTORA

FVcomunica!

Revista Flash Vip, contando histórias desde 2003.
LEIA TAMBÉM