Imagine um país com profundas divisões políticas, onde diferentes grupos não confiam uns nos outros e a violência parece provável. Agora, imagine uma enxurrada de imagens políticas, memes de ódio e vídeos de zombaria de fontes nacionais e estrangeiras tomando conta das mídias sociais. O que provavelmente acontecerá em seguida?
O uso generalizado das mídias sociais durante períodos de problemas políticos e violência dificultou a prevenção de conflitos e a construção da paz. A mídia social está mudando, com novas tecnologias e estratégias disponíveis para influenciar o que as pessoas pensam durante crises políticas. Isso inclui novas maneiras de promover crenças e objetivos, ganhar apoio, desumanizar oponentes, justificar a violência e criar dúvidas ou ignorar fatos inconvenientes.
Ao mesmo tempo, as próprias tecnologias estão se tornando mais sofisticadas. Cada vez mais, as campanhas de mídia social usam imagens como memes, vídeos e fotos – editadas ou não – que têm um impacto maior sobre as pessoas do que apenas texto.
É mais difícil para os sistemas de IA entender imagens do que textos. Por exemplo, é mais fácil rastrear publicações que dizem “Os ucranianos são nazistas” do que encontrar e entender imagens falsas mostrando soldados ucranianos com símbolos nazistas. Mas esses tipos de imagens estão se tornando mais comuns. Assim como uma imagem vale mais do que mil palavras, um meme vale mais do que mil tweets.
Nossa equipe de computação e cientistas sociais enfrentou o desafio de interpretar o conteúdo de imagens combinando métodos de inteligência artificial com especialistas humanos no assunto para estudar como as publicações visuais de mídia social mudam em situações de alto risco. Nossa pesquisa mostra que essas mudanças nas publicações de mídia social, especialmente aquelas com imagens, servem como fortes indicadores da violência em massa que se aproxima.
Surto de memes
Nossa análise recente constatou que, nas duas semanas que antecederam a invasão da Ucrânia pela Rússia em 2022, houve um aumento de quase 9.000% no número de publicações e um aumento de mais de 5.000% nas imagens manipuladas de blogs militares russos. Os “milbloggers” são blogueiros que se dedicam principalmente à cobertura de eventos noticiosos relacionados a uma guerra em andamento.
Esses enormes aumentos mostram a intensidade da campanha de propaganda on-line da Rússia e como ela usou as mídias sociais para influenciar a opinião das pessoas e justificar a invasão.
Isso também mostra a necessidade de monitorar e analisar melhor o conteúdo visual nas mídias sociais. Para conduzir nossa análise, coletamos todo o histórico de publicações e imagens das contas de 989 milbloggers russos no aplicativo de mensagens Telegram. Isso inclui quase 6 milhões de postagens e mais de 3 milhões de imagens. Cada publicação e imagem foi registrada com data e hora e categorizada para facilitar a análise detalhada.
Perícia forense da mídia
Já havíamos desenvolvido um conjunto de ferramentas de IA capaz de detectar alterações e manipulações de imagens. Por exemplo, uma imagem detectada mostra um meme pró-Rússia zombando do jornalista anti-Putin e ex-soldado russo Arkady Babchenko, cuja morte foi forjada pelos serviços de segurança ucranianos para expor um plano de assassinato contra ele.
O meme apresenta a linguagem “gamers don’t die, they respawn” (os jogadores não morrem, eles ressurgem), em alusão aos personagens de videogame que voltam à vida depois de morrer. Isso faz pouco caso da situação de Babchenko e ilustra o uso de imagens manipuladas para transmitir mensagens políticas e influenciar a opinião pública.
Esse é apenas um exemplo de milhões de imagens que foram estrategicamente manipuladas para promover várias narrativas. Nossa análise estatística revelou um aumento maciço tanto no número de imagens quanto na extensão de suas manipulações antes da invasão.
O contexto político é fundamental
Embora esses sistemas de IA sejam muito bons em encontrar falsificações, eles são incapazes de compreender os contextos políticos das imagens. Portanto, é fundamental que os cientistas de IA trabalhem em conjunto com os cientistas sociais para interpretar adequadamente essas descobertas.
Nossos sistemas de IA também categorizaram as imagens por similaridade, o que permitiu que os especialistas no assunto analisassem ainda mais os grupos de imagens com base em seu conteúdo narrativo e significados cultural e politicamente específicos. Isso é impossível de ser feito em grande escala sem o apoio da IA.
Por exemplo, uma imagem falsa do presidente francês Emmanuel Macron com o governador ucraniano Vitalii Kim pode não fazer sentido para um cientista de IA. Mas, para os cientistas políticos, a imagem parece elogiar a coragem extraordinária dos ucranianos em contraste com os líderes estrangeiros que parecem ter medo das ameaças nucleares russas. O objetivo era reforçar as dúvidas dos ucranianos sobre seus aliados europeus.
Guerra de memes
A mudança para a mídia visual nos últimos anos traz um novo tipo de dados que os pesquisadores ainda não estudaram em detalhes.
A análise de imagens pode ajudar os pesquisadores a entender como os adversários enquadram uns aos outros e como isso pode levar a conflitos políticos. Ao estudar o conteúdo visual, os pesquisadores podem ver como as histórias e as ideias são disseminadas, o que nos ajuda a entender os fatores psicológicos e sociais envolvidos.
Isso é especialmente importante para descobrir maneiras mais avançadas e sutis de influenciar as pessoas. Projetos como esse também podem contribuir para melhorar os esforços de alerta precoce e reduzir os riscos de violência e instabilidade.
