Ilustração de Tactical Tech, com elementos visuais de Yiorgos Bagakis e Alessandro Cripsta.
Este artigo foi escrito por Safa Ghnaim em colaboração com o Goethe-Institut Brasil e publicado originalmente em DataDetoxKit.org. A Global Voices reproduz uma versão editada com base em um acordo de colaboração.
As ferramentas de Inteligência Artificial (IA) — especialmente as que geram imagens, vídeos e áudios — têm sido promovidas como “aplicativos de criatividade” para indivíduos e “ferramentas de eficiência” para empresas. No entanto, há poucas formas de controlar como são realmente usadas e os danos que essas imagens geradas artificialmente podem causar.
Não é surpresa que as ferramentas de IA estejam tornando o problema do assédio on-line ainda pior, através da criação e disseminação de imagens íntimas não consensuais (NCII, na sigla em inglês) — fotos ou vídeos íntimos, com nudez ou cenas de teor sexual explícito, mostrando o corpo real ou gerado por IA de alguém sem consentimento.
As imagens íntimas não consensuais afetam muitas pessoas, não apenas as celebridades que você ouve falar na mídia, e não é fácil lidar com esse problema. Até mesmo as plataformas e autoridades policiais estão tendo dificuldades para lidar com a situação.
O problema pode ser maior do que se imagina
A tecnologia está avançando tão rápido que, atualmente, apenas a imagem de alguém (e pode ser até uma foto totalmente inocente) é o suficiente para criar conteúdo sexualmente explícito, usando uma das diversas ferramentas de IA.
Embora certas ferramentas de IA facilitem a criação de imagens íntimas não consensuais e agravem o problema de assédio, outras são usadas para combatê-lo. No entanto, ferramentas de IA treinadas para identificar imagens geradas por IA não são perfeitas e grande parte do trabalho de identificá-las e derrubá-las ainda é feito por moderadores de conteúdo.
Um dos casos de maior repercussão em 2024 envolveu imagens de conteúdo sexual deepfake da cantora Taylor Swift. Essas imagens apareceram pela primeira vez no 4chan (fórum de discussão on-line) e em poucos minutos se espalharam rapidamente por diversas redes sociais. Uma das imagens foi vista mais de 47 milhões de vezes antes de ser removida. É provável que essas imagens ainda estejam sendo compartilhadas on-line, pois não há uma maneira real de apagá-las completamente da internet.
Esse, porém, não é um caso isolado. Um estudo de 2021 nos EUA revelou que 41% dos mais de 10.000 entrevistados relataram ter passado por alguma forma de assédio on-line. Entre os entrevistados com menos de 35 anos, 33% das mulheres e 11% dos homens relataram ter vivenciado especificamente assédio sexual on-line.
De forma semelhante, uma análise de 2023 com mais de 95.000 vídeos deepfake revelou que até 98% eram de conteúdo pornográfico, com 99% das vítimas sendo mulheres. Outros grupos vulneráveis, como menores de idade e pessoas LGBTQ+, também são vítimas de assédio sexual de forma desproporcional.
Quais as medidas para se proteger deste tipo de assédio?
As plataformas on-line oferecem alguns mecanismos de segurança que ajudam a proteger as suas informações de olhares indesejados. Embora não garantam proteção absoluta, eles podem dificultar o acesso de assediadores ou pessoas mal-intencionadas.
Cada plataforma é diferente e possui configurações e opções disponíveis aos usuários. Como exemplo, aqui estão algumas coisas que você pode fazer para restringir os controles no Instagram e TikTok:
- Configure seu perfil para “privado”. Em plataformas como Instagram e TikTok, você pode configurar seu perfil como privado para que apenas pessoas que você aprove como seguidores possam ver o que compartilha. No entanto, elas ainda podem ver seus comentários em postagens de outras pessoas e ainda podem lhe enviar mensagens. Aprenda a configurar seu perfil como privado no Instagram e no TikTok.
- Remova seguidores ou bloqueie pessoas. Se uma pessoa está importunando ou deixando você desconfortável, ela pode ser removida como seguidora ou bloqueada completamente. Mas caso conheça a pessoa fora das redes sociais, vai precisar de uma estratégia diferente. Aprenda a bloquear pessoas no Instagram e TikTok.
É necessário um esforço coletivo
Olhando para o número de pessoas vítimas de assédio on-line, parece lógico assumir que há muitos assediadores também. Mas a verdade é que basta uma pessoa mal-intencionada para causar grandes danos. Você considera um assediador alguém que reenvia imagens íntimas não consensuais, mesmo que não tenha sido a pessoa que as gerou originalmente? No exemplo de Taylor Swift, bastaram poucas pessoas para criar conteúdo íntimo sem consentimento, mas as imagens não teriam viralizado sem o compartilhamento de tantas outras.
Então, como você pode ser um aliado de alguém que está sendo alvo de perseguição e assédio? Qualquer que seja a rede social, ela provavelmente terá uma função de “denuncia”. Em aplicativos como o Instagram, você pode denunciar postagens específicas ou perfis e contas caso observe algo que aparenta ser violação ou assédio. A denúncia no Instagram é uma ótima opção para sinalizar pessoas ou conteúdos problemáticos encontrados. O Instagram não irá compartilhar a identidade da pessoa que está denunciando com a pessoa denunciada.
Quando você faz uma denúncia no Instagram, a plataforma pode remover a postagem ou alertar, desativar ou banir a conta, dependendo do ocorrido e se está infringindo as Diretrizes da Comunidade. Vale destacar que as Diretrizes da Comunidade da Meta nem sempre são úteis, e a remoção de postagens e o banimento de contas têm gerado controvérsias recentes.
Se a vítima for uma pessoa conhecida, entre gentilmente em contato, caso se sinta confortável para isso. Ela pode não ter ideia do que está acontecendo e pode reagir com muita aflição, raiva ou tristeza. Caso se sinta preparado para prestar auxílio, você pode apresentar recursos (como os que estão linkados no final deste guia) e ajudar a monitorar e documentar o assédio.
Embora seja provável que não deseje ver esse conteúdo novamente, documentá-lo pode ser útil antes que seja removido. Considere fazer uma captura de vídeo ou uma captura de tela da postagem, ou comentário, incluindo o nome da conta da pessoa e a data. Salve o documento em um local seguro e oculto em seu celular ou computador. Em alguns celulares, por exemplo, você pode configurar uma “pasta segura” protegida com senha.
A documentação, quando bem feita, pode ser útil caso a vítima decida levar o problema à polícia e precise apresentar provas.
É importante que a vítima tenha autonomia para decidir o que fazer. Entrar em contato com a polícia, contratar um advogado, ou recorrer à escola, universidade ou local de trabalho? Ou prefere manter o máximo de sigilo? Especialmente em situações de imagens íntimas não consensuais, onde muitas escolhas são retiradas da vítima, é fundamental apoiá-la para voltar a ter o controle.
Saiba onde procurar ajuda
Se você ou alguém que conhece está sendo assediado com imagens íntimas não consensuais (NCII) saiba que existem organizações dedicadas prontas para oferecer ajuda. Você não precisa enfrentar isso sem ajuda. Aqui estão algumas opções de suporte para falantes de inglês:
- Chayn (Internacional): Chayn oferece recursos e apoio para sobreviventes de violência de gênero.
- StopNCII (Internacional): StopNCII possui um banco de recursos e uma ferramenta para remover NCII
- Take Back the Tech (mundial): Take Back the Tech oferece explicações e recursos como o Hey Friend, com dicas de como ajudar seus amigos quando são vítimas de assédio.
- RAINN’s National Sexual Assault Hotline (EUA): RAINN oferece uma linha privada direta onde é possível conversar on-line ou ligar para um membro da equipe com treinamento para situações de crise.
- Take It Down (EUA): Take It Down oferece um passo a passo de como fazer uma solicitação para remover as NCII
- Cyber Civil Rights Initiative (CCRI) (EUA): CCRI inclui um guia passo a passo e listas de advogados e leis nos EUA. Há também uma lista com recursos internacionais.
- Revenge Porn Helpline (Reino Unido): Revenge Porn Helpline oferece aconselhamento a adultos que foram vítimas de assédio.
- Umi Chatbot (Austrália): .Umi Chabot é uma maneira rápida de obter informações sobre como lidar com as NCII. O site também possui materiais de como reunir provas e fazer uma denúncia.
Para mais dicas e fontes de apoio sobre como lidar com assédio on-line:
