Quando a estudante universitária, da Coreia do Sul, entrou no bate-papo para ler a mensagem, recebeu uma fotojogar bingo gratis e ganhar dinheiro de verdadetirada alguns anos atrás, enquanto ainda estava na escola, seguida por uma segunda imagem, usando a mesma foto, só que sexualmente explícita — e falsa.
Apavorada, Heejin, que não é seu nome verdadeiro, não respondeu, mas as imagens continuaram chegando.
Em todas elas, seu rosto havia sido anexado a um corpo realizando um ato sexual, usando a sofisticada tecnologia de deepfake.
A pornografia deepfake — que combina, emjogar bingo gratis e ganhar dinheiro de verdademaioria, o rosto de uma pessoa real com um corpo falso e sexualmente explícito — está sendo gerada cada vez mais por meio de ferramentas de inteligência artificial.
Publicidade
"Fiquei petrificada, me senti tão sozinha", contou Heejin à BBC. Mas ela não estava sozinha.
Dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furo de reportagem dajogar bingo gratis e ganhar dinheiro de verdadecarreira. Recentemente, tinha vindo à tona que a polícia estava investigando redes de pornografia deepfakejogar bingo gratis e ganhar dinheiro de verdadeduas das principais universidades do país, e Ko estava convencida de que deveria haver mais.
Ela começou a pesquisar nas redes sociais, e descobriu dezenas de grupos de bate-papo no aplicativo de mensagens Telegram,jogar bingo gratis e ganhar dinheiro de verdadeque os usuários compartilhavam fotos de mulheres que conheciam, e usavam um software de inteligência artificial para convertê-lasjogar bingo gratis e ganhar dinheiro de verdadeimagens pornográficas falsasjogar bingo gratis e ganhar dinheiro de verdadesegundos.
"A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam, e pedindo que fossem transformadasjogar bingo gratis e ganhar dinheiro de verdadedeepfakes", disse Ko à BBC.
Ko descobriu que estes grupos não tinham como alvo apenas estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.
Se fosse criado muito conteúdo usando imagens de uma alunajogar bingo gratis e ganhar dinheiro de verdadeparticular, ela poderia até ganharjogar bingo gratis e ganhar dinheiro de verdadeprópria sala. Com o rótulo genérico de "salas de humilhação" ou "salas de amigas de amigos", elas costumam ter termos de entrada rigorosos.
Publicidade
A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo prometeu impor punições mais severas para os envolvidos, e o presidente pediu que os jovens fossem mais educados.
O Telegram afirmou, porjogar bingo gratis e ganhar dinheiro de verdadevez, que "combate ativamente conteúdo prejudicial emjogar bingo gratis e ganhar dinheiro de verdadeplataforma, incluindo pornografia ilegal",jogar bingo gratis e ganhar dinheiro de verdadeuma declaração enviada à BBC.
'Um processo sistemático e organizado'
A BBC teve acesso às descrições de várias destas salas de bate-papo. Uma delas pede que os membros postem mais de quatro fotos de alguém, junto ao nome, idade e regiãojogar bingo gratis e ganhar dinheiro de verdadeque a pessoa vive.
"Fiquei chocada com o quão sistemático e organizado era o processo", declarou Ko.
"A coisa mais horrível que descobri foi um grupo para alunos menores de idade de uma escola que tinha mais de 2 mil membros."
Publicidade
Nos dias após a publicação da reportagem de Ko, ativistasjogar bingo gratis e ganhar dinheiro de verdadedefesa dos direitos das mulheres também começaram a vasculhar o Telegram — e seguir pistas.
Até o fim daquela semana, mais de 500 escolas e universidades haviam sido identificadas como alvos. O número real de pessoas afetadas ainda não foi estabelecido, mas acredita-se que muitas tenham menos de 16 anos, que é a idade de consentimento na Coreia do Sul. Uma grande parte dos supostos perpetradores são adolescentes.
Heejin disse que tomar conhecimento da dimensão da crise pioroujogar bingo gratis e ganhar dinheiro de verdadeansiedade, porque ela passou a se preocupar com quantas pessoas poderiam ter visto seus deepfakes. Inicialmente, ela se culpou.
"Eu não conseguia parar de pensar que isso aconteceu porque postei minhas fotos nas redes sociais: será que eu deveria ter sido mais cuidadosa?"
Dezenas de mulheres e adolescentesjogar bingo gratis e ganhar dinheiro de verdadetodo o país removeram suas fotos das redes sociais ou desativaram suas contas por completo, com medo de serem exploradas na sequência.
Publicidade
"Estamos frustradas e com raiva por termos que censurar nosso comportamento e nosso uso das redes sociais, quando não fizemos nada de errado", desabafou Ah-eun, uma estudante universitária cujas colegas foram alvo.
Ah-eun contou que uma vítima dajogar bingo gratis e ganhar dinheiro de verdadeuniversidade foi informada pela polícia para não se preocuparjogar bingo gratis e ganhar dinheiro de verdadelevar o caso adiante, pois seria muito difícil pegar o perpetrador — e que "não era realmente um crime", uma vez que "as fotos eram falsas".
Os sul-coreanos ficaram chocados e indignados com o escândalo do deepfake
Foto: News 1 / BBC News Brasil
No centro deste escândalo, está o aplicativo de mensagens Telegram. Diferentemente de sites públicos, que as autoridades podem acessar facilmente e,jogar bingo gratis e ganhar dinheiro de verdadeseguida, solicitar que as imagens sejam removidas, o Telegram é um aplicativo de mensagens privado e criptografado.
Os usuários geralmente são anônimos, as salas de bate-papo podem ser configuradas como "chats secretos", e seus conteúdos são rapidamente excluídos sem deixar rastros. Isso fez com que a plataforma se tornasse um espaço privilegiado para o comportamento criminoso prosperar.
Publicidade
Na semana passada, políticos e a polícia responderam energicamente, prometendo investigar estes crimes e levar os perpetradores à Justiça.
Na segunda-feira (2/9), a Agência Nacional de Polícia de Seul anunciou que investigaria o Telegram por permitir a distribuição de imagens pornográficas falsas de crianças.
O fundador do aplicativo, Pavel Durov, foi acusado na França na semana passada de ser cúmplice de uma série de crimes relacionados ao aplicativo, incluindo permitir o compartilhamento de pornografia infantil.
Mas ativistasjogar bingo gratis e ganhar dinheiro de verdadedefesa dos direitos das mulheres acusam as autoridades na Coreia do Sul de permitir que o abuso sexual no Telegram tenha ficado por tanto tempo sem controle, porque o país já enfrentou esta crise antes. Em 2019, descobriu-se que uma rede sexual criminosa estava usando o Telegram para coagir mulheres e crianças a criar e compartilhar imagens sexualmente explícitas de si mesmas.
Na época, a polícia pediu ajuda ao Telegram para a investigação, mas o aplicativo ignorou todas as sete solicitações. Embora o chefe da rede criminosa tenha sido condenado a mais de 40 anos de prisão, nenhuma medida foi tomada contra a plataforma, por causa de temoresjogar bingo gratis e ganhar dinheiro de verdaderelação à censura.
Publicidade
"Eles condenaram os protagonistas, mas, por outro lado, negligenciaram o problema, e acho que isso agravou a situação", avalia Ko.
Park Jihyun, que revelou o escândalo conhecido como Nth room,jogar bingo gratis e ganhar dinheiro de verdade2019, como uma jovem estudante de jornalismo, se tornou uma ativista políticajogar bingo gratis e ganhar dinheiro de verdadedefesa das vítimas de crimes sexuais digitais. Ela disse que desde que o escândalo do deepfake estourou, alunos e pais ligam para ela várias vezes ao dia chorando.
"Eles viram a escola deles na lista compartilhada nas redes sociais e estão apavorados."
Park tem liderado os apelos para que o governo regule ou até mesmo proíba o aplicativo na Coreia do Sul.
"Se estas empresas de tecnologia não vão cooperar com as agências de segurança pública, o Estado precisa regulá-las para proteger seus cidadãos", afirmou.
Antes da última crise estourar, o Centro de Defesa das Vítimas de Abuso Sexual Online da Coreia do Sul (ACOSAV, na siglajogar bingo gratis e ganhar dinheiro de verdadeinglês) já estava notando um aumento acentuado no número de vítimas menores de idade da pornografia deepfake.
Publicidade
Em 2023, eles aconselharam 86 vítimas adolescentes. Este número saltou para 238 apenas nos primeiros oito meses deste ano. Só na semana passada, outras 64 vítimas adolescentes se apresentaram.
Uma das líderes do centro, Park Seonghye, contou que na última semanajogar bingo gratis e ganhar dinheiro de verdadeequipe recebeu uma enxurrada de ligações — e estava trabalhando 24 horas por dia.
"Foi uma emergênciajogar bingo gratis e ganhar dinheiro de verdadegrande escala para nós, como uma situação de guerra", afirmou.
"Com a tecnologia deepfake mais avançada, agora há muito mais imagens do que costumava haver, e estamos preocupados que isso só vai aumentar."
Além de aconselhar as vítimas, o centro monitora conteúdo prejudicial e trabalha com as plataformas digitais para removê-lo. Park disse que houve alguns casosjogar bingo gratis e ganhar dinheiro de verdadeque o Telegram removeu conteúdo a pedido deles.
Publicidade
"Portanto, não é impossível", observou.
Em uma declaração, o Telegram disse à BBC que seus moderadores "monitoram proativamente partes públicas do aplicativo, usam ferramentas de IA e aceitam denúncias de usuários para remover milhões de conteúdos todos os dias que violam os termos de uso do Telegram".
Embora as organizações de direito das mulheres admitam que a inteligência artificial está facilitando a exploração das vítimas, elas argumentam que esta é apenas a forma mais recente de misoginia online a se manifestar na Coreia do Sul.
Primeiro, as mulheres foram submetidas a ondas de abuso verbal na internet. Depois, veio a epidemia de câmeras escondidas, na qual elas foram filmadas, sem conhecimento, usando banheiros públicos e vestiários.
"A causa principal disso é o sexismo estrutural, e a solução é a igualdade de gênero", diz uma declaração assinada por 84 grupos de mulheres.
Esta é uma crítica direta ao presidente do país, Yoon Suk Yeol, que negou a existência de sexismo estrutural, cortou o financiamento para grupos de apoio às vítimas e está abolindo o Ministério da Igualdade de Gênero do governo.
Publicidade
O aplicativo de mensagens Telegram na tela de um iPhone.
Foto: Getty Images / BBC News Brasil
Lee Myung-hwa, que trata de jovens infratores sexuais, concorda que, embora o surto de abuso de deepfake possa parecer repentino, ele já estava há muito tempo à espreita.
"Para os adolescentes, os deepfakes se tornaram parte dajogar bingo gratis e ganhar dinheiro de verdadecultura, são vistos como um jogo ou uma pegadinha", afirmou a terapeuta, que dirige o Aha Seoul Youth Cultural Centre.
Lee acrescentou que era fundamental educar os jovens, citando pesquisas que mostram que quando se diz aos infratores exatamente o que eles fizeram de errado, eles se tornam mais conscientes do que é considerado abuso sexual, o que os impede de reincidir.
Enquanto isso, o governo disse que vai aumentar as penas para aqueles que criam e compartilham imagens deepfake — e também vai punir aqueles que veem pornografia.
Publicidade
Isso foi anunciado após críticas de que não havia perpetradores suficientes sendo punidos. Um dos problemas é que a maioria dos suspeitos são adolescentes, que normalmente são julgados pela vara da infância e da juventude, onde recebem penas mais brandas.
Desde que as salas de bate-papo foram expostas, muitas foram fechadas, mas novas certamente vão ocupar seu lugar. Uma sala da humilhação já foi criada para atingir jornalistas que estão cobrindo este caso. Ko, que deu a notícia, diz que isso tem tirado seu sono.
"Continuo checando a sala para ver se minha foto foi enviada", revela.
Esta ansiedade é vivenciada por quase todas as adolescentes e mulheres jovens da Coreia do Sul. Ah-eun, a estudante universitária, disse que isso a fez desconfiar de conhecidos homens.
"Agora não posso ter certeza de que as pessoas não vão cometer esses crimes pelas minhas costas, sem que eu saiba", afirmou.
Publicidade
"Me tornei hipervigilantejogar bingo gratis e ganhar dinheiro de verdadetodas as minhas interações com as pessoas, o que não pode ser bom."
*Reportagem adicional de Hosu Lee e Suhnwook Lee.
BBC News Brasil - Todos os direitos reservados. É proibido todo tipo de reprodução sem autorização escrita da BBC News Brasil.
