Escândalo abrange mais de 500 instituições de ensino e muitas vítimas menores, com mensagens e fotos pessoais em grupos do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais foram expostas, e isso pode estar relacionado a pornografia e deepfake.’
As consequências desse tipo de situação podem ser devastadoras, especialmente quando se trata de imagens manipuladas que podem ser usadas para criar conteúdo falso. A combinação de pornografia e deepfake levanta preocupações sérias sobre privacidade e consentimento, tornando essencial que as pessoas estejam cientes dos riscos associados a essas tecnologias. A proteção da imagem pessoal é fundamental.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou em um bate-papo para ler uma mensagem, deparou-se com uma foto dela tirada anos atrás, enquanto ainda era estudante, seguida por uma segunda imagem, que utilizava a mesma foto, mas de forma sexualmente explícita — e, evidentemente, falsa. Apavorada, Heejin, que não é seu nome verdadeiro, optou por não responder, mas as imagens manipuladas continuaram a chegar. Em todas elas, seu rosto havia sido inserido em um corpo realizando um ato sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso em situações sexualmente explícitas — está sendo gerada com uma frequência alarmante por meio de ferramentas de inteligência artificial.
Compreendendo a Tecnologia Deepfake
O trauma devastador que as vítimas enfrentam ao ver suas imagens utilizadas em ‘deepfakes’ pornôs é inegável. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. No entanto, ela não estava sozinha. Dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furo de reportagem de sua carreira. Recentemente, havia surgido a informação de que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Artigos Relacionados
Grupos de Bate-Papo e a Disseminação de Imagens Pessoais
Ela começou a investigar nas redes sociais e descobriu dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam, pedindo que fossem transformadas em deepfakes’, afirmou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias, mas também incluíam salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.
Salas de Humilhação e o Crescimento da Pornografia Falsa
Se um número considerável de conteúdo fosse criado usando as imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Comumente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas frequentemente possuem critérios de entrada rigorosos. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo se comprometeu a impor punições mais severas para os envolvidos, e o presidente pediu uma educação mais abrangente para os jovens.
A Resposta do Telegram e a Luta Contra Conteúdos Prejudiciais
O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. A situação revela a necessidade urgente de abordar o problema da pornografia deepfake e das imagens manipuladas que afetam a vida de tantas pessoas. A tecnologia, que pode ser usada para fins criativos e inovadores, também pode ser distorcida para causar danos irreparáveis, levantando questões éticas e legais que precisam ser discutidas e resolvidas.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo