Geçtiğimiz Cumartesi günü, Heejin’in telefonunda anonim bir göndericiden gelen bir Telegram mesajı belirdi. “Fotoğraflarınız ve kişisel bilgileriniz sızdırıldı. Hadi tartışalım.”
Üniversite öğrencisi mesajı okumak için sohbet odasına girdiğinde, birkaç yıl önce henüz okuldayken çekilmiş bir fotoğrafıyla karşılaştı. Bunu aynı fotoğrafı kullanan ikinci bir görüntü izledi, ancak bu cinsel içerikli ve sahteydi.
Dehşete kapılan Heejin (gerçek adı değil) yanıt vermedi ama görüntüler gelmeye devam etti. Hepsinde de yüzü, sofistike deepfake teknolojisi kullanılarak seks eylemi yapan bir bedene iliştirilmişti.
Çoğunluğu gerçek bir kişinin yüzünü sahte, cinsel içerikli bir bedenle birleştiren deepfake’ler giderek daha fazla yapay zeka kullanılarak üretiliyor.
Heejin BBC’ye “Dehşete kapıldım, kendimi çok yalnız hissettim” dedi.
Ama yalnız değildi.

İki gün önce Güney Koreli gazeteci Ko Narin, kariyerinin en büyük atlatma haberine dönüşecek bir haber yayınlamıştı. Kısa süre önce polisin ülkenin iki büyük üniversitesinde deepfake porno halkalarını araştırdığı ortaya çıkmıştı ve Bayan Ko daha fazlası olması gerektiğine ikna olmuştu.
Sosyal medyayı araştırmaya başladı ve mesajlaşma uygulaması Telegram’da kullanıcıların tanıdıkları kadınların fotoğraflarını paylaştıkları ve yapay zeka yazılımı kullanarak bunları saniyeler içinde sahte pornografik görüntülere dönüştürdükleri düzinelerce sohbet grubunu ortaya çıkardı.
Bayan Ko bize “İnsanlar her dakika tanıdıkları kızların fotoğraflarını yüklüyor ve bunların deepfake’lere dönüştürülmesini istiyordu” dedi.
Bayan Ko bu grupların sadece üniversite öğrencilerini hedef almadığını keşfetti. Belirli liseler ve hatta ortaokullar için ayrılmış odalar vardı. Belirli bir öğrencinin görüntüleri kullanılarak çok sayıda içerik oluşturulursa, ona kendi odası bile verilebiliyordu. Genel olarak “aşağılama odaları” ya da “arkadaşın arkadaşı odaları” olarak adlandırılan bu odalar genellikle katı giriş koşullarıyla birlikte geliyor.
Bayan Ko’nun Hankyoreh gazetesinde yer alan haberi Güney Kore’de şok etkisi yarattı. Pazartesi günü polis, kısa süre önce Telegram’ın Rus kurucusunu uygulamayla ilgili suçlardan dolayı suçlayan Fransa’daki yetkililerin izinden giderek Telegram hakkında bir soruşturma açmayı düşündüklerini duyurdu. Hükümet bu suça karışanlara daha ağır cezalar getirme sözü verdi ve cumhurbaşkanı genç erkeklerin daha iyi eğitilmesi çağrısında bulundu.

Telegram, BBC’ye yaptığı açıklamada “yasadışı pornografi de dahil olmak üzere platformundaki zararlı içerikle aktif bir şekilde mücadele ettiğini” söyledi.

‘Sistematik ve organize bir süreç’

BBC bu sohbet odalarından bazılarının açıklamalarını inceledi. Bir tanesinde üyelerden birinin adı, yaşı ve yaşadığı bölgeyle birlikte dörtten fazla fotoğrafını paylaşmaları isteniyor.
Bayan Ko, “Sürecin ne kadar sistematik ve organize olduğunu görünce şok oldum” dedi. “Keşfettiğim en korkunç şey, bir okulda reşit olmayan öğrenciler için kurulan ve 2.000’den fazla üyesi olan bir gruptu.”
Bayan Ko’nun makalesinin yayınlanmasından sonraki günlerde, kadın hakları aktivistleri de Telegram’ı taramaya ve ipuçlarını takip etmeye başladı.
O haftanın sonuna kadar 500’den fazla okul ve üniversite hedef olarak belirlenmişti. Etkilenenlerin gerçek sayısı henüz tespit edilemedi ancak birçoğunun Güney Kore’de rıza yaşı olan 16 yaşın altında olduğuna inanılıyor. Şüpheli faillerin büyük bir kısmı da gençlerden oluşuyor.
Heejin, krizin boyutunu öğrendiğinde endişesinin daha da arttığını, çünkü artık kaç kişinin deepfake’lerini görmüş olabileceğinden endişe ettiğini söyledi. Başlangıçta kendini suçlamış. “Fotoğraflarımı sosyal medyaya yüklediğim için mi bunlar oldu, daha dikkatli mi olmalıydım diye düşünmeden edemedim.”

Ülke genelinde çok sayıda kadın ve genç, sıranın kendilerine de gelebileceği korkusuyla fotoğraflarını sosyal medyadan kaldırdı ya da hesaplarını tamamen devre dışı bıraktı.
Akranları hedef alınan bir üniversite öğrencisi Ah-eun, “Yanlış bir şey yapmadığımız halde davranışlarımızı ve sosyal medya kullanımımızı sansürlemek zorunda kaldığımız için hayal kırıklığına uğradık ve öfkeliyiz” dedi.
Ah-eun, üniversitesindeki bir mağdura polisin, faili yakalamanın çok zor olacağı ve “fotoğraflar sahte” olduğu için “gerçek bir suç olmadığı” için davasını takip etmekle uğraşmamasını söylediğini aktardı.