Artikel - Jutaan Orang Menggunakan Bot AI 'Nudify' yang Menyebabkan Kekerasan di Telegram

Pada awal tahun 2020, seorang ahli deepfake bernama Henry Ajder menemukan bot Telegram yang pertama kali dibuat untuk "melepas pakaian" foto wanita menggunakan kecerdasan buatan. Bot ini telah digunakan untuk menghasilkan lebih dari 100.000 foto eksplisit, termasuk gambar anak-anak, dan menandai awal mula penyalahgunaan teknologi deepfake. Sejak saat itu, deepfake semakin banyak digunakan dan menjadi lebih mudah dibuat. Sekarang, terdapat setidaknya 50 bot di Telegram yang dapat menciptakan foto atau video eksplisit dengan hanya beberapa klik. Gabungan seluruh bot ini memiliki lebih dari 4 juta pengguna bulanan, menunjukkan seberapa luasnya penggunaan alat pembuat deepfake yang tidak sah ini.

Meskipun Telegram telah menghapus beberapa bot dan saluran yang terlibat dalam pembuatan konten eksplisit, masalah ini tetap besar. Banyak orang masih bisa dengan mudah mengakses dan menemukan alat berbahaya ini di platform yang besar. Deepfake yang tidak konsensual ini, yang kebanyakan menyasar wanita dan gadis muda, dapat menyebabkan trauma psikologis dan perasaan malu yang mendalam bagi korban. Walaupun beberapa negara telah membuat hukum untuk menangani masalah ini, banyak aplikasi yang masih memungkinkan pembuatan dan penyebaran deepfake eksplisit. Pihak Telegram diharapkan lebih proaktif dalam menangani konten berbahaya agar keselamatan pengguna bisa lebih terjaga.

Sumber: https://wired.com/story/ai-deepfake-nudify-bots-telegram/