Courtesy of TheVerge
Video Rasis dari AI Google Veo 3 Viral di TikTok dengan Jutaan Penonton
Mengungkap penyebaran video rasis yang dibuat dengan alat AI Google Veo 3 dan respons platform terhadap konten tersebut.
03 Jul 2025, 05.01 WIB
52 dibaca
Share
Ikhtisar 15 Detik
- Video rasial yang dihasilkan oleh AI dapat menjadi masalah besar di platform media sosial.
- Peran alat seperti Veo 3 dalam menciptakan konten berbahaya perlu diawasi dengan ketat.
- Platform seperti TikTok dan Google memiliki tanggung jawab untuk menegakkan kebijakan terhadap konten kebencian.
tidak spesifik , Internasional - Baru-baru ini, alat AI Google bernama Veo 3 yang memungkinkan pengguna membuat video pendek dari teks ternyata digunakan untuk membuat video-video yang berisi konten rasis. Video ini menargetkan kelompok seperti orang kulit hitam, imigran, dan orang Asia, serta berisi ujaran kebencian kepada kelompok tertentu. Video-video tersebut mendapatkan jutaan penonton terutama di TikTok.
Media watchdog bernama Media Matters menemukan video-video ini di TikTok karena ada watermark 'Veo' di sudut video. Video-video ini berdurasi sekitar delapan detik, sesuai dengan batas durasi yang dimiliki oleh Veo 3. Beberapa video yang ditemukan sudah dilihat sebanyak 14,2 juta kali oleh pengguna.
Google menyatakan bahwa Veo 3 didesain untuk memblokir permintaan dan hasil yang berbahaya, tetapi kenyataannya, konten-konten rasis masih bisa lolos dan tersebar luas. TikTok juga memiliki peraturan tegas yang melarang ujaran kebencian, dan mereka sudah menghapus akun-akun yang terlibat penyebaran video tersebut setelah laporan Media Matters.
Selain TikTok, video-video serupa juga ditemukan di platform seperti YouTube dan Instagram, meskipun dengan jumlah penonton yang lebih sedikit. Konten negatif ini juga meliputi ujaran antisemit dan stereotip buruk terhadap imigran dan ras lain. Hal ini menunjukkan tantangan besar dalam mengelola dan mengawasi konten yang dibuat dengan AI.
Kasus ini menjadi pengingat pentingnya pengawasan ketat terhadap teknologi baru seperti AI, terutama dalam menghindari penyalahgunaan yang dapat memicu kebencian dan diskriminasi secara luas di media sosial. Ke depannya, kolaborasi antara pembuat teknologi dan platform media sosial sangat diperlukan untuk mencegah penyebaran konten berbahaya.
Sumber: https://theverge.com/news/697188/racist-ai-generated-videos-google-veo-3-tiktok
Pertanyaan Terkait
Q
Apa yang ditemukan oleh Media Matters terkait dengan video rasial?A
Media Matters menemukan bahwa video rasial yang dihasilkan oleh Veo 3 telah mengumpulkan jutaan tampilan di TikTok.Q
Apa itu Veo 3 dan siapa yang mengembangkannya?A
Veo 3 adalah alat generasi video AI yang dikembangkan oleh Google.Q
Berapa banyak tampilan yang diterima salah satu video yang dihasilkan oleh Veo 3?A
Salah satu video yang dihasilkan oleh Veo 3 menerima 14,2 juta tampilan.Q
Apa yang dikatakan TikTok mengenai konten kebencian di platform mereka?A
TikTok menyatakan bahwa mereka secara proaktif menegakkan aturan ketat terhadap konten kebencian dan telah menghapus akun-akun yang teridentifikasi.Q
Apa jenis konten lain yang ditemukan Media Matters selain video rasial?A
Media Matters juga menemukan konten antisemitisme dan penggambaran rasial terhadap imigran dan orang Asia.Artikel Serupa
Teknologi
1 bulan lalu
66 dibaca
Google Veo 3: AI Pembuat Video dengan Audio Otomatis untuk Era Baru
Teknologi
1 bulan lalu
144 dibaca
Bahaya Operasi Propaganda China di YouTube dan Kekhawatiran Serupa di TikTok
Teknologi
2 bulan lalu
92 dibaca
Google Luncurkan Veo 2: Tantangan Baru di Dunia AI Video-Generasi
Teknologi
2 bulan lalu
150 dibaca
Google Luncurkan Veo 2: AI Teks-ke-Video dengan Realisme Sinematik
Teknologi
4 bulan lalu
101 dibaca
YouTube Merayakan Tahun ke-20 dengan Alat Pembuatan Video AI Veo 2
Teknologi
4 bulan lalu
181 dibaca