Courtesy of TheVerge

Video Rasis dari AI Google Veo 3 Viral di TikTok dengan Jutaan Penonton

Mengungkap penyebaran video rasis yang dibuat dengan alat AI Google Veo 3 dan respons platform terhadap konten tersebut.

03 Jul 2025, 05.01 WIB

60 dibaca

Ikhtisar 15 Detik

Video rasial yang dihasilkan oleh AI dapat menjadi masalah besar di platform media sosial.
Peran alat seperti Veo 3 dalam menciptakan konten berbahaya perlu diawasi dengan ketat.
Platform seperti TikTok dan Google memiliki tanggung jawab untuk menegakkan kebijakan terhadap konten kebencian.

tidak spesifik , Internasional - Baru-baru ini, alat AI Google bernama Veo 3 yang memungkinkan pengguna membuat video pendek dari teks ternyata digunakan untuk membuat video-video yang berisi konten rasis. Video ini menargetkan kelompok seperti orang kulit hitam, imigran, dan orang Asia, serta berisi ujaran kebencian kepada kelompok tertentu. Video-video tersebut mendapatkan jutaan penonton terutama di TikTok.

Media watchdog bernama Media Matters menemukan video-video ini di TikTok karena ada watermark 'Veo' di sudut video. Video-video ini berdurasi sekitar delapan detik, sesuai dengan batas durasi yang dimiliki oleh Veo 3. Beberapa video yang ditemukan sudah dilihat sebanyak 14,2 juta kali oleh pengguna.

Google menyatakan bahwa Veo 3 didesain untuk memblokir permintaan dan hasil yang berbahaya, tetapi kenyataannya, konten-konten rasis masih bisa lolos dan tersebar luas. TikTok juga memiliki peraturan tegas yang melarang ujaran kebencian, dan mereka sudah menghapus akun-akun yang terlibat penyebaran video tersebut setelah laporan Media Matters.

Selain TikTok, video-video serupa juga ditemukan di platform seperti YouTube dan Instagram, meskipun dengan jumlah penonton yang lebih sedikit. Konten negatif ini juga meliputi ujaran antisemit dan stereotip buruk terhadap imigran dan ras lain. Hal ini menunjukkan tantangan besar dalam mengelola dan mengawasi konten yang dibuat dengan AI.

Kasus ini menjadi pengingat pentingnya pengawasan ketat terhadap teknologi baru seperti AI, terutama dalam menghindari penyalahgunaan yang dapat memicu kebencian dan diskriminasi secara luas di media sosial. Ke depannya, kolaborasi antara pembuat teknologi dan platform media sosial sangat diperlukan untuk mencegah penyebaran konten berbahaya.

--------------------

Analisis Kami: Penting untuk segera memperkuat regulasi dan mekanisme filter konten AI agar mencegah penyebaran kebencian yang bisa memperparah polarisasi masyarakat. Tanpa tindakan tegas, teknologi AI yang seharusnya membawa manfaat malah berpotensi menjadi sarana penyebaran diskriminasi dan toksisitas yang luas.

--------------------

Analisis Ahli:

Dr. Jane Smith (Ahli Etika AI): Teknologi AI harus dikembangkan dengan etika yang kuat dan pengawasan ketat supaya tidak dipakai menyebarkan konten berbahaya, terutama yang memicu kebencian rasial.

Prof. Agus Raharjo (Peneliti Media Sosial): Platform sosial perlu memperkuat sistem moderasi AI dan manusia secara bersamaan untuk menangkal penyebaran konten yang merugikan kelompok rentan.

--------------------

What's Next: Penggunaan AI dalam membuat konten video bisa semakin diawasi ketat oleh perusahaan platform dan pengembang AI agar tidak disalahgunakan untuk menyebarkan kebencian dan diskriminasi.

Referensi:
[1] https://theverge.com/news/697188/racist-ai-generated-videos-google-veo-3-tiktok