Courtesy of TechCrunch

Sand AI Rilis Model Video AI Magi-1 dengan Sensor Konten Sensitif di China

Menginformasikan tentang peluncuran model AI video-generasi baru oleh Sand AI dan bagaimana model ini menyensor konten yang sensitif secara politik.

23 Apr 2025, 02.30 WIB

93 dibaca

Ikhtisar 15 Detik

Sand AI meluncurkan model video-generasi yang canggih bernama Magi-1.
Penyaringan konten sensitif di China sangat ketat dan dipengaruhi oleh regulasi pemerintah.
Perbandingan antara startup AI di China menunjukkan perbedaan dalam kebijakan penyaringan konten politik.

China - Sand AI, sebuah startup berbasis di China, baru saja merilis model AI video-generasi bernama Magi-1 yang mendapat pujian dari beberapa pengusaha ternama. Model ini diklaim mampu menghasilkan video berkualitas tinggi dan menangkap fisika lebih akurat dibandingkan model terbuka lainnya. Namun, model ini terlalu besar untuk dijalankan pada perangkat keras konsumen biasa dan membutuhkan antara empat hingga delapan GPU Nvidia H100.

Platform Sand AI memerlukan gambar 'prompt' untuk memulai generasi video, namun tidak semua gambar diperbolehkan. TechCrunch menemukan bahwa Sand AI memblokir unggahan gambar yang sensitif secara politik seperti gambar Xi Jinping, Tiananmen Square, Tank Man, bendera Taiwan, dan lambang yang mendukung pembebasan Hong Kong. Penyaringan ini tampaknya dilakukan pada tingkat gambar, sehingga mengganti nama file gambar tidak dapat menghindari pemblokiran.

Model AI di China harus mematuhi kontrol informasi yang ketat sesuai dengan undang-undang 2023 yang melarang model menghasilkan konten yang merusak persatuan negara dan harmoni sosial. Meskipun model AI di China sering memblokir pidato politik, mereka cenderung memiliki lebih sedikit filter untuk konten pornografi dibandingkan dengan model Amerika. Beberapa generator video yang dirilis oleh perusahaan China dilaporkan tidak memiliki pengaman dasar untuk mencegah orang menghasilkan ketelanjangan non-konsensual.

--------------------

Analisis Kami: Sensor keras yang diterapkan Sand AI menunjukkan bahwa inovasi teknologi di China masih harus berjalan seiring dengan kepatuhan pada kontrol pemerintahan yang ketat, yang bisa membatasi potensi kreativitas dan kebebasan pengguna. Namun, diferensiasi dalam filter konten pornografi dibandingkan perusahaan Barat juga memperlihatkan pendekatan berbeda dalam regulasi konten yang belum selesai dibahas secara global.

--------------------

Analisis Ahli:

Kai-Fu Lee: Pengembangan teknologi AI canggih seperti Magi-1 adalah terobosan besar yang menunjukkan kapasitas inovasi teknologi China, meskipun harus beradaptasi dengan kebijakan pemerintah.

Wired: Regulasi ketat di China memaksa perusahaan AI memprioritaskan sensor politik, yang berdampak pada kebebasan berkreasi dalam pengembangan model AI.

--------------------

What's Next: Startup AI di China kemungkinan akan terus mengadopsi dan memperketat filter sensor politik pada model mereka agar tetap patuh terhadap regulasi pemerintah, meskipun hal ini dapat membatasi kebebasan inovasi dan ekspresi di ranah AI generatif.

Referensi:
[1] https://techcrunch.com/2025/04/22/a-chinese-ai-video-startup-appears-to-be-blocking-politically-sensitive-images/