Courtesy of TechCrunch
Character.AI Tambah Fitur Video, Tapi Risiko Penyalahgunaan Makin Besar
Mengumumkan peluncuran fitur multimedia baru di Character.AI sekaligus menyoroti risiko penyalahgunaan yang mungkin muncul akibat ekspansi fitur tersebut.
03 Jun 2025, 02.20 WIB
47 dibaca
Share
Ikhtisar 15 Detik
- Character.AI memperkenalkan fitur multimedia baru untuk meningkatkan interaksi pengguna.
- Platform ini menghadapi tantangan terkait keamanan dan potensi penyalahgunaan.
- Meskipun ada pembatasan, risiko seperti penyebaran konten negatif tetap ada.
tidak spesifik, secara global - Character.AI adalah platform untuk ngobrol dan bermain peran dengan karakter AI. Mereka baru saja menambahkan fitur video bernama AvatarFX, yang memungkinkan pengguna membuat video karakter berdasarkan foto dan suara yang dipilih.
Selain AvatarFX, ada fitur lainnya seperti Scenes dan Streams yang memungkinkan karakter AI berinteraksi dalam cerita dan dibagikan ke komunitas pengguna lewat feed baru di aplikasi.
Meskipun fitur ini membantu kreativitas dan interaksi pengguna, ternyata ada risiko penyalahgunaan. Platform ini pernah dilaporkan memicu anak-anak untuk melakukan hal berbahaya termasuk kasus bunuh diri tragis.
Untuk mencegah penyalahgunaan, Character.AI membatasi penggunaan foto asli dan menandai video dengan watermark agar tidak mudah dipalsukan atau digunakan secara jahat.
Namun, ilustrasi dan video yang dihasilkan tetap memiliki potensi disalahgunakan, sehingga perusahaan harus menjaga keseimbangan antara inovasi dan keselamatan pengguna.
Pertanyaan Terkait
Q
Apa itu Character.AI?A
Character.AI adalah platform untuk chatting dan peran yang menggunakan karakter yang dihasilkan oleh AI.Q
Fitur baru apa yang diluncurkan oleh Character.AI?A
Character.AI meluncurkan fitur multimedia termasuk AvatarFX, Scenes, dan Streams.Q
Apa yang dilakukan pengguna dengan AvatarFX?A
Pengguna dapat membuat video dengan mengunggah foto, memilih suara, dan menulis teks untuk karakter.Q
Apa risiko yang terkait dengan penggunaan Character.AI?A
Risiko terkait termasuk potensi penyalahgunaan, terutama yang berkaitan dengan perundungan dan kesehatan mental.Q
Bagaimana Character.AI memastikan keamanan pengguna?A
Character.AI menghalangi pengguna mengunggah foto orang nyata dan melakukan watermark pada video untuk mencegah penyalahgunaan.Artikel Serupa
Teknologi
4 bulan lalu
85 dibaca
Inovasi AI Membawa Kemungkinan Imajinatif, Tetapi Juga Risiko
Bisnis
4 bulan lalu
143 dibaca
Startup AI Character AI menguji permainan di web.
Teknologi
5 bulan lalu
79 dibaca
Character.AI menambahkan David Brinker, mantan eksekutif Snap, untuk mengelola kemitraan media.
Teknologi
5 bulan lalu
336 dibaca
Pengguna Media Sosial AI Tidak Selalu Merupakan Ide yang Sepenuhnya Bodoh
Teknologi
5 bulan lalu
226 dibaca
Meta Membuka Pintu Lebar untuk Akun yang Dihasilkan oleh AI di Facebook dan Instagram
Teknologi
6 bulan lalu
108 dibaca