Courtesy of TechCrunch

OpenAI Tunda Peluncuran Voice Engine, Khawatir Risiko Penyalahgunaan Teknologi Suara Kloning

06 Mar 2025, 20.30 WIB

151 dibaca

Ikhtisar 15 Detik

OpenAI masih dalam tahap pengujian terbatas untuk Voice Engine dan belum ada rencana peluncuran luas.
Keamanan dan mitigasi risiko menjadi perhatian utama dalam pengembangan teknologi kloning suara.
Voice Engine memiliki potensi aplikasi yang luas, tetapi juga menghadapi tantangan dalam hal regulasi dan penyalahgunaan.

Pada akhir Maret lalu, OpenAI mengumumkan layanan AI bernama Voice Engine yang dapat meniru suara seseorang hanya dengan 15 detik rekaman suara. Meskipun sudah hampir setahun, layanan ini masih dalam tahap percobaan dan belum ada kepastian kapan akan diluncurkan secara luas. OpenAI tampaknya berhati-hati karena khawatir akan penyalahgunaan teknologi ini dan ingin menghindari perhatian dari regulator. Mereka saat ini sedang menguji Voice Engine dengan sejumlah mitra terpercaya untuk meningkatkan keamanan dan kegunaan model ini.

Voice Engine dapat menghasilkan suara yang terdengar alami dan mirip dengan pembicara aslinya. Meskipun beberapa mitra, seperti Livox, telah menguji teknologi ini, mereka belum mendapatkan informasi tentang peluncuran resmi atau biaya penggunaan. OpenAI juga telah menerapkan beberapa langkah keamanan, seperti meminta izin dari pembicara asli sebelum menggunakan suara mereka dan memberikan peringatan bahwa suara tersebut dihasilkan oleh AI. Namun, tantangan dalam mengawasi penggunaan teknologi ini tetap ada, terutama mengingat banyaknya penyalahgunaan yang terjadi dengan teknologi peniruan suara.

--------------------

Analisis Kami: Penundaan peluncuran Voice Engine menandakan bahwa OpenAI mulai menyadari betul risiko etis dan keamanan teknologi cloning suara yang sebelumnya mungkin diremehkan. Mereka harus benar-benar fokus pada pengembangan teknologi deteksi dan verifikasi untuk mencegah penyebaran konten palsu yang dapat merusak kepercayaan publik.

--------------------

Analisis Ahli:

Kate Crawford: Teknologi cloning suara membuka peluang besar sekaligus risiko serius. Tanpa aturan dan teknologi keamanan yang kuat, dampak negatif terhadap privasi dan manipulasi informasi bisa sangat berbahaya bagi masyarakat.

--------------------

What's Next: OpenAI kemungkinan akan terus menunda peluncuran luas Voice Engine sampai teknologi keamanan dan regulasi yang memadai siap diwujudkan, atau bahkan mungkin membatasi layanan ini secara permanen untuk menghindari penyalahgunaan dan tekanan regulator.

Referensi:
[1] https://techcrunch.com/2025/03/06/a-year-later-openai-still-hasnt-released-its-voice-cloning-tool/

Pertanyaan Terkait

Apa itu Voice Engine yang dikembangkan oleh OpenAI?

Voice Engine adalah layanan AI yang dapat mengkloning suara seseorang hanya dengan 15 detik rekaman suara.

Mengapa OpenAI menunda peluncuran Voice Engine?

OpenAI menunda peluncuran Voice Engine karena kekhawatiran akan penyalahgunaan dan untuk menghindari pengawasan regulasi.

Apa saja penggunaan yang diharapkan dari Voice Engine?

Penggunaan yang diharapkan dari Voice Engine termasuk terapi bicara, pembelajaran bahasa, dukungan pelanggan, karakter video game, dan avatar AI.

Apa langkah-langkah keamanan yang diterapkan oleh OpenAI untuk Voice Engine?

Langkah-langkah keamanan termasuk watermarking untuk melacak audio yang dihasilkan dan persetujuan eksplisit dari pembicara asli sebelum menggunakan teknologi tersebut.

Siapa saja mitra yang saat ini memiliki akses ke Voice Engine?

Mitra yang saat ini memiliki akses ke Voice Engine termasuk startup Livox, yang mengembangkan perangkat untuk membantu orang dengan disabilitas.