Courtesy of SCMP

Perusahaan AI Cina Rahasiakan Evaluasi Risiko Frontier, Berbeda dengan AS

Menjelaskan bahwa meskipun perusahaan AI besar di Cina seperti DeepSeek melakukan evaluasi risiko frontier pada model AI mereka, hasilnya tidak dipublikasikan, berbeda dengan praktik di AS, serta pentingnya kesadaran risiko ini bagi industri AI di Cina.

16 Sep 2025, 20.00 WIB

229 dibaca

Ikhtisar 15 Detik

DeepSeek melakukan evaluasi internal terhadap risiko yang ditimbulkan oleh model AI mereka.
Evaluasi risiko AI penting untuk memahami ancaman terhadap keamanan dan stabilitas sosial.
Perusahaan AI di China kurang transparan dibandingkan dengan rekan-rekan mereka di AS dalam hal publikasi temuan evaluasi risiko.

Hangzhou, Cina - Perusahaan start-up AI Cina DeepSeek telah melakukan evaluasi internal terhadap risiko frontier dari model kecerdasan buatannya, meskipun hasilnya tidak diumumkan secara publik. Risiko frontier adalah potensi ancaman serius yang bisa membahayakan keselamatan publik dan stabilitas sosial.

Evaluasi DeepSeek menyoroti risiko terkait kemampuan model AI untuk mereplikasi diri sendiri dan kemampuan dalam serangan siber. Namun, detail kapan evaluasi ini dilakukan dan model mana yang diuji tidak diketahui secara pasti.

Berbeda dengan perusahaan seperti Anthropic dan OpenAI di Amerika Serikat, yang secara rutin mempublikasikan hasil evaluasi risiko frontier mereka, perusahaan Cina cenderung mempertahankan kerahasiaan hasil ini.

Pemerintah Beijing semakin mendesak perusahaan-perusahaan lokal agar lebih sadar akan bahaya yang mungkin ditimbulkan oleh AI, khususnya risiko frontier yang sangat penting bagi keamanan dan stabilitas negara.

Ketidakpaljuran publikasi hasil evaluasi risiko oleh perusahaan Cina dapat menimbulkan tantangan bagi kepercayaan publik dan pengawasan eksternal, walaupun usaha mereka menunjukkan keseriusan dalam menangani potensi risiko.

Referensi:
[1] https://www.scmp.com/tech/article/3325742/deepseek-evaluates-ai-models-frontier-risks-source-says-china-promotes-safety?module=top_story&pgtype=section

Analisis Ahli

Prof. Kai-Fu Lee

"Transparansi dalam evaluasi risiko AI adalah kunci untuk mendorong pengembangan AI yang aman dan etis secara global, termasuk di pasar Cina yang terus berkembang."

Analisis Kami

"Kebijakan perusahaan Cina yang tidak mempublikasikan evaluasi risiko frontier menimbulkan kekhawatiran tentang transparansi dan kemungkinan risiko tersembunyi yang tidak terdeteksi publik. Untuk kemajuan industri AI yang bertanggung jawab, diperlukan kombinasi antara evaluasi internal yang ketat dan keterbukaan kepada masyarakat luas."

Prediksi Kami

Ke depan, mungkin akan ada tekanan yang lebih kuat dari pemerintah Cina agar perusahaan AI mulai mengungkapkan hasil evaluasi risiko frontier demi meningkatkan transparansi dan kepercayaan publik.

Pertanyaan Terkait

Apa yang dimaksud dengan risiko perbatasan dalam konteks AI?

Risiko perbatasan merujuk pada ancaman potensial yang signifikan terhadap keamanan publik dan stabilitas sosial yang ditimbulkan oleh sistem AI.

Apa yang dilakukan perusahaan DeepSeek terkait evaluasi risiko?

DeepSeek melakukan evaluasi internal terhadap kemampuan replikasi diri dan kemampuan cyber-offensive dari model AI mereka.

Mengapa hasil evaluasi risiko DeepSeek tidak dipublikasikan?

Hasil evaluasi risiko tidak dipublikasikan, dan tidak diketahui kapan evaluasi tersebut selesai atau model mana yang terlibat.

Bagaimana perbandingan antara perusahaan AI di AS dan China dalam hal transparansi?

Perusahaan AI di AS seperti Anthropic dan OpenAI secara rutin menerbitkan temuan evaluasi risiko mereka, sementara perusahaan China seperti DeepSeek belum melakukan hal yang sama.

Apa dampak dari evaluasi risiko AI terhadap keamanan publik di China?

Evaluasi risiko AI dapat meningkatkan kesadaran tentang potensi ancaman yang ditimbulkan oleh teknologi AI terhadap keamanan publik di China.