Courtesy of SCMP
Bahaya AI Tiongkok Mencapai Level Risiko Tinggi, Butuh Pengawasan Serius
Memberikan gambaran tentang potensi risiko dan bahaya dari perkembangan AI di Tiongkok, serta mendorong perusahaan-perusahaan untuk meningkatkan keamanan model mereka demi mencegah dampak negatif yang serius.
07 Nov 2025, 18.00 WIB
195 dibaca
Share
Ikhtisar 15 Detik
- Perkembangan model AI di Tiongkok menunjukkan risiko yang semakin meningkat bagi keselamatan publik.
- Ada kekhawatiran bahwa AI yang kuat dapat disalahgunakan oleh aktor jahat.
- Upaya untuk meningkatkan keamanan model AI sangat penting untuk mencegah konsekuensi yang merusak.
Beijing, Tiongkok - Perkembangan kecerdasan buatan dari Tiongkok kini hampir menyamai kemajuan yang dicapai oleh perusahaan-perusahaan Amerika Serikat. Ini menimbulkan kekhawatiran khusus tentang risiko teknologi ini yang disebut risiko frontier, yang dapat berbahaya bagi keamanan masyarakat dan stabilitas sosial.
Concordia AI, sebuah konsultan yang fokus pada keselamatan AI di Tiongkok, menganalisis 50 model AI terkemuka dan menemukan bahwa model-model dari Tiongkok seperti DeepSeek kini menunjukkan risiko yang signifikan untuk disalahgunakan oleh pihak-pihak yang berbahaya.
Salah satu model unggulan dari DeepSeek, yaitu R1, dinilai memiliki risiko tertinggi khususnya dalam potensi melakukan serangan siber, yang menjadi catatan penting bagi para regulator dan pengembang AI.
Para ahli menekankan bahwa semakin canggihnya kemampuan AI berarti risiko potensialnya juga kian tinggi, sehingga perlu ada pengawasan dan kebijakan yang dapat mencegah dampak negatif dari teknologi ini.
Kesimpulannya, agar perkembangan AI bisa membawa manfaat maksimal tanpa membahayakan publik, perusahaan dan pemerintah harus bekerja sama memperkuat sistem keamanan serta menerapkan kontrol yang ketat terhadap penggunaan teknologi ini.
Referensi:
[1] https://www.scmp.com/tech/tech-trends/article/3331952/chinese-ai-models-comparable-us-ones-frontier-risks-study-finds?module=top_story&pgtype=subsection
[1] https://www.scmp.com/tech/tech-trends/article/3331952/chinese-ai-models-comparable-us-ones-frontier-risks-study-finds?module=top_story&pgtype=subsection
Analisis Ahli
Fang Liang
"Kami berharap temuan ini dapat membantu perusahaan meningkatkan keamanan model mereka agar risiko dapat diminimalisir."
Analisis Kami
"Kemajuan teknologi AI memang membawa potensi luar biasa, tapi tanpa standar keselamatan yang kuat, teknologi ini bisa menjadi pedang bermata dua. Perusahaan-perusahaan Tiongkok dan pemerintah harus segera mengimplementasikan kebijakan yang serius untuk mengendalikan risiko ini agar tidak berujung pada bencana yang tidak dapat diperbaiki."
Prediksi Kami
Jika tidak ada langkah pengawasan dan regulasi yang ketat, risiko penyalahgunaan AI di masa depan akan semakin meningkat, yang dapat mengancam keamanan dunia maya dan stabilitas sosial secara global.
Pertanyaan Terkait
Q
Apa yang dimaksud dengan risiko perbatasan dalam konteks AI?A
Risiko perbatasan dalam konteks AI merujuk pada potensi bahaya yang dapat ditimbulkan oleh sistem AI yang canggih terhadap keselamatan publik dan stabilitas sosial.Q
Mengapa model AI dari DeepSeek menjadi perhatian?A
Model AI dari DeepSeek menjadi perhatian karena memiliki skor risiko tinggi terkait kemungkinan melakukan serangan siber.Q
Apa temuan utama dari analisis Concordia AI?A
Temuan utama dari analisis Concordia AI adalah bahwa model AI di Tiongkok kini mendekati risiko perbatasan yang setara dengan rekan-rekan mereka di AS.Q
Apa konsekuensi yang dibahas terkait dengan perkembangan model AI?A
Konsekuensi yang dibahas terkait dengan perkembangan model AI termasuk kemungkinan bencana besar, termasuk kehancuran umat manusia.Q
Siapa yang memimpin penelitian tentang keamanan AI di Tiongkok?A
Penelitian tentang keamanan AI di Tiongkok dipimpin oleh Fang Liang, kepala keamanan dan tata kelola AI di Concordia AI.
