Courtesy of NatureMagazine

Ilmuwan Menyembunyikan Pesan Rahasia di Makalah untuk Manipu AI Peer Review

Mengungkap praktik penyisipan pesan tersembunyi dalam makalah ilmiah untuk memanipulasi AI peer reviewer agar memberikan ulasan positif dan memperingatkan akan potensi penyalahgunaan ini yang bisa merusak integritas peer review.

11 Jul 2025, 07.00 WIB

198 dibaca

Ikhtisar 15 Detik

Peneliti menyisipkan pesan tersembunyi dalam manuskrip untuk memanipulasi peninjauan AI.
Praktik ini dianggap sebagai bentuk misconduct akademik oleh beberapa ahli.
Universitas terkait mulai mengambil tindakan untuk menangani masalah ini.

Tokyo, Jepang - Para ilmuwan kini memanfaatkan teknologi AI untuk mempercepat dan membantu proses peer review. Namun, muncul praktik curang di mana penulis menyisipkan pesan rahasia dalam makalah mereka yang cuma bisa dipahami oleh AI, seperti teks berwarna putih kecil yang tak terlihat manusia.

Pesan tersembunyi ini berisi instruksi agar AI memberikan ulasan yang positif saja dan mengabaikan kekurangan dalam makalah tersebut. Cara ini disebut prompt injection, yakni manipulasi langsung terhadap model bahasa besar yang digunakan dalam peer review AI.

Penemuan ini pertama kali dilaporkan di Tokyo dan diikuti investigasi oleh beberapa institusi riset ternama dan majalah ilmiah Nature. Dari data ditemukan bahwa makalah bermasalah berasal dari berbagai negara dan institusi, dengan penekanan pada bidang ilmu komputer.

Beberapa pihak menilai tindakan tersebut sebagai bentuk kecurangan akademik yang serius. Mereka khawatir jika praktik ini tidak segera ditangani, maka bisa merusak kepercayaan terhadap proses peer review dan kualitas riset secara umum.

Sebagai tanggapan, institusi yang terlibat melaporkan sedang meninjau dan menarik makalah yang menggunakan pesan tersembunyi ini. Ahli juga menyarankan perlunya regulasi yang lebih ketat dalam penggunaan AI untuk menjaga kejujuran dan integritas dalam dunia akademik.

Referensi:
[1] https://nature.com/articles/d41586-025-02172-y

Analisis Kami

"Praktik ini secara drastis mengancam kejujuran dan kredibilitas sistem peer review yang selama ini menjadi pilar utama kualitas ilmiah. Jika tidak segera ditangani, manipulasi berbasis AI ini bisa menurunkan kepercayaan publik terhadap hasil penelitian dan memperburuk masalah etika dalam dunia akademik."

Analisis Ahli

James Heathers

"Memperingatkan soal kerentanan sistem peer review terhadap manipulasi oleh pihak yang tidak jujur yang mencoba mengambil keuntungan dari penggunaan AI."

Gitanjali Yadav

"Menganggap penyisipan pesan tersembunyi sebagai bentuk pelanggaran etik akademik dan mengingatkan potensi skala besar jika tidak dikendalikan."

Prediksi Kami

Penyisipan pesan tersembunyi dalam makalah untuk memanipulasi AI peer-review kemungkinan akan semakin meluas, memicu tindakan tegas dari penerbit dan institusi akademik untuk memperketat pengawasan dan standar etika.