Debat Mungkin Membantu Model AI Menemukan Kebenaran

Pada Februari 2023, chatbot AI Google, Bard, mengklaim bahwa Teleskop Luar Angkasa James Webb telah menangkap gambar pertama dari planet di luar tata surya kita, tetapi itu tidak benar. Penelitian menunjukkan bahwa ketika model AI seperti ChatGPT menjawab pertanyaan, banyak dari jawabannya yang tidak akurat. Para ahli khawatir bahwa seiring berkembangnya model AI, mereka mungkin menjadi lebih pintar daripada manusia, sehingga sulit untuk mempercayai apa yang mereka katakan. Salah satu solusi yang diusulkan adalah membiarkan dua model AI berdebat untuk menemukan jawaban yang lebih akurat, dengan model yang lebih sederhana atau manusia sebagai juri. Penelitian terbaru menunjukkan bahwa debat antara model AI dapat membantu juri, baik manusia maupun mesin, untuk mengenali kebenaran. Dalam beberapa eksperimen, ketika model AI dilatih untuk berdebat, juri non-ahli dapat mencapai jawaban yang benar lebih sering dibandingkan tanpa debat. Namun, masih ada tantangan dalam memastikan bahwa model AI dapat dipercaya, karena mereka bisa dipengaruhi oleh berbagai faktor. Penelitian ini menunjukkan langkah positif menuju pengembangan sistem AI yang lebih aman dan dapat diandalkan, meskipun masih banyak yang perlu dilakukan untuk memahami dan meningkatkan cara kerja model-model ini.