Courtesy of TechCrunch
OpenAI Uji Kemampuan Persuasi AI dengan Data Reddit r/ChangeMyView
01 Feb 2025, 06.47 WIB
176 dibaca
Share
OpenAI menggunakan subreddit r/ChangeMyView untuk menguji kemampuan persuasi model AI mereka. Di subreddit ini, pengguna berbagi pendapat dan berharap mendapatkan sudut pandang lain dari pengguna lain yang memberikan argumen untuk mengubah pandangan awal. OpenAI mengumpulkan pos dari subreddit ini dan meminta model AI mereka untuk menulis balasan yang dapat mengubah pikiran pengguna Reddit. Hasilnya kemudian dinilai oleh penguji untuk melihat seberapa persuasif argumen tersebut dibandingkan dengan balasan manusia.
Meskipun model AI terbaru OpenAI, seperti o3-mini, menunjukkan kemampuan persuasi yang baik, perusahaan ini tidak ingin menciptakan model yang terlalu persuasif karena bisa berbahaya. Jika AI terlalu pandai dalam meyakinkan orang, bisa jadi AI tersebut mengejar agenda sendiri atau agenda orang yang mengendalikannya. OpenAI berusaha untuk menemukan dataset berkualitas tinggi untuk menguji model mereka, tetapi prosesnya tidak mudah.
Referensi:
[1] https://techcrunch.com/2025/01/31/openai-used-this-subreddit-to-test-ai-persuasion/
[1] https://techcrunch.com/2025/01/31/openai-used-this-subreddit-to-test-ai-persuasion/
Analisis Ahli
Yoshua Bengio
"Pengujian kemampuan persuasi AI memang menarik, tapi perlu diimbangi dengan riset mendalam tentang dampak sosial dan etika agar tidak menciptakan alat manipulasi yang berbahaya."
Analisis Kami
"Pendekatan OpenAI menggunakan data nyata dari r/ChangeMyView adalah langkah penting untuk mengasah kemampuan persuasi AI secara realistis, namun penggunaan data tersebut harus diawasi ketat agar tidak melanggar privasi dan kebijakan platform. Selain itu, pengembangan model yang tidak terlalu persuasif juga krusial sebagai bentuk tanggung jawab etis dalam pengembangan AI."
Prediksi Kami
Di masa depan, perusahaan AI akan semakin fokus pada pengembangan mekanisme pengaman untuk mencegah AI menjadi terlalu persuasif dan manipulatif, sementara regulasi terkait penggunaan data dari platform online seperti Reddit akan menjadi lebih ketat.
Pertanyaan Terkait
Q
Apa tujuan OpenAI dalam menggunakan subreddit r/ChangeMyView?A
Tujuan OpenAI dalam menggunakan subreddit r/ChangeMyView adalah untuk mengukur kemampuan persuasi dari model AI mereka.Q
Bagaimana OpenAI mengumpulkan data dari subreddit tersebut?A
OpenAI mengumpulkan data dari subreddit dengan meminta model AI mereka untuk menulis balasan yang dapat mengubah pandangan pengguna Reddit.Q
Apa yang menjadi fokus utama dari model o3-mini?A
Fokus utama dari model o3-mini adalah untuk memastikan bahwa model AI tidak terlalu persuasif dan dapat berfungsi dengan aman.Q
Mengapa penting untuk menguji kemampuan persuasi model AI?A
Penting untuk menguji kemampuan persuasi model AI karena model yang sangat persuasif dapat berpotensi berbahaya jika digunakan untuk tujuan yang salah.Q
Apa yang dikatakan OpenAI tentang kinerja model AI mereka dibandingkan dengan manusia?A
OpenAI menyatakan bahwa model AI mereka, termasuk o3-mini, menunjukkan kemampuan persuasi yang kuat, tetapi tidak jauh lebih baik dari manusia.
