Courtesy of YahooFinance

OpenAI Gunakan Reddit r/ChangeMyView untuk Tes Kemampuan Persuasi Model AI

01 Feb 2025, 06.47 WIB

121 dibaca

OpenAI menggunakan subreddit r/ChangeMyView untuk menguji kemampuan persuasi model AI mereka. Di subreddit ini, pengguna berbagi pendapat dan berharap mendapatkan sudut pandang lain dari orang lain. OpenAI mengumpulkan pos dari r/ChangeMyView dan meminta model AI mereka untuk menulis balasan yang dapat mengubah pikiran pengguna Reddit tentang suatu topik. Hasil balasan ini kemudian dinilai oleh penguji untuk melihat seberapa persuasif argumen tersebut dibandingkan dengan balasan manusia.

Meskipun model AI terbaru OpenAI, seperti o3-mini, menunjukkan kemampuan persuasi yang baik, perusahaan ini tidak ingin menciptakan model yang terlalu persuasif. Mereka khawatir jika AI terlalu pandai dalam meyakinkan orang, itu bisa berbahaya. Oleh karena itu, OpenAI mengembangkan evaluasi dan langkah-langkah pengamanan untuk memastikan model AI mereka tidak menjadi terlalu persuasif. Meskipun mereka telah mengumpulkan banyak data dari internet, menemukan dataset berkualitas tinggi untuk menguji model-model ini tetap menjadi tantangan.

Referensi:
[1] https://finance.yahoo.com/news/openai-used-subreddit-test-ai-234700973.html

Analisis Ahli

Yoshua Bengio

"Kekuatan persuasi AI merupakan tantangan etika yang kritis, karena model yang sangat meyakinkan harus diimbangi dengan kontrol dan pengawasan ketat agar tidak berpotensi disalahgunakan."

Fei-Fei Li

"Data berkualitas tinggi dari komunitas seperti r/ChangeMyView penting untuk mengembangkan AI yang lebih manusiawi dan mampu berinteraksi secara efektif tanpa melampaui batas moral."

Analisis Kami

"Penggunaan data r/ChangeMyView oleh OpenAI menunjukkan bahwa model AI kini semakin matang dalam memahami dan memproduksi argumen yang meyakinkan, tapi ini juga membuka risiko etika besar jika AI disalahgunakan untuk manipulasi. Ke depan, penting bagi perusahaan AI untuk menerapkan batasan dan transparansi agar inovasi ini tidak membahayakan masyarakat."

Prediksi Kami

Di masa depan, akan semakin ketat regulasi dan perjanjian terkait penggunaan data dari platform online untuk pelatihan AI, dan perusahaan akan lebih berhati-hati dalam mengembangkan model yang mampu berpersuasi tinggi agar menghindari risiko penyalahgunaan.

Pertanyaan Terkait

Apa tujuan OpenAI menggunakan subreddit r/ChangeMyView?

Tujuan OpenAI menggunakan subreddit r/ChangeMyView adalah untuk menguji kemampuan persuasi model AI-nya.

Bagaimana OpenAI menguji kemampuan persuasi model AI-nya?

OpenAI menguji kemampuan persuasi model AI-nya dengan meminta model untuk menulis balasan yang dapat mengubah pikiran pengguna Reddit tentang suatu subjek.

Apa yang dikatakan Steve Huffman tentang perusahaan AI yang tidak bernegosiasi?

Steve Huffman mengatakan bahwa beberapa perusahaan AI, seperti Microsoft dan Anthropic, tidak mau bernegosiasi mengenai lisensi data, yang membuatnya kesulitan.

Mengapa penting bagi OpenAI untuk tidak menciptakan model AI yang terlalu persuasif?

Penting bagi OpenAI untuk tidak menciptakan model AI yang terlalu persuasif karena dapat berpotensi membahayakan jika AI dapat mengejar agenda sendiri atau agenda pihak yang mengendalikannya.

Apa yang menjadi tantangan bagi pengembang model AI dalam menemukan dataset berkualitas tinggi?

Tantangan bagi pengembang model AI dalam menemukan dataset berkualitas tinggi adalah bahwa meskipun mereka telah mengumpulkan banyak data, mendapatkan data yang berkualitas tetap sulit.