Courtesy of TechCrunch

ChatGPT Search dapat diperdaya untuk menyesatkan pengguna, penelitian baru mengungkapkan.

27 Des 2024, 04.31 WIB

118 dibaca

ChatGPT Search adalah mesin pencari yang menggunakan kecerdasan buatan dan baru diluncurkan bulan ini. Namun, sebuah surat kabar di Inggris, The Guardian, menemukan bahwa ChatGPT bisa dibohongi untuk menghasilkan ringkasan yang menyesatkan. Misalnya, dengan menyisipkan teks tersembunyi di dalam situs web, ChatGPT dapat diatur untuk mengabaikan ulasan negatif dan hanya memberikan ringkasan yang positif. Selain itu, metode ini juga bisa digunakan untuk menghasilkan kode berbahaya.

Serangan dengan teks tersembunyi ini sudah dikenal sebagai risiko bagi model bahasa besar (LLM), tetapi ini adalah pertama kalinya masalah ini ditunjukkan pada produk pencarian berbasis AI yang aktif. Meskipun OpenAI, perusahaan di balik ChatGPT, tidak memberikan komentar spesifik tentang insiden ini, mereka menyatakan bahwa mereka terus berupaya untuk memblokir situs web berbahaya dan meningkatkan sistem mereka.

(Sumber)

Pertanyaan Terkait

Apa itu ChatGPT Search?

ChatGPT Search adalah mesin pencari yang didukung AI yang diluncurkan bulan ini.

Bagaimana ChatGPT Search dapat dipermainkan?

ChatGPT Search dapat dipermainkan dengan menyisipkan teks tersembunyi ke dalam situs web untuk menghasilkan ringkasan yang sepenuhnya positif.

Siapa yang menemukan masalah dengan ChatGPT Search?

Masalah dengan ChatGPT Search ditemukan oleh surat kabar Inggris, The Guardian.

Apa yang dilakukan OpenAI terkait masalah ini?

OpenAI tidak memberikan komentar spesifik tentang insiden ini tetapi menyatakan bahwa mereka terus meningkatkan metode untuk memblokir situs web berbahaya.

Mengapa Google lebih berpengalaman dalam menangani masalah ini?

Google lebih berpengalaman dalam menangani masalah terkait penipuan di mesin pencari karena telah beroperasi lebih lama.