Courtesy of Forbes
Rangkuman Berita: AI dan Kita: Peran Preferensi Manusia dalam Penyesuaian Model
Share
Olga Megorskaya adalah pendiri dan CEO Toloka AI, yang menyediakan data berkualitas tinggi untuk pengembangan kecerdasan buatan (AI). Baru-baru ini, sebuah studi menunjukkan bahwa model AI canggih seperti GPT-4 sering memberikan informasi medis yang tidak akurat, hampir setengah dari waktu. Oleh karena itu, penting untuk tidak sepenuhnya mengandalkan AI dalam membuat keputusan kesehatan. Untuk meningkatkan keandalan model AI, proses yang disebut "alignment" dilakukan, yang bertujuan untuk membuat model lebih membantu, jujur, dan tidak berbahaya. Proses ini melibatkan pelatihan model dengan data yang menunjukkan contoh respons yang baik dan buruk.
Alignment juga melibatkan teknik seperti RLHF (reinforcement learning from human feedback) dan DPO (direct preference optimization), di mana manusia memilih respons yang lebih baik dari beberapa pilihan yang diberikan oleh model. Pengumpulan data alignment yang efektif memerlukan umpan balik dari ahli yang berpengalaman, terutama dalam bidang yang kompleks seperti medis atau hukum. Dengan melakukan alignment yang baik, kita dapat memastikan bahwa model AI berperilaku sesuai dengan standar etika dan aman digunakan, sehingga meningkatkan kepercayaan pengguna terhadap sistem AI.
Pertanyaan Terkait
Q
Siapa Olga Megorskaya?A
Olga Megorskaya adalah pendiri dan CEO Toloka AI, yang merupakan mitra data berkualitas tinggi untuk pengembangan AI.Q
Apa itu Toloka AI?A
Toloka AI adalah perusahaan yang menyediakan data berkualitas tinggi untuk semua tahap pengembangan AI.Q
Mengapa kita tidak boleh sepenuhnya mempercayai model AI seperti GPT-4 untuk keputusan kesehatan?A
Model AI seperti GPT-4 sering memberikan pernyataan yang tidak didukung dalam konteks medis, sehingga tidak boleh sepenuhnya dipercaya untuk keputusan kesehatan.Q
Apa itu penyelarasan dalam konteks model AI?A
Penyelarasan adalah proses yang bertujuan untuk membuat model AI lebih membantu, jujur, dan tidak berbahaya, dengan melatih model untuk mengikuti instruksi dan berperilaku secara etis.Q
Bagaimana cara mengumpulkan data penyelarasan yang efektif?A
Pengumpulan data penyelarasan yang efektif melibatkan umpan balik dari ahli dan penggunaan metode pengumpulan data yang canggih.Rangkuman Berita Serupa
Teknologi
4 bulan lalu
109 dibaca
Jangan Berinvestasi Dalam AI Generatif Jika Anda Tidak Menyadari Risiko Keamanan Ini
Teknologi
4 bulan lalu
122 dibaca
Mengapa Pemimpin Harus Mengikuti Tata Kelola AI Berbasis Prinsip
Teknologi
4 bulan lalu
132 dibaca
Setiap Pilihan Penting: Keamanan Data dan Privasi pada Aplikasi yang Didukung AI
Teknologi
4 bulan lalu
141 dibaca
Membangun Model Bahasa Besar yang Etis: Penjelasan Teknis Mendalam tentang Teknik Penjagaan LLM
Teknologi
4 bulan lalu
57 dibaca
Mengubah Bisnis Dengan LLM: Risiko Dan Kasus Penggunaan
Teknologi
5 bulan lalu
62 dibaca