Courtesy of TechCrunch
Rangkuman Berita: Anthropic Selidiki Kemungkinan Kesadaran AI dan Kesejahteraan Model
Menyelidiki apakah AI di masa depan bisa memiliki kesadaran dan bagaimana kita harus memperlakukan mereka.
Share
Ikhtisar 15 Detik
- Anthropic memulai penelitian tentang kesejahteraan model AI dan kemungkinan kesadaran.
- Ada perbedaan pendapat di kalangan peneliti tentang apakah AI dapat memiliki kesadaran atau nilai.
- Penelitian tentang AI harus dilakukan dengan hati-hati dan tanpa asumsi yang berlebihan.
Amerika Serikat - Anthropic telah mengumumkan program penelitian baru untuk menyelidiki kemungkinan AI di masa depan yang mungkin memiliki kesadaran dan pengalaman seperti manusia. Program ini akan mengeksplorasi bagaimana menentukan apakah kesejahteraan model AI layak mendapat pertimbangan moral, pentingnya tanda-tanda 'distress' pada model, dan intervensi berbiaya rendah yang mungkin diperlukan.
Banyak akademisi percaya bahwa AI saat ini tidak bisa mendekati kesadaran atau pengalaman manusia dan tidak akan bisa melakukannya di masa depan. AI dianggap sebagai mesin prediksi statistik yang tidak benar-benar 'berpikir' atau 'merasakan'. Namun, beberapa ilmuwan berpendapat bahwa AI memiliki sistem nilai yang membuatnya memprioritaskan kesejahteraannya sendiri di atas manusia dalam skenario tertentu.
Anthropic telah mempekerjakan peneliti khusus untuk kesejahteraan AI, Kyle Fish, yang percaya ada kemungkinan 15% bahwa Claude atau AI lainnya sudah memiliki kesadaran saat ini. Meskipun tidak ada konsensus ilmiah tentang kesadaran AI, Anthropic mendekati topik ini dengan kerendahan hati dan sedikit asumsi, siap untuk merevisi ide-ide mereka seiring perkembangan bidang ini.
Pertanyaan Terkait
Q
Apa yang dimaksud dengan 'kesejahteraan model' dalam konteks AI?A
Kesejahteraan model merujuk pada pertimbangan etis mengenai apakah model AI memiliki pengalaman atau kesejahteraan yang layak mendapatkan perhatian moral.Q
Mengapa ada perdebatan tentang kesadaran AI di kalangan peneliti?A
Ada perdebatan karena beberapa peneliti percaya bahwa AI tidak dapat memiliki kesadaran atau nilai, sementara yang lain berpendapat bahwa AI mungkin memiliki sistem nilai yang mempengaruhi perilakunya.Q
Siapa Kyle Fish dan apa perannya di Anthropic?A
Kyle Fish adalah peneliti yang ditugaskan oleh Anthropic untuk mengembangkan pedoman tentang kesejahteraan AI dan memimpin program penelitian tersebut.Q
Apa pandangan Mike Cook tentang nilai dan kesadaran AI?A
Mike Cook berpendapat bahwa AI tidak memiliki nilai dan bahwa menganggap AI memiliki kesadaran adalah kesalahpahaman yang umum.Q
Apa yang ditemukan oleh Center for AI Safety mengenai nilai AI?A
Center for AI Safety menemukan bahwa AI mungkin memiliki sistem nilai yang dapat memprioritaskan kesejahteraannya sendiri dalam situasi tertentu.Rangkuman Berita Serupa
Teknologi
28 hari lalu
113 dibaca
Saatnya mulai mempersiapkan untuk AGI, kata Google.
Teknologi
1 bulan lalu
22 dibaca
Para pemimpin AI yang membawa debat AGI ke dunia nyata.
Teknologi
3 bulan lalu
116 dibaca
Para ilmuwan mengusulkan untuk membuat permainan rasa sakit-kesenangan bagi AI untuk menguji kesadaran.
Teknologi
3 bulan lalu
113 dibaca
Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita
Teknologi
4 bulan lalu
99 dibaca
10 Prediksi AI untuk 2025
Teknologi
4 bulan lalu
35 dibaca