Pomodo Logo IconPomodo Logo Icon
Tanya PomodoSemua Artikel
Semua
OpenAI mendanai penelitian tentang 'moralitas AI'.
Courtesy of TechCrunch
Teknologi
Kecerdasan Buatan

OpenAI mendanai penelitian tentang 'moralitas AI'.

23 Nov 2024, 05.25 WIB
133 dibaca
Share
OpenAI sedang mendanai penelitian akademis untuk mengembangkan algoritma yang dapat memprediksi penilaian moral manusia. Mereka memberikan hibah kepada peneliti di Universitas Duke untuk proyek yang disebut "Research AI Morality". Penelitian ini bertujuan untuk menciptakan algoritma yang dapat membantu manusia membuat keputusan moral yang lebih baik, terutama dalam bidang medis, hukum, dan bisnis. Namun, penelitian ini menghadapi tantangan besar karena moralitas adalah konsep yang sangat kompleks dan subjektif, yang telah diperdebatkan oleh para filsuf selama ribuan tahun.
Baca juga: OpenAI Temukan Cara Mengendalikan Perilaku Beracun Model AI Secara Internal
Sistem AI saat ini, seperti yang digunakan dalam penelitian ini, belajar dari data yang ada di internet, yang sering kali mencerminkan nilai-nilai dari negara-negara Barat. Ini berarti bahwa AI mungkin tidak dapat memahami atau mewakili nilai-nilai dari budaya lain. Selain itu, meskipun ada upaya untuk menciptakan algoritma yang "selaras secara moral", masih ada banyak bias dan tantangan dalam mengembangkan sistem yang dapat membuat keputusan moral yang tepat. Penelitian ini akan berlangsung hingga 2025, dan hasilnya diharapkan dapat memberikan wawasan baru tentang bagaimana AI dapat membantu dalam pengambilan keputusan moral.
Sumber: https://techcrunch.com/2024/11/22/openai-is-funding-research-into-ai-morality/

Pertanyaan Terkait

Q
Apa tujuan dari penelitian yang didanai oleh OpenAI?
A
Tujuan dari penelitian yang didanai oleh OpenAI adalah untuk melatih algoritma agar dapat memprediksi penilaian moral manusia dalam berbagai skenario.
Q
Siapa yang memimpin proyek penelitian di Duke University?
A
Proyek penelitian di Duke University dipimpin oleh Walter Sinnott-Armstrong.
Q
Apa yang dilakukan oleh Allen Institute for AI?
A
Allen Institute for AI mengembangkan alat bernama Ask Delphi yang bertujuan memberikan rekomendasi etis.
Q
Mengapa AI kesulitan dalam memahami moralitas?
A
AI kesulitan dalam memahami moralitas karena tidak memiliki apresiasi terhadap konsep etika dan tidak memahami alasan serta emosi yang terlibat dalam pengambilan keputusan moral.
Q
Apa tantangan utama dalam mengembangkan algoritma untuk memprediksi penilaian moral manusia?
A
Tantangan utama dalam mengembangkan algoritma untuk memprediksi penilaian moral manusia adalah subjektivitas moral yang inheren dan kurangnya kerangka kerja yang universal.

Artikel Serupa

MIT: AI Tidak Memiliki Nilai Koheren, Hanya Peniru yang Tidak Stabil
MIT: AI Tidak Memiliki Nilai Koheren, Hanya Peniru yang Tidak Stabil
Dari TechCrunch
OpenAI berusaha untuk 'menghapus sensor' ChatGPT.
OpenAI berusaha untuk 'menghapus sensor' ChatGPT.
Dari TechCrunch
OpenAI berusaha untuk 'menghapus sensor' ChatGPT.
OpenAI berusaha untuk 'menghapus sensor' ChatGPT.
Dari YahooFinance
Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald Trump
Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald Trump
Dari Wired
Minggu Ini dalam AI: Para miliarder berbicara tentang mengotomatisasi pekerjaan.
Minggu Ini dalam AI: Para miliarder berbicara tentang mengotomatisasi pekerjaan.
Dari TechCrunch
DeepSeek Memiliki Lebih Banyak yang Ditawarkan Selain Efisiensi: AI yang Dapat Dijelaskan
DeepSeek Memiliki Lebih Banyak yang Ditawarkan Selain Efisiensi: AI yang Dapat Dijelaskan
Dari Forbes
Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita
Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita
Dari Forbes
MIT: AI Tidak Memiliki Nilai Koheren, Hanya Peniru yang Tidak StabilTechCrunch
Teknologi
3 bulan lalu
99 dibaca

MIT: AI Tidak Memiliki Nilai Koheren, Hanya Peniru yang Tidak Stabil

OpenAI berusaha untuk 'menghapus sensor' ChatGPT.TechCrunch
Teknologi
5 bulan lalu
228 dibaca

OpenAI berusaha untuk 'menghapus sensor' ChatGPT.

OpenAI berusaha untuk 'menghapus sensor' ChatGPT.YahooFinance
Teknologi
5 bulan lalu
201 dibaca

OpenAI berusaha untuk 'menghapus sensor' ChatGPT.

Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald TrumpWired
Teknologi
5 bulan lalu
115 dibaca

Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald Trump

Minggu Ini dalam AI: Para miliarder berbicara tentang mengotomatisasi pekerjaan.TechCrunch
Teknologi
5 bulan lalu
120 dibaca

Minggu Ini dalam AI: Para miliarder berbicara tentang mengotomatisasi pekerjaan.

DeepSeek Memiliki Lebih Banyak yang Ditawarkan Selain Efisiensi: AI yang Dapat DijelaskanForbes
Teknologi
6 bulan lalu
262 dibaca

DeepSeek Memiliki Lebih Banyak yang Ditawarkan Selain Efisiensi: AI yang Dapat Dijelaskan

Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti KitaForbes
Teknologi
6 bulan lalu
176 dibaca

Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita