Semua
Pendekatan Perlindungan AI Hibrida Amazon Mendorong Permintaan Pemeriksaan Aturan yang Menangkap Halusinasi AI dan Menjaga LLM Tetap Jujur
Courtesy of Forbes
Teknologi
Kecerdasan Buatan

Rangkuman Berita: Pendekatan Perlindungan AI Hibrida Amazon Mendorong Permintaan Pemeriksaan Aturan yang Menangkap Halusinasi AI dan Menjaga LLM Tetap Jujur

Forbes
Dari Forbes
06 Desember 2024 pukul 10.15 WIB
90 dibaca
Share
Dalam kolom ini, penulis membahas pendekatan baru yang diperkenalkan oleh Amazon AWS untuk mendeteksi "halusinasi" pada AI dan memastikan bahwa AI mengikuti kebijakan bisnis yang ditetapkan. Pendekatan ini menggabungkan dua jenis AI, yaitu sub-simbolik dan simbolik, untuk menciptakan AI hibrida yang lebih efektif. Dengan menggunakan teknik ini, AI dapat menghasilkan aturan bisnis berdasarkan kebijakan yang diberikan, sehingga dapat memeriksa dan memperbaiki jawaban yang mungkin salah atau tidak sesuai.
Baca juga: Mengapa Metafora Kita Tentang AI Membentuk Cara AI Memikirkan Kita
Penulis juga menjelaskan bagaimana proses ini dapat dilakukan dengan menggunakan prompt dalam aplikasi AI generatif. Misalnya, jika ada kebijakan pengembalian produk, AI dapat diberi tahu tentang aturan tersebut sehingga dapat memberikan jawaban yang tepat kepada pelanggan. Meskipun ada tantangan dalam memastikan bahwa AI menghasilkan aturan yang benar, penulis percaya bahwa kombinasi kedua pendekatan ini akan membawa manfaat besar bagi penggunaan AI di masa depan.
(Sumber)

Pertanyaan Terkait

Q
Apa yang dimaksud dengan AI hallucination?
A
AI hallucination adalah ketika AI menghasilkan informasi yang tidak akurat atau tidak sesuai dengan kenyataan.
Q
Bagaimana cara kerja neuro-symbolic AI?
A
Neuro-symbolic AI menggabungkan pendekatan sub-symbolic dan symbolic untuk meningkatkan kemampuan AI dalam memahami dan memproses informasi.
Q
Apa keuntungan dari menggunakan hybrid AI?
A
Keuntungan dari menggunakan hybrid AI adalah dapat mendeteksi kesalahan dan memastikan AI mematuhi kebijakan bisnis yang telah ditetapkan.
Q
Siapa yang merilis kemampuan 'Automated Reasoning'?
A
Kemampuan 'Automated Reasoning' dirilis oleh Amazon AWS.
Q
Apa yang dilakukan Widget Corporation terkait kebijakan pengembalian produk?
A
Widget Corporation menggunakan sistem AI untuk memungkinkan pelanggan mengajukan permintaan pengembalian produk secara langsung sesuai dengan kebijakan yang ada.

Rangkuman Berita Serupa

AI Sedang Membebaskan Diri Dari LLM Berbasis Token Dengan Meningkatkan Taruhan Ke Model Konsep Besar Yang Menghancurkan Kalimat Dan Mengagumi Konsep.Forbes
Teknologi
3 bulan lalu
78 dibaca

AI Sedang Membebaskan Diri Dari LLM Berbasis Token Dengan Meningkatkan Taruhan Ke Model Konsep Besar Yang Menghancurkan Kalimat Dan Mengagumi Konsep.

LLM memiliki dua wajah dengan berpura-pura mematuhi keselarasan AI yang dijunjung tinggi, tetapi kemudian berubah menjadi pengkhianat tanpa jiwa.Forbes
Teknologi
4 bulan lalu
109 dibaca

LLM memiliki dua wajah dengan berpura-pura mematuhi keselarasan AI yang dijunjung tinggi, tetapi kemudian berubah menjadi pengkhianat tanpa jiwa.

ChatGPT o3 dari OpenAI yang dipimpin oleh Sam Altman sedang bertaruh besar pada penyelarasan deliberatif untuk menjaga AI tetap dalam batasan dan tidak beracun.Forbes
Teknologi
4 bulan lalu
160 dibaca

ChatGPT o3 dari OpenAI yang dipimpin oleh Sam Altman sedang bertaruh besar pada penyelarasan deliberatif untuk menjaga AI tetap dalam batasan dan tidak beracun.

Rantai Pemikiran Berkelanjutan Menjanjikan Peningkatan Besar untuk LLM dan AI Generatif dengan Menghancurkan Fokus pada TokenForbes
Teknologi
4 bulan lalu
58 dibaca

Rantai Pemikiran Berkelanjutan Menjanjikan Peningkatan Besar untuk LLM dan AI Generatif dengan Menghancurkan Fokus pada Token

Langkah Selanjutnya dalam Kolaborasi Manusia-AI Ditampilkan Melalui Add-In ChatGPT Canvas dari OpenAIForbes
Teknologi
4 bulan lalu
111 dibaca

Langkah Selanjutnya dalam Kolaborasi Manusia-AI Ditampilkan Melalui Add-In ChatGPT Canvas dari OpenAI

Sam Altman Mengungkapkan Kekurangan Sebelumnya Dalam AI Canggih OpenAI o1 Selama Pengumuman ChatGPT Pro, Namun Tidak Ada yang Tampak Menyadarinya Secara Luas.Forbes
Teknologi
4 bulan lalu
174 dibaca

Sam Altman Mengungkapkan Kekurangan Sebelumnya Dalam AI Canggih OpenAI o1 Selama Pengumuman ChatGPT Pro, Namun Tidak Ada yang Tampak Menyadarinya Secara Luas.