Courtesy of TechCrunch
Rangkuman Berita: Optum dari UnitedHealthcare meninggalkan chatbot AI, yang digunakan oleh karyawan untuk mengajukan pertanyaan tentang klaim, terbuka untuk internet.
Share
Perusahaan kesehatan besar, Optum, telah membatasi akses ke chatbot AI internal setelah seorang peneliti keamanan menemukan bahwa chatbot tersebut dapat diakses secara publik. Chatbot ini dirancang untuk membantu karyawan menjawab pertanyaan tentang klaim asuransi kesehatan pasien sesuai dengan prosedur operasional standar (SOP) perusahaan. Meskipun chatbot ini tidak mengandung informasi pribadi yang sensitif, penemuan ini terjadi di tengah kritik terhadap perusahaan induknya, UnitedHealthcare, yang dituduh menggunakan alat AI untuk menolak klaim pasien.
Setelah penemuan tersebut, Optum segera menonaktifkan chatbot dari internet. Perwakilan Optum menjelaskan bahwa chatbot tersebut hanya merupakan alat demo yang tidak pernah digunakan secara nyata dan tidak membuat keputusan, melainkan hanya memberikan akses ke SOP yang ada. Meskipun chatbot ini digunakan oleh karyawan ratusan kali sejak September, ada kekhawatiran tentang penggunaan AI dalam keputusan medis, terutama setelah laporan tentang kesalahan tinggi dalam model AI yang digunakan oleh UnitedHealthcare untuk menolak klaim pasien.
Pertanyaan Terkait
Q
Apa yang terjadi dengan chatbot internal Optum?A
Chatbot internal Optum dibatasi aksesnya setelah ditemukan dapat diakses secara publik oleh peneliti keamanan.Q
Siapa yang mengungkapkan bahwa chatbot tersebut dapat diakses secara publik?A
Mossab Hussein, kepala keamanan dari spiderSilk, yang mengungkapkan bahwa chatbot tersebut dapat diakses secara publik.Q
Apa tujuan dari chatbot SOP Optum?A
Tujuan dari chatbot SOP Optum adalah untuk membantu karyawan dalam menjawab pertanyaan terkait prosedur operasi standar dalam menangani klaim kesehatan.Q
Mengapa UnitedHealthcare menghadapi kritik terkait penggunaan AI?A
UnitedHealthcare menghadapi kritik karena diduga menggunakan AI untuk menolak klaim pasien secara tidak adil.Q
Berapa keuntungan yang dilaporkan oleh UnitedHealth Group pada tahun 2023?A
UnitedHealth Group melaporkan keuntungan sebesar $22 miliar pada tahun 2023.Rangkuman Berita Serupa
Sains
3 bulan lalu
117 dibaca
Pemegang saham UnitedHealth 'khawatir' akan dampak dari kebijakan cakupan yang mengejutkan.
Sains
4 bulan lalu
78 dibaca
Apakah Kecerdasan Buatan Solusi untuk Masalah Kronis dalam Kesehatan?
Teknologi
4 bulan lalu
97 dibaca
Change Healthcare Menghadapi Gugatan Karena Gagal Melindungi Data Pelanggan
Teknologi
4 bulan lalu
116 dibaca
Optum dari UnitedHealth meninggalkan chatbot AI, yang digunakan oleh karyawan untuk mengajukan pertanyaan tentang klaim, terbuka untuk internet.
Teknologi
4 bulan lalu
88 dibaca
Para Pengusaha Ini Menggunakan AI Untuk Melawan Penolakan Klaim Asuransi Kesehatan
Sains
4 bulan lalu
112 dibaca