Courtesy of Forbes

Cara Memilih dan Menguji Solusi AI agar Tidak Terjebak Hype Semata

31 Jan 2025, 14.45 WIB

225 dibaca

Narinder Singh adalah CEO LookDeep Health, sebuah perusahaan yang menggunakan teknologi VisionAI untuk membantu perawat dan dokter merawat pasien dengan lebih baik. Dalam beberapa tahun terakhir, banyak perusahaan mulai menggunakan kecerdasan buatan (AI) untuk berbagai keperluan, tetapi tidak semua inisiatif AI itu benar-benar bermanfaat. Ada tantangan dalam membedakan inovasi yang nyata dari janji kosong, terutama ketika banyak vendor mengklaim solusi AI mereka dapat mengubah segalanya. Oleh karena itu, penting bagi perusahaan untuk melakukan evaluasi yang cermat terhadap teknologi AI, termasuk meminta rincian data, melakukan pengujian sendiri, dan mencari penilaian dari pihak ketiga yang independen.

Untuk memastikan bahwa solusi AI yang diadopsi benar-benar efektif, perusahaan harus fokus pada validasi praktis, seperti menguji AI dalam kondisi nyata dan menetapkan standar yang jelas. Meskipun regulasi pemerintah seringkali lambat, pendekatan yang digunakan oleh FDA dalam mengklasifikasikan perangkat medis berdasarkan risiko dapat menjadi panduan yang berguna untuk manajemen risiko dalam AI. Dengan menerapkan prinsip-prinsip ini, perusahaan dapat mengadopsi teknologi AI yang berdampak tanpa mengabaikan kehati-hatian.

--------------------

Analisis Kami: Banyak perusahaan terjebak dalam euforia teknologi tanpa landasan evaluasi yang kuat, sehingga kegagalan sebenarnya bisa menghambat adopsi AI. Perlunya standar dan evaluasi berkelanjutan tidak bisa diabaikan jika kita ingin AI benar-benar memberikan dampak positif dan bukan sekedar jargon pemasaran.

--------------------

Analisis Ahli:

Andrew Ng: Pendekatan praktis dalam pengujian AI sangat penting untuk menghindari bias dan kegagalan sistem di dunia nyata, dan standar terbuka merangsang inovasi yang sehat.

Fei-Fei Li: AI harus diuji dan disesuaikan dengan konteks penggunaannya agar bisa dipercaya dan efektif, tidak cukup hanya berdasarkan klaim vendor atau uji coba terbatas.

--------------------

What's Next: Di masa depan, akan muncul lembaga independen yang mengatur dan menilai AI secara ketat, serta penggunaan AI untuk memonitor dan memvalidasi sistem AI lainnya akan menjadi praktik umum.

Referensi:
[1] https://www.forbes.com/councils/forbestechcouncil/2025/01/31/lies-and-ai-pragmatism-in-a-rapidly-evolving-landscape/

Pertanyaan Terkait

Siapa Narinder Singh dan apa perannya di LookDeep Health?

Narinder Singh adalah CEO LookDeep Health, yang memimpin penggunaan VisionAI untuk membantu perawat dan dokter dalam merawat pasien.

Apa yang dimaksud dengan VisionAI dalam konteks artikel ini?

VisionAI adalah teknologi yang digunakan untuk meningkatkan kemampuan penglihatan mesin dalam membantu proses perawatan kesehatan.

Mengapa penting untuk melakukan evaluasi terhadap teknologi AI?

Evaluasi terhadap teknologi AI penting untuk memastikan bahwa solusi yang diadopsi benar-benar efektif dan tidak hanya sekadar janji kosong dari vendor.

Bagaimana FDA dapat menjadi acuan dalam manajemen risiko AI?

FDA dapat menjadi acuan dalam manajemen risiko AI dengan pendekatan klasifikasi perangkat medis berdasarkan potensi risiko yang dapat ditimbulkan.

Apa itu Forbes Technology Council dan siapa anggotanya?

Forbes Technology Council adalah komunitas eksklusif untuk CIO, CTO, dan eksekutif teknologi kelas dunia yang berbagi wawasan dan pengalaman.