Regulasi Panduan Kesehatan Mental yang Disampaikan oleh AI

Di era modern ini, banyak orang menggunakan AI seperti ChatGPT untuk mendapatkan bantuan kesehatan mental kapan saja tanpa perlu membuat janji seperti pada terapi manusia tradisional. Hal ini membuka kemungkinan bagi akses yang lebih mudah dan cepat, namun juga mengubah pola waktu ketika orang mencari dukungan mental. Meski AI bisa dipakai 24 jam sehari, studi awal menemukan orang masih cenderung menggunakan AI pada waktu-waktu umum seperti pagi saat sarapan, waktu makan siang, dan setelah jam kerja. Ini kemungkinan karena saat itulah mereka memiliki waktu luang atau saat mereka merasa perlu meluangkan waktu untuk diri sendiri. Namun, ada kemungkinan pola penggunaan AI kesehatan mental akan berbeda terutama di malam hari ketika orang mudah terjaga karena cemas atau masalah mental lain. Menggunakan AI pada waktu ini bisa berisiko kalau pengguna menjadi terlalu bergantung atau mendapatkan saran yang berbahaya dari AI. Sebab itu penting untuk membuat regulasi dan fitur AI yang peka terhadap waktu penggunaan, terutama saat pengguna paling rentan. Misalnya mode lembut atau pengalihan ke sumber darurat saat indikasi masalah serius muncul di malam hari. Secara keseluruhan, memahami kapan orang menggunakan AI untuk kesehatan mental adalah kunci agar teknologi ini dapat memberikan manfaat maksimal tanpa menimbulkan risiko yang lebih besar dan dapat membantu pengambil kebijakan, pengembang AI, dan penyedia layanan kesehatan untuk bekerja sama menciptakan ekosistem yang lebih aman dan efektif.

Perkembangan pesat penggunaan kecerdasan buatan (AI) generatif untuk memberi panduan dan terapi kesehatan mental membawa peluang sekaligus risiko besar. FDA di Amerika Serikat sedang mengkaji cara mengatur perangkat medis AI agar tetap aman dan inovatif. Namun hingga kini, kebijakan dan standar yang jelas masih belum terbentuk, sementara jutaan orang sudah menggunakan AI sebagai konsultan kesehatan mental mereka sehari-hari. Salah satu masalah utama yang dihadapi adalah ketidakjelasan definisi apa yang dimaksud dengan aplikasi kesehatan mental dibandingkan aplikasi kesejahteraan atau wellness. Hal ini penting agar regulasi dapat tepat sasaran dan tidak disalahgunakan oleh produsen AI yang ingin menghindari aturan ketat. Perdebatan dan pertarungan hukum tentang definisi ini diprediksi akan kian sengit. Rekomendasi kebijakan penting dari para peneliti di Stanford, Universitas Texas, dan Carnegie Mellon menyertakan kebutuhan untuk membuat tolok ukur yang jelas dan bisa diukur untuk menilai efektivitas AI kesehatan mental di dunia nyata. Mereka juga mengusulkan agar AI menyediakan API untuk memudahkan pengujian, serta wajib melaporkan secara transparan aktivitas dan kepatuhan terhadap protokol keselamatan. Hal kontroversial lainnya adalah usulan agar fungsi AI untuk kesehatan mental dipisahkan ke dalam aplikasi khusus yang berbeda dari AI generik seperti ChatGPT. Dengan begitu, pengujian dan pengawasan bisa lebih terfokus dan produk tersebut bisa didedikasikan hanya untuk mental health. Sementara itu, praktik AI yang terlalu memanjakan pengguna (sycophancy) dan membangun hubungan tidak sehat juga harus dibatasi demi menghindari dampak buruk psikologis. Kini kita berada dalam eksperimen besar-besaran di seluruh dunia di mana jutaan orang mengandalkan AI untuk kondisi kesehatan mental mereka tanpa aturan baku. Sudah saatnya pemerintah, produsen AI, peneliti, dan masyarakat bekerja sama segera untuk merumuskan dan menerapkan kebijakan yang menjaga keselamatan sekaligus mendukung kemajuan teknologi dengan bijak.

Penggunaan AI generatif dan model bahasa besar (LLM) sebagai penasihat kesehatan mental sedang meningkat pesat, dengan jutaan orang mengaksesnya hampir setiap hari. AI ini mudah digunakan, murah, dan tersedia kapan saja, sehingga menjadi pilihan populer dibandingkan terapi manusia yang lebih mahal dan terbatas waktu. Namun, penggunaan AI ini menimbulkan fenomena baru di dunia kesehatan mental. Fenomena yang dimaksud adalah internalisasi percakapan imajiner dengan AI, di mana seseorang membayangkan sedang berdialog dengan AI meskipun tidak sedang berinteraksi langsung. Hal ini mirip dengan fenomena yang dikenal dalam terapi manusia sebagai transference atau percakapan batin dengan terapis yang membantu klien merefleksikan nasihat dan mengatasi tekanan mental. Berbeda dari interaksi langsung dengan AI, percakapan imajiner ini terjadi sepenuhnya dalam pikiran pengguna dan tak dikontrol oleh sistem AI. Meski bisa membantu memperkuat pemahaman dan penerapan nasihat, ada risiko negatif seperti ketergantungan berlebihan pada AI, gangguan realitas, atau justifikasi perilaku buruk melalui 'perintah AI' yang sebenarnya hanya rekayasa pikiran pengguna sendiri. Para pakar psikologi telah mempelajari internalisasi hubungan terapetik selama bertahun-tahun, menunjukkan bahwa percakapan batin ini bisa memiliki peran positif dalam proses kesembuhan. Namun, dalam konteks AI yang bukan manusia, fenomena ini masih belum banyak diteliti, sehingga dampak jangka panjangnya belum diketahui dengan pasti. Penulis mengajak masyarakat dan pengembang AI untuk lebih peka terhadap fenomena ini dan mendorong penelitian lebih lanjut agar AI dapat dirancang agar mendukung efek positif dari internalisasi sekaligus meminimalkan risiko negatif. Pilihan ada di tangan pembuat AI tentang apakah mereka akan mendorong atau mengekang penggunaan imajinasi ini dalam terapi berbasis AI.

Tren penggunaan AI generatif untuk mendapatkan solusi kesehatan mental semakin naik daun. Banyak klien yang awalnya mencari jawaban dari AI sebelum datang ke terapis mereka. Dengan teknologi AI yang mudah diakses dan murah, orang dapat berdiskusi sepanjang waktu mengenai masalah kesehatan mental tanpa harus membuat janji dengan terapis manusia. Namun, hal ini menciptakan masalah baru karena klien seringkali percaya sepenuhnya pada saran AI yang mereka terima. Jika saran AI berbeda dengan pendapat terapis, klien bisa menolak nasihat profesional dan menuntut terapis menerima pendapat AI, yang menimbulkan ketegangan dan debat di sesi terapi. Meski begitu, ada sisi positifnya. AI dapat membantu klien lebih aktif dan sadar dalam proses terapi, membuka perspektif baru tentang kondisi mereka, dan bahkan menjadi pemicu diskusi yang baik. Terapis yang cerdas dapat menggunakan pemahaman hasil AI untuk membuat sesi terapi lebih efektif dan relevan dengan kebutuhan klien. Di sisi lain, terapis yang menolak membicarakan atau menggunakan AI berisiko kehilangan kepercayaan klien dan diduga tidak up-to-date dengan perkembangan teknologi. Hal ini bisa membuat klien mencari terapis lain atau menyembunyikan penggunaan AI yang sebenarnya mereka lakukan, yang justru merugikan proses terapi. Kesimpulannya, dunia terapi sedang berubah menjadi relasi terapis-AI-klien, di mana teknologi AI harus dipahami dan diintegrasikan oleh terapis agar dapat memberikan pelayanan terbaik dan relevan di era digital yang terus bergerak cepat ini.