Courtesy of Axios
Bahaya Shadow AI: Bagaimana Perusahaan Melindungi Data dari Alat AI Tak Resmi
05 Feb 2025, 01.14 WIB
73 dibaca
Share
Tim IT perusahaan menyadari bahwa karyawan menggunakan alat AI tanpa persetujuan, dan mereka berusaha melindungi jaringan mereka. Fenomena ini dikenal sebagai "shadow AI," di mana karyawan menggunakan teknologi yang tidak disetujui, seperti aplikasi DeepSeek dari China, yang dapat membahayakan privasi dan keamanan data perusahaan. Misalnya, karyawan dapat menggunakan versi gratis DeepSeek untuk mengumpulkan memo internal atau menggunakan ChatGPT untuk bantuan pemrograman tanpa sepengetahuan tim IT. Menurut penelitian, 90% dari 67 alat AI generatif yang digunakan perusahaan tidak memiliki lisensi atau persetujuan yang tepat, dan 65% karyawan yang menggunakan ChatGPT mengandalkan versi gratis yang dapat membocorkan informasi perusahaan.
Perusahaan kini lebih fokus pada pengaturan penggunaan AI daripada melarangnya secara total. Mereka berinvestasi dalam alat yang dapat mencegah kebocoran data dan mengontrol input. Cisco, misalnya, meluncurkan alat keamanan berbasis AI untuk menangani masalah shadow AI. Para ahli memperingatkan bahwa tantangan keamanan AI akan meluas ke perangkat mobile, karena semakin banyak karyawan menggunakan aplikasi AI di ponsel mereka. Dengan meningkatnya penggunaan model AI yang terkait dengan China, masalah shadow AI diperkirakan akan menjadi lebih rumit bagi tim IT di tahun ini.
--------------------
Analisis Kami: Shadow AI merupakan ancaman serius yang harus direspons lewat pendekatan pengelolaan risiko yang holistik, bukan sekadar pelarangan yang tidak efektif. Integrasi alat keamanan AI seperti yang dikembangkan Cisco adalah langkah penting, tapi perusahaan juga perlu mengedukasi karyawan agar sadar betapa pentingnya menjaga data perusahaan dari potensi kebocoran yang tidak disengaja.
--------------------
Analisis Ahli:
Itamar Golan: Menyoroti keberagaman dan banyaknya alat AI yang digunakan tanpa pengawasan, yang memperbesar risiko kebocoran data.
Shannon Murphy: Menekankan bahwa aplikasi AI pada dasarnya adalah aplikasi cloud yang bisa diawasi dengan sistem keamanan yang sudah ada.
Daniel Kendzior: Mengingatkan bahwa tantangan keamanan AI akan meluas ke perangkat mobile yang memerlukan pendekatan dan alat pengamanan baru.
--------------------
What's Next: Keamanan dan pengawasan terhadap penggunaan AI di perusahaan akan semakin ketat dengan teknologi yang mampu mengidentifikasi serta mengendalikan potensi kebocoran data dan risiko keamanan, terutama dengan meningkatnya pemakaian AI di perangkat seluler.
Referensi:
[1] https://www.axios.com/2025/02/04/shadow-ai-cybersecurity-enterprise-software-deepseek
[1] https://www.axios.com/2025/02/04/shadow-ai-cybersecurity-enterprise-software-deepseek
Pertanyaan Terkait
Q
Apa yang dimaksud dengan shadow AI?A
Shadow AI adalah penggunaan alat AI yang tidak disetujui oleh perusahaan oleh karyawan, yang dapat menimbulkan risiko keamanan.Q
Mengapa DeepSeek menjadi perhatian bagi perusahaan-perusahaan di AS?A
DeepSeek menjadi perhatian karena dapat mengolah data perusahaan dan beroperasi di bawah hukum China, yang menimbulkan kekhawatiran privasi.Q
Apa yang dilakukan CISCO untuk mengatasi masalah shadow AI?A
CISCO meluncurkan serangkaian alat keamanan berbasis AI untuk memantau dan mengendalikan akses ke alat AI di perusahaan.Q
Apa yang ditemukan oleh Prompt Security terkait penggunaan alat AI di perusahaan?A
Prompt Security menemukan bahwa 90% perusahaan tidak memiliki lisensi atau persetujuan yang tepat untuk alat AI yang mereka gunakan.Q
Mengapa larangan penggunaan alat AI tidak efektif?A
Larangan penggunaan alat AI tidak efektif karena karyawan tetap mencari cara untuk menggunakan teknologi tersebut tanpa pengawasan.Artikel Serupa
Teknologi
6 bulan lalu
272 dibaca
DeepSeek R1: AI Murah Hebat Tapi Berisiko Karena Keamanan dan Bias Ideologi
Teknologi
6 bulan lalu
215 dibaca
DeepSeek R1: Kejutan AI Murah yang Terkena Masalah Keamanan dan Politik
Teknologi
6 bulan lalu
269 dibaca
AI Berbasis Manusia: Menjaga Etika dan Kolaborasi Agar Teknologi Lebih Bertanggung Jawab
Teknologi
6 bulan lalu
80 dibaca
Bahaya Shadow Identities: Ancaman Tersembunyi di Balik Penggunaan Aplikasi AI dan SaaS
Teknologi
6 bulan lalu
211 dibaca
Risiko dan Tantangan Penggunaan AI dalam Keamanan Siber yang Perlu Dipahami
Teknologi
6 bulan lalu
139 dibaca