Courtesy of Forbes
Mengamankan Era AI Otonom: Peran Data dan Pengawasan dalam Masa Depan Digital
Memberikan kesadaran dan pendekatan baru tentang bagaimana mengamankan dan mengelola AI otonom melalui integrasi keamanan data dan AI agar perusahaan dapat mengadopsi teknologi AI dengan aman dan terkontrol.
15 Nov 2025, 01.25 WIB
269 dibaca
Share
Ikhtisar 15 Detik
- AI Otonomi membawa risiko yang signifikan yang harus dikelola dengan baik.
- Keamanan data dan pendidikan keamanan AI adalah kunci untuk mengatasi tantangan yang ditimbulkan oleh AI.
- Konferensi DataSecAI 2025 menciptakan ruang untuk kolaborasi antara pemimpin keamanan, peneliti, dan pembuat kebijakan.
global , tidak spesifik - Kecerdasan buatan kini telah berkembang dari sekadar alat prediksi menjadi sistem yang dapat membuat keputusan dan bertindak secara mandiri, yang dikenal sebagai AI agentik. Transformasi ini membawa tantangan baru dalam hal keamanan data dan pengendalian AI supaya teknologi ini tidak menjadi ancaman bagi keamanan organisasi.
Cyera, sebuah perusahaan keamanan data dan AI, melihat dua hal penting yang harus berjalan bersamaan: AI dan tata kelola data. Dalam konferensi DataSecAI 2025, para pemimpin dan peneliti bertemu untuk mendiskusikan bagaimana mengamankan AI sambil memaksimalkan manfaatnya bagi perusahaan dan masyarakat.
Penelitian menunjukkan bahwa mayoritas organisasi menggunakan AI tanpa pemahaman penuh tentang risiko data yang mereka hadapi. AI agent mulai digunakan untuk tugas-tugas ringan namun akan berkembang ke sistem penting dalam bisnis, yang berpotensi meningkatkan risiko kebocoran data dan kompromi keamanan.
Keamanan siber perlu bertransformasi menjadi lebih proaktif, dengan pendekatan pengawasan yang berlapis dan pelatihan untuk tenaga ahli keamanan AI. Cyera mengembangkan program AI Security School agar para profesional dapat mengatasi risiko AI dengan metode yang praktis dan terarah.
Kepercayaan menjadi kunci utama supaya AI dapat berkembang dengan aman. Pengawasan manusia tetap diperlukan walaupun AI mendapatkan tingkat otonomi yang lebih tinggi. Masa depan akan melihat ekosistem AI yang kompleks di mana AI mengawasi AI lainnya, mengedepankan prinsip data yang benar dan transparansi yang jelas.
Referensi:
[1] https://www.forbes.com/sites/tonybradley/2025/11/14/building-trust-in-ai-starts-with-protecting-the-data-behind-it/
[1] https://www.forbes.com/sites/tonybradley/2025/11/14/building-trust-in-ai-starts-with-protecting-the-data-behind-it/
Analisis Ahli
Jason Clark
"AI harus dikendalikan dengan prinsip ‘leash’ atau kendali bertahap agar keamanan dan kontrol dapat terjaga saat AI berkembang menjadi lebih otonom."
Todd Thiemann
"Perusahaan cenderung menggunakan AI agent di area risiko rendah terlebih dahulu, namun masa depan akan membawa AI ini ke sistem inti dengan risiko yang jauh lebih besar."
Omdia
"Sebagian besar organisasi memprioritaskan pengembangan AI agent sebagai bagian utama dari inisiatif AI mereka, menandai pergeseran signifikan dalam fokus investasi AI."
Analisis Kami
"Penting untuk memahami bahwa AI otonom bukanlah ancaman jika kita membangun kerangka pengawasan dan pengendalian yang tepat sejak awal, karena tanpa pengelolaan data yang baik, risiko keamanan akan meningkat secara eksponensial. Oleh karena itu, sektor keamanan siber harus segera beradaptasi dengan paradigma baru ini dan mengutamakan edukasi serta kolaborasi lintas disiplin untuk mengelola ekosistem AI yang kompleks."
Prediksi Kami
Di masa depan, AI agent akan menjadi bagian inti dari operasi bisnis dengan otonomi yang lebih besar, sehingga menuntut sistem pengawasan berlapis yang kompleks, termasuk penggunaan AI untuk memonitor AI lain demi menjaga keamanan dan kepercayaan data.
Pertanyaan Terkait
Q
Apa yang dimaksud dengan AI Otonomi?A
AI Otonomi merujuk pada sistem AI yang dapat membuat keputusan dan mengambil tindakan secara mandiri.Q
Mengapa keamanan data menjadi perhatian utama dalam penggunaan AI?A
Keamanan data penting karena keputusan AI sangat bergantung pada integritas data yang digunakannya dan dapat menimbulkan risiko jika tidak dikelola dengan baik.Q
Apa tujuan dari konferensi DataSecAI 2025?A
Tujuan dari konferensi DataSecAI 2025 adalah untuk menjelajahi bagaimana keamanan AI dapat diperkuat dan untuk mendefinisikan kembali interseksi antara data dan keamanan.Q
Apa yang ditemukan dalam laporan Kesiapan AI terbaru Cyera?A
Laporan Kesiapan AI terbaru Cyera menemukan bahwa 70% organisasi menggunakan alat AI tanpa memahami eksposur data mereka.Q
Bagaimana Cyera berkontribusi dalam pendidikan keamanan AI?A
Cyera berkontribusi dengan meluncurkan AI Security School, program gratis untuk melatih profesional memahami dan mengurangi risiko yang ditimbulkan oleh AI.
