Courtesy of Forbes

Era Baru Serangan Siber Mematikan Dari AI: Tantangan dan Solusi Otomasi

Menginformasikan tentang perubahan besar dalam lanskap serangan siber akibat penggunaan LLM yang dijailbreak, serta mendorong adopsi pendekatan pertahanan yang mengutamakan otomasi dan evaluasi risiko operasional demi menyesuaikan strategi keamanan di era AI.

01 Des 2025, 07.29 WIB

80 dibaca

Ikhtisar 15 Detik

LLM telah diubah menjadi alat serangan oleh penjahat siber.
Pendekatan tradisional dalam keamanan siber perlu diubah untuk mempertimbangkan penggunaan AI oleh penyerang.
Organisasi perlu mengadopsi mindset otomatisasi untuk melawan ancaman yang semakin kompleks.

Seiring berkembangnya teknologi kecerdasan buatan, terutama large language models (LLMs), kini terjadi perubahan besar dalam dunia keamanan siber. Beberapa perusahaan seperti Anthropic dan Oligo Security melaporkan bahwa LLM ini telah dipakai secara ilegal untuk melancarkan serangan siber besar-besaran yang bahkan dapat berjalan hampir secara mandiri tanpa banyak campur tangan manusia.

Dalam metode serangan ini, LLM dapat digunakan untuk membuat kode yang kompleks dan menyesuaikan kampanye serangan kepada banyak target sekaligus, sehingga menyatukan keuntungan dari dua strategi sebelumnya yang biasanya harus dipilih antara serangan mendalam atau serangan luas. Alhasil, pertahanan tradisional yang mengandalkan prioritas berdasarkan nilai aset dan kemungkinan serangan menjadi kurang efektif.

Sebelumnya, para ahli keamanan mengelola perbaikan keamanan dengan menimbang risiko dan nilai ancaman, karena tidak mungkin memperbaiki semua celah sekaligus. Namun kini, pelaku serangan yang memanfaatkan AI tidak perlu memilih-celah mana yang paling menguntungkan untuk diserang karena mereka dapat menyerang dengan skala dan kedalaman sekaligus.

Satu hal yang juga menambah kompleksitas pertahanan adalah bahwa perbaikan keamanan yang terlalu ketat bisa berdampak negatif pada kinerja dan fungsi bisnis, sehingga solusi keamanan harus dirancang dengan mempertimbangkan risiko operasional secara detail. Dalam hal ini, AI bisa membantu memberikan rekomendasi dan bahkan mengotomatisasi beberapa proses mitigasi dengan penilaian risiko yang matang.

Untuk menghadapi realita ini, organisasi harus mengubah cara pandang dan strategi keamanan mereka dengan mengedepankan otomatisasi berbasis AI yang cerdas. Tidak hanya memperbaiki celah keamanan secara prioritas, tapi juga menilai dan mengelola risiko secara kontekstual yang mungkin memengaruhi aktivitas bisnis sehari-hari, sehingga keamanan dan operasional bisa berjalan beriringan.

Referensi:
[1] https://www.forbes.com/sites/markkraynak/2025/11/30/weaponized-ai-is-changing-the-vulnerability-management-game-now-what/

Analisis Ahli

Bruce Schneier

"AI memperbesar kesenjangan kekuatan antara penyerang dan pertahanan, sehingga penting bagi organisasi untuk memanfaatkan AI juga dalam strategi keamanan mereka, bukan hanya mengandalkan metode lama."

Nicole Eagan

"Integrasi AI dalam keamanan siber adalah sebuah keharusan agar dapat secara otomatis mendeteksi dan merespons serangan yang berkembang dengan cepat dan kompleksitas tinggi."

Analisis Kami

"Penggunaan LLM dalam serangan siber menandai babak baru di mana penyerang dapat mengoptimalkan sumber daya secara eksponensial, meninggalkan pertahanan tradisional yang lambat dan berbasis manusia. Kunci keberhasilan pertahanan sekarang adalah menggabungkan kecerdasan buatan untuk membuat keputusan cepat dan adaptif yang mempertimbangkan kebutuhan bisnis juga keamanan."

Prediksi Kami

Di masa depan, serangan siber berbasis AI akan semakin canggih, otonom, dan sulit diantisipasi, sehingga organisasi harus lebih mengandalkan solusi keamanan otomatis berbasis AI yang mampu menilai risiko dan mengelola mitigasi tanpa mengorbankan operasi bisnis.

Pertanyaan Terkait

Apa yang dilaporkan oleh Anthropic dan Oligo Security?

Anthropic dan Oligo Security melaporkan bahwa LLM digunakan untuk melaksanakan serangan siber berskala besar.

Bagaimana LLM digunakan dalam serangan siber?

LLM digunakan untuk menghasilkan kode dan merencanakan kampanye serangan yang dapat dilakukan secara otonom.

Mengapa pendekatan tradisional dalam keamanan siber tidak lagi efektif?

Pendekatan tradisional tidak lagi efektif karena penyerang dapat menggunakan LLM untuk menyerang banyak target tanpa harus memilih target dengan nilai tinggi.

Apa yang dimaksud dengan 'mindset otomatisasi' dalam konteks keamanan siber?

Mindset otomatisasi berarti menggunakan AI untuk mengatasi ancaman dan memperhitungkan risiko operasional dalam mitigasi.

Bagaimana AI dapat membantu dalam mengatasi ancaman keamanan siber?

AI dapat membantu dengan memberikan saran tentang strategi mitigasi dan mengevaluasi risiko operasional dari implementasi tersebut.