Courtesy of InterestingEngineering

RisingAttacK: Metode Baru Mengelabui Sistem Penglihatan AI untuk Keamanan Lebih Baik

Mengembangkan metode baru bernama RisingAttacK untuk mengidentifikasi dan mengeksploitasi kerentanan pada sistem penglihatan AI, serta tujuan jangka panjang untuk menciptakan pertahanan terhadap serangan tersebut.

03 Jul 2025, 05.52 WIB

298 dibaca

Ikhtisar 15 Detik

RisingAttacK adalah metode baru untuk menyerang sistem penglihatan AI dengan memanipulasi fitur dalam gambar.
Pentingnya mengidentifikasi kerentanan dalam sistem AI untuk meningkatkan keamanan dan akurasi.
Penelitian ini menunjukkan bahwa metode serangan dapat efektif terhadap model-model AI yang paling umum digunakan.

Raleigh, Amerika Serikat - Para insinyur menemukan cara baru bernama RisingAttacK untuk mengubah cara sistem penglihatan AI melihat gambar. Metode ini membuat perubahan kecil pada gambar yang membuat AI tidak dapat mengenali objek penting seperti mobil, walaupun manusia tetap bisa melihat objek tersebut.

RisingAttacK bekerja dengan menemukan fitur visual paling penting dalam gambar yang digunakan AI untuk mengenali objek. Setelah itu, metode ini membuat perubahan kecil tapi tepat pada fitur tersebut agar AI salah mengenali objek yang ada.

Penelitian ini menguji RisingAttacK pada empat model AI paling populer, yaitu ResNet-50, DenseNet-121, ViTB, dan DEiT-B, dan hasilnya metode ini berhasil memanipulasi semuanya dengan efektif.

Metode RisingAttacK menggunakan optimisasi matematis yang canggih untuk menemukan perubahan gambar yang paling efektif namun tetap minimal. Hal ini membuat serangan lebih sulit terdeteksi namun tetap berbahaya bagi sistem AI.

Peneliti menekankan pentingnya mengidentifikasi kelemahan ini agar sistem AI bisa dibuat lebih aman. Tujuan selanjutnya adalah mengembangkan teknik pertahanan yang bisa melindungi sistem dari serangan seperti RisingAttacK.

Referensi:
[1] https://interestingengineering.com/innovation/technique-makes-ai-see-whatever-you-want

Analisis Kami

"RisingAttacK menandai kecanggihan baru dalam eksploitasi kerentanan model AI yang sangat mengkhawatirkan terutama untuk aplikasi kritis. Para pengembang sistem AI harus segera mengintegrasikan mekanisme pertahanan yang lebih adaptif dan berbasis deteksi fitur agar tidak mudah dimanipulasi oleh serangan bertarget seperti ini."

Analisis Ahli

Tianfu Wu

"Pendekatan tepat dalam memanfaatkan spektrum vektor singular untuk menemukan titik lemah model AI merupakan terobosan yang memperdalam pemahaman kita terhadap kerentanan Deep Neural Networks."

Ian Goodfellow

"Serangan RisingAttacK menunjukkan bahwa meskipun model AI semakin akurat, keamanan terhadap serangan yang didesain secara matematis tetap harus menjadi prioritas utama di semua tahap pengembangan."

Prediksi Kami

Di masa depan, teknik serangan serupa seperti RisingAttacK kemungkinan akan semakin kompleks dan sulit dideteksi, sehingga memaksa pengembangan sistem pertahanan AI yang lebih canggih dan adaptif untuk menjaga keamanan aplikasi AI kritis.

Pertanyaan Terkait

Apa itu RisingAttacK?

RisingAttacK adalah metode baru untuk menyerang sistem penglihatan AI dengan memanipulasi data yang diberikan kepada sistem tersebut.

Bagaimana RisingAttacK memanipulasi sistem penglihatan AI?

RisingAttacK memanipulasi kemampuan AI untuk mendeteksi fitur-fitur penting dalam gambar, sehingga AI dapat melihat atau tidak melihat objek tertentu.

Kenapa penelitian ini penting untuk keamanan sistem AI?

Penelitian ini penting karena sistem penglihatan AI sering digunakan dalam konteks yang mempengaruhi kesehatan dan keselamatan manusia, seperti kendaraan otonom dan teknologi medis.

Apa model-model AI yang diuji dalam penelitian ini?

Model-model AI yang diuji adalah ResNet-50, DenseNet-121, ViTB, dan DEiT-B.

Apa tujuan penelitian selanjutnya setelah RisingAttacK?

Tujuan penelitian selanjutnya adalah mengembangkan teknik yang dapat berhasil mempertahankan dari serangan seperti RisingAttacK.