Courtesy of TechCrunch

Irregular Kumpulkan 80 Juta USD untuk Amankan Model AI Masa Depan

Mengamankan model AI yang semakin maju dengan mendeteksi risiko dan kerentanan sebelum model tersebut digunakan secara luas, guna menjaga keamanan teknologi AI bagi semua pengguna.

18 Sep 2025, 04.52 WIB

297 dibaca

Ikhtisar 15 Detik

Irregular menerima pendanaan sebesar $80 juta untuk memperkuat keamanan AI.
Perusahaan menggunakan simulasi untuk menguji model AI sebelum rilis untuk mendeteksi risiko emergent.
Keamanan menjadi perhatian utama di industri AI seiring dengan meningkatnya kemampuan model bahasa besar.

tidak disebutkan - Irregular, sebuah perusahaan keamanan AI, baru-baru ini mengumumkan pendanaan sebesar 80 juta dolar Amerika Serikat yang dipimpin oleh Sequoia Capital dan Redpoint Ventures. Pendanaan ini menempatkan valuasi perusahaan pada angka 450 juta dolar Amerika Serikat, menandakan pentingnya peran mereka di bidang keamanan AI.

Perusahaan ini dikenal luas lewat framework SOLVE yang digunakan untuk mengevaluasi kerentanan berbagai model AI, termasuk beberapa model dari OpenAI dan Anthropic. Irregular fokus pada analisis mendalam dengan menggunakan simulasi kompleks untuk menguji keamanan model AI sebelum mereka diluncurkan ke publik.

Dan Lahav, salah satu pendiri Irregular, menyatakan bahwa interaksi antara manusia dan AI maupun antara model AI sendiri akan membuka celah keamanan baru yang harus diantisipasi sedini mungkin. Itulah alasan utama mengapa pengujian keamanan terus berkembang.

Pendiri lainnya, Omer Nevo, menjelaskan bagaimana mereka menggunakan simulasi jaringan di mana AI dapat berperan sebagai penyerang dan sebagai penjaga. Simulasi ini membantu mendeteksi titik lemah pada model sebelum risiko tersebut benar-benar digunakan oleh pihak berbahaya di dunia nyata.

Keamanan menjadi perhatian utama di industri AI karena kemampuan model yang makin canggih juga berpotensi digunakan untuk menemukan celah perangkat lunak hingga potensi spionase korporat. Irregular melihat ini sebagai tantangan berkelanjutan dan terus berupaya mengembangkan teknologi untuk menjaga keamanan AI selama perkembangan mereka.

Referensi:
[1] https://techcrunch.com/2025/09/17/irregular-raises-80-million-to-secure-frontier-ai-models/

Analisis Ahli

Dan Lahav

"Keamanan model AI adalah target yang terus bergerak, sehingga pengujian yang komprehensif dan adaptif sangat penting untuk memastikan perlindungan yang efektif."

Assaf Rappaport

"Investasi dalam keamanan AI adalah kunci untuk menjaga kepercayaan pengguna saat teknologi AI semakin mendalam dalam kehidupan sehari-hari."

Analisis Kami

"Irregular menunjukkan langkah maju yang krusial dalam pengembangan keamanan AI dengan memfokuskan pada pengujian simulasi yang realistis dan menyeluruh, yang sangat diperlukan mengingat kompleksitas ancaman AI yang terus berkembang. Namun, upaya ini harus terus disokong oleh kolaborasi lintas industri agar dapat menangkal risiko yang bersifat global dan dinamis."

Prediksi Kami

Ke depan, akan semakin banyak perusahaan dan institusi yang mengadopsi metode evaluasi dan simulasi keamanan model AI sebelum meluncurkannya, dan regulasi keamanan AI akan menjadi lebih ketat untuk mencegah penyalahgunaan teknologi.

Pertanyaan Terkait

Apa tujuan utama dari pendanaan terbaru yang diterima Irregular?

Tujuan utama dari pendanaan terbaru adalah untuk memperluas kemampuan Irregular dalam mendeteksi risiko emergent dan perilaku model AI.

Siapa saja investor utama dalam putaran pendanaan Irregular?

Investor utama dalam putaran pendanaan adalah Sequoia Capital dan Redpoint Ventures, dengan partisipasi dari CEO Wiz, Assaf Rappaport.

Apa yang dimaksud dengan kerangka kerja SOLVE yang dikembangkan oleh Irregular?

Kerangka kerja SOLVE adalah metode yang digunakan untuk menilai kemampuan deteksi kerentanan model AI dalam industri.

Bagaimana Irregular menguji keamanan model AI sebelum dirilis?

Irregular menguji keamanan model AI menggunakan simulasi jaringan yang kompleks, di mana AI berperan sebagai penyerang dan pembela.

Mengapa keamanan menjadi fokus utama dalam industri AI saat ini?

Keamanan menjadi fokus utama karena risiko yang muncul dari model-model AI yang semakin canggih dan kemampuan mereka dalam menemukan kerentanan perangkat lunak.