Courtesy of Forbes

Risiko Keamanan Dunia Nyata dari Pemrograman Kode Menggunakan AI

06 Feb 2025, 16.15 WIB

120 dibaca

Ty Ward, pemilik Credence Solutions Group LLC dan mantan anggota Angkatan Udara AS, menjelaskan bahwa penggunaan kecerdasan buatan (AI) dalam pengembangan kode perangkat lunak semakin meningkat. Sekarang, lebih dari 25% kode Google ditulis oleh AI, dan ini membawa tantangan baru dalam keamanan teknologi. Meskipun AI dapat membantu memperbaiki kesalahan dalam kode, ada risiko bahwa penggunaan AI dapat mengurangi kualitas pengujian dan keamanan, yang bisa berbahaya jika ada pihak yang tidak bertanggung jawab yang mengeksploitasi kelemahan tersebut.

Ward juga menekankan pentingnya pengawasan manusia dalam pengembangan kode yang melibatkan AI. Ia menyarankan agar pengguna perangkat lunak bertanya kepada penyedia tentang seberapa banyak kode yang dikembangkan oleh AI dan bagaimana data mereka digunakan. Selain itu, penting untuk memiliki rencana cadangan jika terjadi masalah dengan perangkat lunak yang digunakan. Dengan memahami risiko dan memastikan adanya pengawasan manusia, pengguna dapat melindungi diri dari potensi bahaya yang mungkin muncul akibat penggunaan AI dalam pengembangan perangkat lunak.

--------------------

Analisis Kami: Penggunaan AI dalam pengembangan kode memang memberikan efisiensi, tapi tanpa pengawasan manusia yang ketat, risiko kerentanan akan meningkat drastis yang dapat membahayakan jutaan pengguna. Perusahaan dan pemerintah harus segera mengimplementasikan mekanisme kontrol kualitas yang tidak bisa sepenuhnya digantikan oleh AI, karena keamanan dan keandalan kode sangat bergantung pada pemahaman manusia terhadap system.

--------------------

Analisis Ahli:

Bruce Schneier: AI dapat mempercepat pengembangan software, tapi juga menimbulkan risiko keamanan yang belum sepenuhnya kita pahami; pengawasan manusia tetap mutlak.

Katie Moussouris: Penting untuk menciptakan proses keamanan yang transparan dan integratif ketika menggunakan AI dalam coding, termasuk audit dan review yang mendalam.

--------------------

What's Next: Dalam beberapa tahun ke depan, jika tidak ada kontrol ketat, kerentanan keamanan pada perangkat lunak yang dikembangkan oleh AI akan terus meningkat dan mungkin dimanfaatkan secara luas oleh aktor jahat, menyebabkan gangguan besar pada sistem kritikal di seluruh dunia.

Referensi:
[1] https://www.forbes.com/councils/forbestechcouncil/2025/02/06/ai-is-writing-more-code-than-ever-but-at-what-cost-to-security/

Pertanyaan Terkait

Siapa Ty Ward dan apa latar belakangnya?

Ty Ward adalah pemilik Credence Solutions Group LLC dan mantan anggota Angkatan Udara AS yang memiliki pengalaman dalam bidang siber dan intelijen.

Apa yang dikatakan Sundar Pichai tentang penggunaan kecerdasan buatan di Google?

Sundar Pichai menyatakan bahwa lebih dari 25% kode Google sekarang ditulis oleh kecerdasan buatan, menunjukkan pergeseran besar dalam pengembangan perangkat lunak.

Mengapa kerentanan keamanan meningkat dalam pengembangan perangkat lunak?

Kerentanan keamanan meningkat karena penggunaan kecerdasan buatan dalam pengembangan kode yang dapat memperkenalkan kesalahan baru dan mengurangi kualitas pemeriksaan.

Apa peran National AI Advisory Committee (NAIAC) dalam pengawasan kecerdasan buatan?

National AI Advisory Committee (NAIAC) berperan dalam memberikan panduan dan kebijakan untuk penggunaan kecerdasan buatan yang aman dan bertanggung jawab.

Mengapa penting untuk memiliki rencana cadangan terkait perangkat lunak?

Memiliki rencana cadangan penting untuk melindungi data sensitif dan memastikan kelangsungan operasional jika terjadi risiko yang tidak dapat diterima.