Artikel - Microsoft Perkenalkan Peringkat Keamanan Baru untuk Model AI di Layanan Cloud

Redmond, Amerika Serikat - Microsoft akan memperkenalkan sistem peringkat keamanan untuk model kecerdasan buatan yang dijual kepada pelanggan cloud mereka. Langkah ini bertujuan untuk membangun kepercayaan dengan memberikan transparansi terkait risiko dan kualitas model AI dari berbagai penyedia.

Peringkat keamanan ini akan menjadi tambahan pada leaderboard model yang sudah ada, yang selama ini mengurutkan model berdasarkan kualitas, biaya, dan kecepatan pengerjaan. Dengan adanya kategori keamanan, pelanggan dapat lebih mudah menilai risiko sebelum membeli model AI.

Sistem penilaian keamanan menggunakan benchmark seperti ToxiGen yang mengukur ujaran kebencian implisit, dan benchmark dari Center for AI Safety yang mengevaluasi potensi model AI disalahgunakan sebagai senjata pemusnah massal. Microsoft ingin memastikan keamanan ini menjadi bagian utama dalam memilih model AI.

Microsoft menegaskan bahwa meskipun belum ada standar global untuk pengujian keamanan AI, regulasi seperti AI Act yang akan diterapkan Uni Eropa menuntut perusahaan melakukan uji keamanan. Microsoft sendiri sudah melakukan pengujian otomatis lewat AI red teaming agent untuk menemukan celah keamanan sejak April 2025.

Selain itu, Microsoft bekerja sama dengan berbagai perusahaan seperti OpenAI, xAI, dan Anthropic untuk menyajikan berbagai model AI di platform mereka. Namun, perusahaan juga melakukan pengurangan karyawan sebagai bagian dari upaya pengelolaan biaya yang berkelanjutan.

Pertanyaan Terkait

Apa tujuan Microsoft dalam memperkenalkan peringkat keselamatan untuk model AI?

Tujuan Microsoft adalah untuk membangun kepercayaan dan membantu pelanggan memahami kemampuan model AI dalam pengambilan keputusan pembelian.

Apa metrik yang digunakan untuk menilai keselamatan model AI?

Metrik yang digunakan termasuk ToxiGen, yang mengukur ucapan kebencian, dan benchmark terkait potensi penyalahgunaan model AI.

Mengapa Microsoft bekerja sama dengan xAI dan OpenAI?

Microsoft bekerja sama dengan xAI dan OpenAI untuk menawarkan model AI yang lebih beragam dan aman kepada pelanggan di platform Azure.

Apa itu ToxiGen dan bagaimana fungsinya?

ToxiGen adalah alat pengukuran yang digunakan untuk menilai potensi ucapan kebencian dalam model AI, bagian dari metrik keselamatan Microsoft.

Apa dampak dari EU AI Act terhadap perusahaan teknologi?

EU AI Act mengharuskan perusahaan untuk melakukan pengujian keselamatan, yang dapat mempengaruhi cara mereka mengembangkan dan menerapkan teknologi AI.