Courtesy of Axios
Virtue AI Hadirkan Solusi Lengkap untuk Permasalahan Keamanan AI Perusahaan
Menawarkan platform tunggal yang dapat mengamankan alat-alat AI organisasi dengan tiga produk berbeda.
15 Apr 2025, 20.29 WIB
76 dibaca
Share
Ikhtisar 15 Detik
- Virtue AI menawarkan solusi keamanan terpadu untuk alat-alat AI yang dapat mengurangi risiko bagi perusahaan.
- Pendanaan yang signifikan menunjukkan kepercayaan investor terhadap potensi Virtue AI di pasar keamanan AI.
- Kasus nyata seperti Air Canada menunjukkan pentingnya keamanan dalam penerapan teknologi AI.
Amerika Serikat - Virtue AI telah berhasil mengumpulkan dana sebesar Rp 493.35 miliar ($30 juta) dalam putaran pendanaan seed dan Series A yang dipimpin oleh Walden Catalyst Ventures dan Lightspeed Venture Partners. Platform ini bertujuan untuk mengatasi masalah besar bagi para pemimpin keamanan yang saat ini harus menggunakan berbagai alat untuk menangani berbagai kerentanan terkait AI. Banyak solusi keamanan AI yang ada saat ini hanya berfokus secara sempit, mencakup model bahasa besar tertentu atau hanya menawarkan sejumlah fitur khusus seperti guardrails atau red-teaming.
Baca juga: Fundamental Research Labs Raih Rp 542.68 miliar ($33 Juta) untuk Kembangkan Aplikasi AI Produktif
Virtue AI menyediakan platform tunggal dengan tiga produk berbeda untuk mengamankan alat-alat AI organisasi. Produk pertama adalah platform red-teaming algoritmik yang terus menguji alat-alat AI untuk potensi risiko seperti halusinasi, kebocoran privasi, jailbreak, dan injeksi prompt. Produk kedua adalah serangkaian guardrails yang mencegah alat AI umum menghasilkan output yang melanggar kebijakan internal atau peraturan pemerintah. Produk ketiga adalah solusi guardrail agen yang secara khusus melindungi agen otonom yang semakin populer.
Virtue AI didirikan oleh Bo Li, Dawn Song, Carlos Guestrin, dan Sanmi Koyejo, yang semuanya adalah akademisi yang telah mempelajari AI selama beberapa dekade. Mereka menciptakan Virtue AI setelah melihat pelanggaran keamanan yang dapat dicegah dalam penerapan AI di dunia nyata. Virtue AI sudah memiliki pelanggan di sektor keuangan, kesehatan, dan IT, serta beberapa laboratorium frontier. Perusahaan berencana untuk memperluas tim dari 20 orang menjadi sekitar 50 orang tahun ini, dengan fokus pada pengembangan bisnis dan keahlian machine-learning.
--------------------
Analisis Kami: Solusi terpadu yang ditawarkan Virtue AI sangat dibutuhkan di era AI yang semakin kompleks dan rentan terhadap eksploitasi. Namun, tantangan utamanya adalah memastikan sistem mereka mampu beradaptasi cepat terhadap jenis ancaman yang terus berubah dan beraneka ragam pada berbagai produk AI.
--------------------
Analisis Ahli:
Bo Li: Dengan pengalaman akademis yang mendalam, Virtue AI berpotensi menghadirkan pendekatan ilmiah dan sistematis untuk keamanan AI yang dapat menjembatani kesenjangan di dunia nyata.
Dawn Song: Pendekatan holistik mereka dalam mengamankan multi-lapisan AI adalah langkah maju yang penting untuk industri yang semakin dipenuhi oleh sistem AI otonom.
Carlos Guestrin: Integrasi guardrails dan red-teaming secara terus-menerus menunjukkan pemahaman terbaik tentang risiko AI serta solusi yang proaktif dan prediktif.
--------------------
What's Next: Virtue AI kemungkinan akan menjadi standar baru dalam keamanan AI, menyediakan solusi menyeluruh yang mengintegrasikan berbagai perlindungan sekaligus mendorong adopsi AI yang lebih aman di berbagai industri.
Referensi:
[1] https://www.axios.com/2025/04/15/virtue-ai-lightspeed-walden-catalyst-funding
[1] https://www.axios.com/2025/04/15/virtue-ai-lightspeed-walden-catalyst-funding
Pertanyaan Terkait
Q
Apa yang dilakukan oleh Virtue AI?A
Virtue AI menyediakan platform keamanan untuk alat-alat AI, termasuk pengujian risiko dan pencegahan pelanggaran kebijakan.Q
Siapa yang memimpin pendanaan untuk Virtue AI?A
Pendanaan untuk Virtue AI dipimpin oleh Walden Catalyst Ventures dan Lightspeed Venture Partners.Q
Apa saja produk yang ditawarkan oleh Virtue AI?A
Produk yang ditawarkan oleh Virtue AI termasuk platform red-teaming, guardrails, dan solusi guardrail untuk agen otonom.Q
Mengapa Virtue AI didirikan?A
Virtue AI didirikan oleh akademisi yang melihat adanya pelanggaran keamanan yang dapat dicegah dalam penerapan AI di dunia nyata.Q
Siapa saja pelanggan Virtue AI?A
Pelanggan Virtue AI termasuk perusahaan di sektor keuangan, kesehatan, IT, serta Uber dan Glean.Artikel Serupa
Teknologi
1 bulan lalu
81 dibaca
Kleiner Perkins Investasi AI untuk Membantu Dokter, Pengacara, dan Insinyur
Bisnis
1 bulan lalu
47 dibaca
Cerebrium Dapat Pendanaan Rp 139.78 miliar ($8,5 Juta) untuk Perkuat Platform AI Multimodal
Bisnis
2 bulan lalu
88 dibaca
Startup AI dan Robotika Unggulan di Y Combinator Spring 2025 Demo Day
Teknologi
3 bulan lalu
76 dibaca
Ox Security Dapatkan Dana Besar untuk Perkuat Keamanan Kode AI dan Manusia
Teknologi
4 bulan lalu
171 dibaca
OpenAI Investasi di Startup Keamanan Siber Hadapi Ancaman AI Generatif
Bisnis
5 bulan lalu
185 dibaca