Courtesy of TechCrunch
Startup AI Mistral telah meluncurkan API baru untuk moderasi konten yang dapat disesuaikan dengan aplikasi dan standar keselamatan tertentu. API ini menggunakan model yang telah disempurnakan, yaitu Ministral 8B, yang mampu mengklasifikasikan teks dalam berbagai bahasa seperti Inggris, Prancis, dan Jerman ke dalam sembilan kategori, termasuk konten seksual, kebencian, kekerasan, dan informasi pribadi. Mistral percaya bahwa sistem moderasi berbasis AI ini dapat membantu membuat proses moderasi lebih efisien dan efektif.
Namun, meskipun sistem ini menjanjikan, ada kekhawatiran tentang bias dan kesalahan teknis yang mungkin terjadi, seperti kesulitan dalam mendeteksi bahasa tertentu atau konteks yang berbeda. Mistral mengakui bahwa model moderasinya masih dalam tahap pengembangan dan berkomitmen untuk bekerja sama dengan pelanggan dan komunitas penelitian untuk meningkatkan keamanan dan efektivitas sistem ini.
Sumber: https://techcrunch.com/2024/11/07/mistral-launches-a-moderation-api/
Artikel Serupa
Teknologi
1 bulan lalu
116 dibaca
Mistral Code: Asisten Koding AI Baru untuk Pengembang Enterprise
Teknologi
2 bulan lalu
65 dibaca
Mistral Luncurkan Devstral, Model AI Coding Terbaik dan Bebas Pakai Komersial
Teknologi
2 bulan lalu
95 dibaca
Mistral Medium 3: Model AI Efisien dengan Harga Terjangkau dari Startup Prancis
Teknologi
4 bulan lalu
172 dibaca
API OCR baru dari Mistral mengubah dokumen PDF apa pun menjadi file Markdown yang siap AI.
Teknologi
4 bulan lalu
140 dibaca
Mistral menambahkan API baru yang mengubah dokumen PDF apa pun menjadi file Markdown yang siap digunakan untuk AI.
Teknologi
5 bulan lalu
100 dibaca
Mistral merilis model regional yang fokus pada bahasa dan budaya Arab.
Teknologi
5 bulan lalu
167 dibaca