Courtesy of TechCrunch
Startup AI asal Prancis, Mistral, telah meluncurkan model AI generatif pertamanya yang dirancang untuk digunakan pada perangkat edge seperti laptop dan ponsel. Model-model ini, yang disebut "Les Ministraux," dapat digunakan untuk berbagai aplikasi, mulai dari pembuatan teks dasar hingga bekerja sama dengan model yang lebih canggih untuk menyelesaikan tugas. Ada dua model yang tersedia, yaitu Ministral 3B dan Ministral 8B, yang dapat memproses sekitar 128.000 token, setara dengan panjang buku 50 halaman.
Baca juga: API OCR baru dari Mistral mengubah dokumen PDF apa pun menjadi file Markdown yang siap AI.
Mistral menciptakan model ini untuk memenuhi permintaan pelanggan yang ingin menggunakan AI secara lokal dan menjaga privasi, seperti untuk penerjemahan di perangkat, asisten pintar tanpa internet, analisis lokal, dan robotika otonom. Model Ministral 8B sudah tersedia untuk diunduh, tetapi hanya untuk tujuan penelitian. Pengembang yang ingin menggunakan model ini secara komersial harus menghubungi Mistral untuk mendapatkan lisensi. Selain itu, model-model ini juga dapat diakses melalui platform cloud Mistral dan mitra cloud lainnya.