Artikel - Cerebras Kini Menjadi Prosesor Inferensi LLM Tercepat; Jaraknya Sangat Jauh.

Perusahaan Cerebras baru saja mencapai prestasi luar biasa dengan model Llama-3.1 405B, yang kini 700 kali lebih cepat daripada superkomputer tercepat di dunia, Frontier, dalam simulasi dinamika molekuler. CEO Cerebras, Andrew Feldman, menyatakan bahwa tidak ada superkomputer di bumi yang dapat mencapai kinerja ini. Dengan kemampuan ini, para ilmuwan dapat menyelesaikan apa yang biasanya memakan waktu dua tahun dalam satu hari. Cerebras menggunakan teknologi Wafer Scale Engine (WSE) yang memberikan bandwidth memori 7.000 kali lebih banyak dibandingkan GPU biasa, sehingga memungkinkan mereka untuk memproses data dengan sangat cepat.

Cerebras juga mencatatkan rekor baru dengan kemampuan menjalankan 1,2 juta langkah simulasi per detik, yang berarti mereka dapat melakukan simulasi yang biasanya memakan waktu dua tahun dalam satu hari. Dengan kecepatan ini, Cerebras membuka peluang baru dalam penggunaan AI, termasuk kolaborasi multi-agen dan pemecahan masalah yang lebih kompleks. Meskipun biaya satu sistem CS3 diperkirakan antara Rp 32.89 ribu ($2) -3 juta, kinerja dan efisiensinya membuat investasi ini sebanding, terutama saat permintaan untuk perangkat keras inferensi AI terus meningkat.

Cerebras Kini Menjadi Prosesor Inferensi LLM Tercepat; Jaraknya Sangat Jauh.

Artikel Serupa

Perusahaan chip AI Cerebras menjalin kemitraan dengan Mistral dari Prancis, mengklaim rekor kecepatan.

CEO Nvidia mengatakan bahwa chip AI mereka berkembang lebih cepat daripada Hukum Moore.

O3 OpenAI menunjukkan bahwa model AI sedang berkembang dengan cara baru — tetapi begitu juga dengan biayanya.

Apakah Google Telah Mengalami Kemajuan Dalam Komputasi Kuantum dan AI?

Apakah Model Penalaran o1 dari Open AI Benar-Benar Akan Mengubah Dunia?

Komputer Sekarang Berpikir Keras: AI Tingkat Selanjutnya dan Skala Waktu Uji

Pasar AI Mungkin Segera Mengalami Penundaan Namun Akan Akhirnya Mencapai Tingkat Baru