Courtesy of TechCrunch
Model AI Penalaran Hebat Bisa Dibuat Hanya dengan Biaya Rp 750 Ribu Saja
06 Feb 2025, 06.38 WIB
173 dibaca
Share
Peneliti AI dari Stanford dan Universitas Washington berhasil melatih model AI bernama s1 dengan biaya kurang dari Rp 822.25 miliar ($50 m) enggunakan kredit komputasi awan. Model ini menunjukkan kemampuan yang mirip dengan model-model canggih lainnya dalam mengerjakan soal matematika dan pemrograman. Proses pelatihan s1 melibatkan teknik yang disebut distilasi, di mana kemampuan "penalaran" diambil dari model AI lain, dalam hal ini dari model Google, Gemini 2.0. S1 dapat diakses di GitHub, lengkap dengan data dan kode yang digunakan untuk melatihnya.
Keberhasilan s1 menimbulkan pertanyaan tentang bagaimana model AI dapat dibuat dengan biaya rendah, yang mungkin mengancam perusahaan besar yang menghabiskan banyak uang untuk mengembangkan model mereka. Meskipun distilasi adalah metode yang efektif untuk mereplikasi kemampuan model AI, peneliti mencatat bahwa metode ini tidak menghasilkan model baru yang jauh lebih baik dari yang sudah ada. Di masa depan, perusahaan besar seperti Meta, Google, dan Microsoft berencana untuk menginvestasikan ratusan miliar dolar dalam infrastruktur AI untuk melatih model-model generasi berikutnya.
--------------------
Analisis Kami: Teknik distilasi ini membuka peluang besar bagi kelompok riset kecil untuk berkontribusi dalam pengembangan AI tanpa harus mengeluarkan biaya besar, yang mengubah lanskap kompetisi teknologi AI. Namun, ini juga menimbulkan masalah serius terkait hak kekayaan intelektual dan perlindungan inovasi yang harus segera diantisipasi oleh para pelaku industri.
--------------------
Analisis Ahli:
Andrej Karpathy: Pendekatan distilasi memang efisien untuk mereplikasi fungsi model besar dengan sumber daya terbatas, tapi tidak akan menghentikan inovasi mendasar yang memerlukan investasi besar.
Fei-Fei Li: Ini contoh bagus bagaimana demokratisasi AI bisa dilakukan, memperkuat riset dengan biaya rendah namun juga mengingatkan kita pentingnya etika dalam penggunaan data dan model.
--------------------
What's Next: Di masa depan, banyak model AI besar akan mudah direplikasi dengan biaya murah melalui distilasi, sehingga perusahaan besar harus mencari cara baru untuk menjaga keunggulan kompetitif mereka atau mengalihkan fokus ke inovasi model-model yang benar-benar baru.
Referensi:
[1] https://techcrunch.com/2025/02/05/researchers-created-an-open-rival-to-openais-o1-reasoning-model-for-under-50/
[1] https://techcrunch.com/2025/02/05/researchers-created-an-open-rival-to-openais-o1-reasoning-model-for-under-50/
Pertanyaan Terkait
Q
Apa yang dilakukan oleh peneliti di Stanford dan University of Washington?A
Peneliti di Stanford dan University of Washington melatih model AI 'reasoning' dengan biaya kurang dari $50.Q
Apa nama model AI yang mereka latih?A
Nama model AI yang mereka latih adalah s1.Q
Apa metode yang digunakan untuk melatih model s1?A
Mereka menggunakan metode distillation dan supervised fine-tuning untuk melatih model s1.Q
Mengapa model s1 menarik perhatian dalam konteks inovasi AI?A
Model s1 menarik perhatian karena menunjukkan bahwa inovasi dalam AI masih bisa dilakukan dengan biaya rendah tanpa dukungan dana besar.Q
Apa rencana investasi perusahaan besar dalam infrastruktur AI pada tahun 2025?A
Meta, Google, dan Microsoft berencana untuk menginvestasikan ratusan miliar dolar dalam infrastruktur AI pada tahun 2025.