Courtesy of TechCrunch

OpenAI Terpaksa Batasi Akses GPT-4.5 Karena Kekurangan GPU dan Biaya Mahal

28 Feb 2025, 03.21 WIB

158 dibaca

Ikhtisar 15 Detik

OpenAI menghadapi tantangan dalam kapasitas GPU yang membatasi peluncuran model baru.
GPT-4.5 memiliki biaya yang jauh lebih tinggi dibandingkan dengan model sebelumnya.
Perusahaan berencana untuk mengembangkan chip AI dan pusat data untuk meningkatkan kapasitas komputasi di masa depan.

CEO OpenAI, Sam Altman, mengungkapkan bahwa perusahaan terpaksa memperlambat peluncuran model terbaru mereka, GPT-4.5, karena kekurangan GPU (unit pemrosesan grafis). Dalam sebuah postingan di X, Altman menjelaskan bahwa GPT-4.5 sangat besar dan mahal, sehingga mereka membutuhkan "puluhan ribu" GPU tambahan sebelum lebih banyak pengguna ChatGPT bisa mengaksesnya. Model ini akan diluncurkan terlebih dahulu untuk pelanggan ChatGPT Pro, diikuti oleh pelanggan ChatGPT Plus minggu depan.

Karena ukuran dan biaya yang tinggi, OpenAI menetapkan harga Rp 1.23 juta ($75) per juta token untuk input dan Rp 2.47 juta ($150) per juta token untuk output dari model ini, yang jauh lebih mahal dibandingkan model sebelumnya, GPT-4. Altman menyatakan bahwa mereka sedang berusaha untuk menambah kapasitas GPU dan berharap dapat mengembangkan chip AI sendiri serta membangun jaringan pusat data yang besar untuk mengatasi masalah ini di masa depan.

Referensi:
[1] https://techcrunch.com/2025/02/27/openai-ceo-sam-altman-says-the-company-is-out-of-gpus/

Analisis Kami

"Situasi kekurangan GPU ini mengungkap betapa pesatnya permintaan untuk aplikasi AI generasi terbaru dan kurangnya kesiapan infrastruktur yang memadai. OpenAI harus mengoptimalkan biaya dan kapasitas secara agresif agar tidak tertinggal dalam persaingan AI global yang semakin ketat."

Analisis Ahli

Andrew Ng

"Keterbatasan perangkat keras seperti GPU menjadi hambatan utama dalam inovasi AI saat ini, dan pengembangan chip AI khusus adalah langkah yang sangat strategis untuk mengurangi biaya dan meningkatkan kinerja."

Fei-Fei Li

"Staggering rollout model baru adalah contoh nyata bagaimana sumber daya komputasi bisa menjadi bottleneck dalam penerapan teknologi AI canggih ke publik luas."

Prediksi Kami

Kapasitas komputasi OpenAI akan meningkat secara signifikan dalam beberapa tahun mendatang, memungkinkan peluncuran model-model AI yang lebih canggih dan efisien dengan biaya yang lebih rendah, sekaligus mengurangi ketergantungan pada GPU pihak ketiga.