Artikel - Mengukur Konsumsi Energi Model AI: Alat Baru dari Hugging Face

tidak disebutkan - Model AI mengonsumsi energi setiap kali dijalankan, dan permintaan akan lebih banyak daya untuk mendukung AI telah menyebabkan beberapa perusahaan mengejar strategi yang tidak ramah lingkungan. Julien Delavande, seorang insinyur di Hugging Face, membangun alat untuk memperkirakan konsumsi energi model AI. Alat ini dirancang untuk bekerja dengan Chat UI, antarmuka depan open-source untuk model seperti Llama 3.3 70B dan Gemma 3 dari Google.

Alat ini memperkirakan konsumsi energi pesan yang dikirim ke dan dari model secara real-time, melaporkan konsumsi dalam Watt-jam atau Joule. Menurut alat ini, meminta Llama 3.3 70B untuk menulis email tipikal menggunakan sekitar 0.1841 Watt-jam, setara dengan menjalankan microwave selama 0.12 detik atau menggunakan pemanggang roti selama 0.02 detik. Meskipun perkiraan ini tidak sangat presisi, mereka mengingatkan kita bahwa segala sesuatu, termasuk chatbot, memiliki biaya.

Dengan proyek seperti skor energi AI dan penelitian yang lebih luas tentang jejak energi AI, Delavande dan rekan-rekannya mendorong transparansi dalam komunitas open source. Suatu hari, penggunaan energi bisa menjadi sejelas label nutrisi pada makanan. Alat ini bertujuan untuk meningkatkan kesadaran tentang konsumsi energi oleh model AI dan dampak lingkungannya.

Pertanyaan Terkait

Apa tujuan dari alat yang dibuat oleh Julien Delavande?

Tujuan dari alat yang dibuat oleh Julien Delavande adalah untuk mengukur konsumsi energi saat menggunakan model AI.

Bagaimana alat tersebut mengukur konsumsi energi?

Alat tersebut mengukur konsumsi energi dengan melaporkan penggunaan dalam Watt-jam atau Joule secara real-time.

Apa dampak dari penggunaan model AI terhadap lingkungan?

Penggunaan model AI dapat meningkatkan kebutuhan energi secara signifikan, yang dapat berdampak negatif pada lingkungan.

Model AI mana yang disebutkan dalam artikel ini?

Model AI yang disebutkan dalam artikel ini adalah Llama 3.3 70B dan Gemma 3.

Mengapa transparansi dalam penggunaan energi penting untuk komunitas open-source?

Transparansi dalam penggunaan energi penting untuk komunitas open-source agar pengguna dapat memahami dampak lingkungan dari teknologi yang mereka gunakan.