Courtesy of Forbes
Mengoptimalkan AI: Kapan Gunakan Cloud dan Kapan Jalankan di PC Lokal
04 Feb 2025, 15.15 WIB
122 dibaca
Share
Pooja Sathe, Direktur Manajemen Produk di Lenovo, menjelaskan tentang perkembangan teknologi AI, terutama dalam kategori PC AI komersial. Sejak peluncuran iPhone pada tahun 2007, banyak aplikasi baru muncul, dan dalam dua hingga tiga tahun terakhir, GenAI menjadi tren baru dengan banyak startup dan aplikasi yang bermunculan. Saat ini, banyak aplikasi GenAI yang berjalan di cloud, tetapi ada peluang besar untuk menjalankannya secara lokal di PC, tablet, dan smartphone. PC AI modern memiliki kekuatan komputasi yang lebih tinggi berkat kombinasi CPU, GPU, dan unit pemrosesan neural (NPU), sehingga memungkinkan beberapa beban kerja GenAI dijalankan tanpa bergantung pada cloud.
Sathe juga menekankan pentingnya memilih antara pemrosesan lokal dan cloud tergantung pada kebutuhan. Untuk tugas-tugas kecil, seperti di firma hukum, model bahasa kecil yang dilatih khusus bisa lebih efisien jika dijalankan di PC. Namun, untuk tugas yang memerlukan pemrosesan data besar, cloud tetap diperlukan. Selain itu, pemrosesan lokal mengurangi latensi dan dapat dilakukan tanpa koneksi internet, yang penting untuk keamanan data. Dengan pendekatan hibrida yang menggabungkan kekuatan pemrosesan lokal dan cloud, perusahaan dapat menciptakan sistem yang lebih efisien dan aman, seperti dalam deteksi penipuan di sektor keuangan.
--------------------
Analisis Kami: Pemanfaatan NPUs dan peningkatan kemampuan AI lokal di PC dan perangkat pintar akan menggeser paradigma ketergantungan sepenuhnya pada cloud sehingga membuka peluang inovasi aplikasi AI dengan latensi rendah dan privasi data terjaga. Namun, integrasi hybrid cloud dan device membutuhkan desain arsitektur yang matang agar manfaat maksimal dapat diperoleh tanpa mengorbankan keamanan dan performa.
--------------------
Analisis Ahli:
Pooja Sathe: Mendorong penggunaan AI lokal di AI PC untuk efisiensi, keamanan, dan pengurangan latensi, sambil tetap mengakui peran penting cloud AI untuk beban kerja berat dan data besar.
IDC: Menyoroti pentingnya keamanan dan privasi data sebagai tantangan utama dalam adopsi AI generatif di perusahaan.
--------------------
What's Next: Teknologi AI hybrid yang menggabungkan pemrosesan lokal pada perangkat dan cloud akan menjadi standar, memungkinkan efisiensi biaya, rendah latensi, dan keamanan data yang lebih baik dalam adopsi AI komersial di berbagai sektor, terutama pada aplikasi yang memerlukan respons cepat dan proteksi data sensitif.
Referensi:
[1] https://www.forbes.com/councils/forbestechcouncil/2025/02/04/five-things-to-consider-when-deciding-where-to-run-your-ai-workloads/
[1] https://www.forbes.com/councils/forbestechcouncil/2025/02/04/five-things-to-consider-when-deciding-where-to-run-your-ai-workloads/
Pertanyaan Terkait
Q
Siapa Pooja Sathe dan apa perannya di Lenovo?A
Pooja Sathe adalah Direktur Manajemen Produk di Lenovo, yang memimpin inovasi dalam kategori PC AI komersial.Q
Apa yang dimaksud dengan AI PC dan bagaimana cara kerjanya?A
AI PC adalah komputer yang memiliki kemampuan untuk menjalankan beban kerja AI secara lokal, mengurangi ketergantungan pada cloud.Q
Mengapa penting untuk mempertimbangkan privasi data dalam adopsi GenAI?A
Privasi data penting karena adanya undang-undang yang berkembang dan meningkatnya serangan siber yang mengancam data sensitif.Q
Apa keuntungan dari pemrosesan AI di perangkat lokal dibandingkan dengan cloud?A
Keuntungan dari pemrosesan AI di perangkat lokal termasuk pengurangan latensi dan kemampuan untuk beroperasi tanpa koneksi internet.Q
Bagaimana pendekatan hybrid dapat meningkatkan sistem deteksi penipuan di sektor keuangan?A
Pendekatan hybrid menggabungkan kekuatan pemrosesan lokal dan cloud untuk menciptakan sistem deteksi penipuan yang lebih efektif.