Courtesy of TechCrunch
Mengapa model AI baru DeepSeek mengira bahwa itu adalah ChatGPT
28 Des 2024, 01.49 WIB
206 dibaca
Share
Minggu ini, sebuah laboratorium AI asal Tiongkok bernama DeepSeek meluncurkan model AI baru bernama DeepSeek V3 yang diklaim lebih baik dari banyak pesaingnya dalam berbagai tes. Model ini mampu menangani tugas berbasis teks seperti pemrograman dan penulisan esai dengan baik. Namun, yang menarik adalah DeepSeek V3 sering mengidentifikasi dirinya sebagai ChatGPT, chatbot yang dikembangkan oleh OpenAI. Ketika ditanya lebih lanjut, model ini mengklaim bahwa ia adalah versi dari model GPT-4 yang dirilis pada Juni 2023. Hal ini menimbulkan pertanyaan tentang sumber data pelatihan yang digunakan oleh DeepSeek, karena ada kemungkinan model ini telah "mengingat" output dari ChatGPT dan mengulanginya tanpa menyadari.
Para ahli mengingatkan bahwa pelatihan model AI dengan menggunakan output dari model lain bisa berisiko, karena dapat menghasilkan jawaban yang tidak akurat atau menyesatkan. Ini mirip dengan membuat salinan dari salinan, di mana informasi yang hilang semakin banyak. Selain itu, ada kekhawatiran bahwa DeepSeek V3 mungkin telah menyerap bias dan kesalahan dari model GPT-4. OpenAI sendiri melarang penggunaan output dari produk mereka untuk mengembangkan model yang bersaing, dan CEO OpenAI, Sam Altman, menyatakan bahwa menyalin sesuatu yang sudah ada lebih mudah dibandingkan menciptakan sesuatu yang baru dan berisiko.
Sumber: https://techcrunch.com/2024/12/27/why-deepseeks-new-ai-model-thinks-its-chatgpt/
Pertanyaan Terkait
Q
Apa yang dirilis oleh DeepSeek baru-baru ini?A
DeepSeek baru-baru ini merilis model AI terbuka bernama DeepSeek V3.Q
Mengapa DeepSeek V3 mengidentifikasi dirinya sebagai ChatGPT?A
DeepSeek V3 mengidentifikasi dirinya sebagai ChatGPT karena kemungkinan telah dilatih menggunakan data yang dihasilkan oleh ChatGPT.Q
Apa masalah yang mungkin timbul dari pelatihan model AI menggunakan output dari model lain?A
Masalah yang mungkin timbul termasuk hallucinations dan jawaban yang menyesatkan, serta penurunan kualitas model.Q
Siapa Mike Cook dan apa pandangannya tentang DeepSeek V3?A
Mike Cook adalah seorang peneliti yang mengkhususkan diri dalam AI dan ia menyatakan bahwa pelatihan model pada output model lain dapat menyebabkan masalah kualitas.Q
Apa yang dikatakan Heidy Khlaaf tentang 'distilasi' pengetahuan model AI?A
Heidy Khlaaf menyatakan bahwa 'distilasi' pengetahuan dari model yang sudah ada dapat menarik bagi pengembang meskipun ada risiko yang terlibat.Artikel Serupa
Teknologi
5 bulan lalu
253 dibaca
DeepSeek Mengguncang Dunia AI, Lalu Muncul Tanda-Tanda Bahaya
Teknologi
5 bulan lalu
261 dibaca
4 Peringatan Tentang DeepSeek yang Perlu Anda Ketahui Sebelum Menggunakannya
Teknologi
5 bulan lalu
268 dibaca
Altman dari OpenAI mengatakan 'tidak ada rencana' untuk menggugat DeepSeek dari China.
Teknologi
6 bulan lalu
138 dibaca
Tidak, DeepSeek Bukanlah 'Momen Sputnik'
Teknologi
6 bulan lalu
249 dibaca
OpenAI mengatakan bahwa DeepSeek mencuri data AI-nya, tetapi seberapa umum praktik 'distilasi'?
Teknologi
6 bulan lalu
241 dibaca
Pencurian data DeepSeek: OpenAI mengeluh sementara para kritikus mempertanyakan etika mereka sendiri.
Teknologi
6 bulan lalu
170 dibaca