Courtesy of CNBCIndonesia
Bahaya Penipuan Online Menggunakan AI, TikTok Shop Perangi Produk Palsu
Memberikan pemahaman tentang bagaimana teknologi AI digunakan baik oleh penipu maupun platform e-commerce untuk saling melawan dalam kasus penipuan produk palsu, serta menunjukkan upaya yang dilakukan TikTok dan Amazon untuk mengatasi masalah ini demi melindungi konsumen.
07 Nov 2025, 17.00 WIB
120 dibaca
Share
Ikhtisar 15 Detik
- Modus penipuan online semakin canggih dengan penggunaan AI generatif.
- Platform e-commerce seperti TikTok dan Amazon berupaya keras untuk mengatasi masalah produk palsu.
- Penipuan online merupakan kejahatan terorganisir yang merugikan pengguna dan pedagang yang jujur.
Jakarta, Indonesia - Penipuan secara online semakin marak dengan berkembangnya teknologi kecerdasan buatan (AI) yang membantu para penjahat siber membuat barang dan merek palsu. Para penipu ini menggunakan AI generatif untuk menipu pengguna agar membeli produk yang sebenarnya tidak ada. Modus ini adalah bentuk kejahatan terorganisir yang semakin canggih.
Nicolas Waldmann, Kepala Global TikTok Shop Governance and Experience, menjelaskan bahwa para pelaku kejahatan ini menjual barang palsu dan kemudian kabur membawa uang pembeli tanpa mengirimkan produk apapun. Di pihak lain, platform e-commerce seperti TikTok Shop dan Amazon juga memanfaatkan AI untuk mendeteksi dan menghapus produk palsu agar melindungi konsumen.
TikTok Shop melaporkan telah menolak sekitar 70 juta produk dan menghapus 700.000 penjual yang melanggar kebijakan dalam waktu 6 bulan pertama tahun 2025. Perusahaan ini menggunakan kombinasi teknologi AI dan moderasi manusia untuk memantau aktivitas penjual dan menjaga keaslian produk yang dijual di platform mereka.
Meskipun TikTok dan Amazon memiliki daftar barang terlarang, para penipu masih bisa menerobos sistem keamanan dan menjual barang terlarang atau tiruan, seperti sirup THC dan mainan seks. Masalah ini menjadi tantangan serius dalam menjaga kualitas dan keamanan belanja online di era digital saat ini.
Ke depan, penggunaan AI akan semakin penting dalam menjaga keamanan platform e-commerce, namun penipu juga akan terus mengembangkan metode baru yang lebih canggih. Persaingan antara teknologi AI untuk memerangi penipuan dan pemanfaatan AI oleh pelaku kejahatan diprediksi akan semakin ketat dan dinamis.
Referensi:
[1] https://www.cnbcindonesia.com/tech/20251107143539-37-683235/rekening-auto-ludes-waspada-penipuan-baru-marak-di-tiktok-shop
[1] https://www.cnbcindonesia.com/tech/20251107143539-37-683235/rekening-auto-ludes-waspada-penipuan-baru-marak-di-tiktok-shop
Analisis Ahli
Nicolas Waldmann
"Penipuan yang menggunakan AI generatif dianggap sebagai kejahatan terorganisir dan platform perlu menggunakan AI juga untuk melawan penipuan ini secara efektif."
Analisis Kami
"Penggunaan AI dalam penipuan online menunjukkan bahwa kejahatan siber kini bukan hanya soal teknologi, tapi soal kreativitas dan adaptasi tak terbatas dari para pelaku kejahatan. Platform seperti TikTok Shop dan Amazon harus terus berinovasi dengan teknologi dan kebijakan yang lebih agresif agar dapat melindungi konsumen tanpa menimbulkan ketidakadilan pada penjual asli."
Prediksi Kami
Di masa depan, teknologi AI akan terus menjadi alat utama baik bagi penipu untuk membuat modus penipuan yang semakin canggih, maupun bagi platform e-commerce untuk memperkuat sistem deteksi dan pencegahan, sehingga perang antara penipu dan platform akan semakin intensif dan teknologi deteksi harus terus diperbarui.
Pertanyaan Terkait
Q
Apa yang diungkapkan oleh Nicolas Waldmann tentang penipuan online?A
Nicolas Waldmann mengungkapkan bahwa penipuan online semakin merajalela dengan penggunaan alat AI untuk membuat brand palsu dan produk tiruan.Q
Bagaimana teknologi AI generatif mempengaruhi modus penipuan?A
Teknologi AI generatif memudahkan pelaku kejahatan untuk membuat produk tiruan yang dapat mengelabui tim moderasi di platform.Q
Apa tindakan yang diambil oleh TikTok Shop terhadap penjual yang melanggar kebijakan?A
TikTok Shop telah menolak 70 juta produk dan menghapus 700.000 penjual karena pelanggaran kebijakan.Q
Mengapa Amazon mengembangkan perangkat AI untuk melacak produk palsu?A
Amazon mengembangkan perangkat AI untuk melacak dan mengidentifikasi produk palsu serta daftar yang melanggar di platform mereka.Q
Apa tantangan yang dihadapi TikTok Shop sejak meluncurkan fitur e-commerce?A
TikTok Shop menghadapi berbagai tantangan kualitas pasar sejak mulai menguji fitur e-commerce-nya di AS.Artikel Serupa
