Kemajuan dalam Keamanan dan Etika AI oleh Perusahaan Teknologi Terkemuka

New York State baru saja meloloskan RAISE Act, sebuah undang-undang yang bertujuan mencegah model AI frontier dari perusahaan besar seperti OpenAI dan Google menyebabkan bencana besar termasuk kematian massal atau kerugian finansial signifikan. Undang-undang ini akan mewajibkan perusahaan AI untuk transparan tentang risiko serta melaporkan insiden terkait AI mereka. Berbeda dengan regulasi sebelumnya seperti SB 1047 yang ditolak di California, RAISE Act disusun untuk tidak membatasi inovasi startup atau riset akademik. Legislator yakin undang-undang ini tetap mendorong pengembangan teknologi sambil mengelola risiko AI yang terus berkembang dengan cepat. Undang-undang ini nantinya akan memberikan kewenangan kepada Jaksa Agung New York untuk memberikan denda hingga 30 juta dolar AS bagi perusahaan yang tidak mematuhi aturan laporan keamanan dan insiden AI. Namun, undang-undang tidak mengharuskan adanya 'kill switch' pada AI maupun menuntut tanggung jawab atas dampak negatif post-training. Beberapa pihak dari Silicon Valley menolak RAISE Act, dengan alasan pengaturan tersebut bisa melemahkan posisi kompetitif AS dan menghambat inovasi. Namun para legislator meyakini bahwa beban regulasi yang diberlakukan masih ringan dan perusahaan tidak akan sampai menarik produk mereka dari pasar New York. Meskipun ada kritik soal cakupan yang luas, pendukung undang-undang percaya ini adalah langkah penting demi keselamatan publik dan masa depan teknologi AI yang lebih bertanggung jawab, dengan New York menjadi pelopor dalam regulasi AI di Amerika Serikat.

Apple meluncurkan Apple Intelligence, sebuah sistem AI baru yang terintegrasi di iPhone, Mac, dan Apple Watch, memungkinkan perangkat berkomunikasi, menerjemahkan, dan berkreasi lebih baik dengan menjaga privasi pengguna. Fitur Live Translation memungkinkan komunikasi multibahasa secara langsung di Messages, FaceTime, dan Phone tanpa data percakapan disimpan di cloud, menjaga kerahasiaan pengguna. Genmoji dan Image Playground diperbarui dengan kemampuan kreatif lebih luas, termasuk memadukan emoji dengan deskripsi khusus dan gaya seni baru yang dipandu oleh AI ChatGPT. Apple Intelligence juga memperkaya pengalaman pengguna dalam pencarian visual, pelatihan kebugaran di Apple Watch melalui Workout Buddy, serta Shortcuts yang kini dapat memanfaatkan AI on-device untuk alur kerja pintar. Selain membuka akses AI kepada pengembang lewat model bahasa on-device, Apple juga menekankan keamanan data dengan pemrosesan di perangkat dan opsi Private Cloud Compute agar data tidak pernah disimpan atau dibagikan ke Apple.

Di acara WWDC 2025, Apple memperkenalkan berbagai pembaruan perangkat lunak dan fitur AI, tetapi perhatian terhadap asisten AI Siri sangat terbatas. Fitur personalisasi Siri yang dijanjikan tahun lalu masih belum tersedia dan mengalami penundaan karena Apple ingin menjaga kualitas. Apple Intelligence sendiri mendapat perhatian besar melalui integrasi teknologi AI dari OpenAI seperti ChatGPT, yang digunakan untuk fitur seperti Image Playground dan terjemahan waktu nyata dalam aplikasi Messages dan FaceTime. Namun, banyak pengguna dan pengamat menganggap Apple masih kalah cepat dibanding Google dan Microsoft dalam mengembangkan teknologi AI generatif. Google telah meluncurkan fitur Gemini yang memungkinkan pengguna Android untuk memanfaatkan AI dalam mengenali dan merespon gambar secara langsung, sementara Microsoft memperkenalkan AI shortcuts di Windows 11 yang memudahkan manipulasi file dan konten secara pintar. Apple belum mengikuti langkah serupa dalam menghadirkan AI cerdas di ekosistem iOS dan macOS secara menyeluruh. Beberapa masalah dengan Apple Intelligence terjadi saat peluncurannya, seperti ringkasan notifikasi yang kurang tepat sehingga membuat Apple menonaktifkan fitur tersebut untuk beberapa aplikasi. Meski begitu, Apple berupaya melakukan perbaikan dan mengintegrasikan lebih banyak fitur kecil dan fungsional yang bisa membantu pengguna sehari-hari. CEO Google, Sundar Pichai, mengungkapkan bahwa kemitraan dengan Apple untuk teknologi Gemini direncanakan rampung pada 2025, namun implementasi resminya belum terlihat. Sementara itu, Apple terus mengembangkan Siri dengan harapan segera menghadirkan versi yang lebih personal dan berguna sesuai standar tinggi mereka.

Apple baru saja mengumumkan Foundation Models framework yang memungkinkan pengembang menggunakan model AI langsung di perangkat tanpa perlu koneksi internet. Dengan cara ini, aplikasi bisa berjalan lebih cepat, hemat biaya, dan tentunya menjaga privasi pengguna. Fitur ini sangat membantu, misalnya aplikasi Kahoot bisa membuat kuis belajar secara personal berdasarkan catatan pengguna. Semua proses ini terjadi di perangkat, jadi tidak perlu khawatir tentang data yang dikirim ke server luar. Framework ini sudah siap dipakai oleh pengembang dan mendukung bahasa pemrograman Swift, yang banyak digunakan untuk membuat aplikasi di produk Apple. Bahkan pengembang hanya butuh tiga baris kode untuk mulai memanfaatkan AI ini. Beberapa aplikasi sudah menggunakan Foundation Models, seperti Day One untuk mencatat jurnal dan AllTrails yang membantu memilih rute hiking. Ini menunjukkan bagaimana AI bisa meningkatkan pengalaman aplikasi sehari-hari dengan cara yang lebih aman dan efisien. Foundation Models framework ini bisa diuji mulai sekarang oleh pengembang melalui Apple Developer Program dan versi beta publiknya akan dirilis bulan depan. Ini menjadi langkah penting Apple dalam menghadirkan teknologi AI yang ramah privasi.

OpenAI baru saja memperbarui fitur Advanced Voice pada ChatGPT yang memungkinkan pengguna berkomunikasi secara lisan dengan AI. Tujuannya adalah membuat suara ChatGPT terdengar lebih alami dan ekspresif sehingga percakapan terasa lebih hidup dan nyaman. Pembaruan ini memberikan ChatGPT intonasi yang lebih halus, jeda yang tepat, dan penekanan suara yang membuatnya bisa mengekspresikan emosi seperti empati dan sarkasme dengan lebih baik. Hal ini membuat interaksi dengan ChatGPT terasa lebih manusiawi. Selain itu, voice mode kini dapat menerjemahkan bahasa secara otomatis dan terus-menerus hingga pengguna menginstruksikan untuk berhenti atau mengganti bahasa. Fitur ini sangat membantu bagi mereka yang ingin berkomunikasi lintas bahasa dengan mudah. Pembaruan Advanced Voice ini tersedia untuk semua pengguna ChatGPT yang berbayar di semua pasar dan platform, sehingga semakin banyak orang bisa mengakses fitur baru ini tanpa hambatan. Meski begitu, OpenAI mengakui ada beberapa kendala teknis seperti variasi nada suara secara tak terduga dan masalah lama terkait suara tak diinginkan atau gibberish yang belum diperbaiki, sehingga pengguna masih mungkin mengalami gangguan saat menggunakan mode suara.

Microsoft akan memperkenalkan sistem peringkat keamanan untuk model kecerdasan buatan yang dijual kepada pelanggan cloud mereka. Langkah ini bertujuan untuk membangun kepercayaan dengan memberikan transparansi terkait risiko dan kualitas model AI dari berbagai penyedia. Peringkat keamanan ini akan menjadi tambahan pada leaderboard model yang sudah ada, yang selama ini mengurutkan model berdasarkan kualitas, biaya, dan kecepatan pengerjaan. Dengan adanya kategori keamanan, pelanggan dapat lebih mudah menilai risiko sebelum membeli model AI. Sistem penilaian keamanan menggunakan benchmark seperti ToxiGen yang mengukur ujaran kebencian implisit, dan benchmark dari Center for AI Safety yang mengevaluasi potensi model AI disalahgunakan sebagai senjata pemusnah massal. Microsoft ingin memastikan keamanan ini menjadi bagian utama dalam memilih model AI. Microsoft menegaskan bahwa meskipun belum ada standar global untuk pengujian keamanan AI, regulasi seperti AI Act yang akan diterapkan Uni Eropa menuntut perusahaan melakukan uji keamanan. Microsoft sendiri sudah melakukan pengujian otomatis lewat AI red teaming agent untuk menemukan celah keamanan sejak April 2025. Selain itu, Microsoft bekerja sama dengan berbagai perusahaan seperti OpenAI, xAI, dan Anthropic untuk menyajikan berbagai model AI di platform mereka. Namun, perusahaan juga melakukan pengurangan karyawan sebagai bagian dari upaya pengelolaan biaya yang berkelanjutan.

RedNote, perusahaan teknologi China yang dikenal dengan aplikasinya mirip Instagram, baru-baru ini meluncurkan model AI besar bernama dots.llm1 yang dirancang untuk menjadi efisien dan kuat. Model ini adalah bagian dari strategi mereka untuk tumbuh dan dikenal luas di luar China, termasuk membuka kantor di Hong Kong. Model dots.llm1 menggunakan pendekatan mixture-of-experts yang mengaktifkan sebagian kecil dari total parameternya saat digunakan, sehingga mengurangi biaya pelatihan dan pemrosesan tanpa mengorbankan kualitas performa. Ini dilakukan oleh tim riset internal Humane Intelligence Lab yang baru diubah dari tim penelitian AI sebelumnya. China sendiri telah menjadi pusat pengembangan model bahasa besar yang kompetitif, dengan perusahaan besar seperti Alibaba, Tencent, dan ByteDance yang juga mengembangkan model AI mereka sendiri. RedNote mencoba menonjol dengan modelnya yang diklaim lebih unggul dalam memahami bahasa China dibandingkan model open-source lainnya. Selain itu, RedNote terus memperkuat basis penggunanya yang sudah mencapai 300 juta pengguna aktif per bulan dan meningkatkan valuasi perusahaannya menjadi USRp 427.57 triliun ($26 miliar) . Rencana untuk melantai di bursa saham juga sudah dekat, menandai ambisi mereka untuk tumbuh lebih besar lagi. Dengan fokus pada pengembangan AI yang mengedepankan nilai-nilai kemanusiaan dan ekspresi yang alami, RedNote berharap bisa bersaing dengan raksasa teknologi lain sambil menjangkau pengguna global, terutama setelah pengaruh positif saat ada kekhawatiran pelarangan TikTok di Amerika Serikat.

Pengadilan Tinggi Inggris mengeluarkan peringatan penting bagi pengacara agar lebih berhati-hati menggunakan alat kecerdasan buatan seperti ChatGPT dalam pekerjaan hukum mereka. Menurut hakim Victoria Sharp, AI generatif bisa memberikan jawaban yang kelihatan meyakinkan tetapi sebenarnya salah atau tidak akurat. Dalam dua kasus terbaru, beberapa pengacara mengajukan kutipan hukum yang ternyata palsu atau salah, yang sebagian kemungkinan berasal dari ringkasan yang dihasilkan AI. Pengadilan menegaskan pengacara harus memeriksa dan memastikan keakuratan riset yang memanfaatkan AI sebelum menggunakannya dalam dokumen resmi di pengadilan. Jika pengacara gagal memenuhi kewajiban profesional ini, mereka bisa menghadapi sanksi berat dari teguran hingga tindakan hukum serius.

Sarah Franklin, CEO dari perusahaan perangkat lunak kinerja karyawan Lattice, mengungkapkan bahwa kata favoritnya adalah 'keseimbangan,' terutama dalam penerapan kecerdasan buatan di perusahaan. Ia menekankan bahwa perusahaan harus menemukan keseimbangan antara penggunaan AI dan mempertahankan peran manusia. Di acara SXSW London, Franklin berbicara tentang bagaimana beberapa perusahaan ingin mengganti pekerja manusia secara penuh dengan AI untuk menghemat biaya, tetapi hal ini tidak selalu menguntungkan pelanggan dan bisa merusak kepercayaan yang sangat penting bagi perusahaan. Menurut Franklin, penting bagi perusahaan untuk menempatkan manusia dan konsumen sebagai prioritas utama, bukan AI itu sendiri. Transparansi dalam penggunaan AI serta akuntabilitas manusia menjadi syarat penting agar hubungan antara manusia dan AI tetap sehat dan bisa dipercaya. Lattice sendiri telah mengembangkan agen AI yang membantu para karyawan dengan memberikan wawasan proaktif dalam pertemuan satu lawan satu, serta menyediakan platform agar klien bisa membuat agen AI khusus sesuai kebutuhan mereka, dengan pengawasan manusia sebagai hal yang wajib. Akhirnya, Franklin menegaskan bahwa perusahaan yang memahami pentingnya mengutamakan manusia dan menjaga kepercayaan akan menjadi pemenang dalam era revolusi AI ini. Ia mengingatkan bahwa koneksi manusia tidak dapat digantikan oleh teknologi.

Di zaman sekarang, teknologi AI semakin murah dan mudah digunakan oleh banyak orang. Hal ini membawa dampak besar, terutama dalam hal keselamatan dan etika penggunaan AI. Banyak orang khawatir jika AI digunakan secara salah, seperti membuat deepfake yang bisa menipu orang lain. Dalam sebuah diskusi yang melibatkan Artemis Seaford dari ElevenLabs dan Ion Stoica dari Databricks, mereka membahas berbagai tantangan terkait etika AI. Mereka juga berbicara tentang bagaimana menempatkan batasan-batasan yang jelas agar teknologi ini tidak disalahgunakan oleh pihak-pihak yang berniat jahat. Salah satu masalah utama yang dibahas adalah deepfake, yaitu teknik membuat video atau audio palsu yang sangat mirip dengan aslinya. Nantinya, deepfake ini bisa digunakan untuk menipu, menyebarkan hoaks, atau hal-hal lain yang merugikan banyak orang. Oleh karena itu, perlu adanya aturan dan langkah konkret untuk mengendalikan penyebaran teknologi ini. Para ahli juga membahas tentang bagaimana sebaiknya AI diterapkan secara bertanggung jawab. Ini termasuk menentukan siapa yang boleh menggunakan AI, bagaimana mekanisme pengawasan dilakukan, dan bagaimana masyarakat bisa ikut berperan menjaga keamanan teknologi ini. Secara keseluruhan, diskusi ini menegaskan bahwa walaupun AI membawa banyak manfaat, kita harus tetap waspada dan bertindak bijak dalam menggunakannya. Perlindungan terhadap penyalahgunaan AI sangat penting agar teknologi ini dapat memberikan kebaikan bagi semua orang di masa depan.