Artikel - Eksklusif: Anthropic, pemerintah uji apakah AI akan membagikan informasi nuklir sensitif

Anthropic, sebuah perusahaan yang mengembangkan model kecerdasan buatan (AI), bekerja sama dengan Departemen Energi AS untuk memastikan bahwa model mereka tidak dapat digunakan untuk membuat senjata nuklir. Mereka telah melakukan pengujian yang disebut "red teaming" untuk menguji model mereka, Claude 3 Sonnet, agar tidak membocorkan informasi berbahaya tentang energi nuklir. Program ini dimulai pada bulan April dan akan berlangsung hingga Februari, di mana para ahli dari National Nuclear Security Administration (NNSA) akan mencoba menemukan cara penyalahgunaan model tersebut.

Kerja sama ini penting karena dapat membantu pengembang AI menciptakan sistem yang lebih aman dan bertanggung jawab. Anthropic percaya bahwa kolaborasi ini adalah langkah pertama dalam menggunakan model AI di lingkungan yang sangat rahasia, dan mereka berencana untuk berbagi temuan mereka dengan laboratorium ilmiah dan organisasi lain untuk pengujian lebih lanjut. Selain itu, pemerintah AS juga sedang meningkatkan perhatian terhadap keamanan AI, terutama terkait risiko yang mungkin ditimbulkan oleh teknologi ini terhadap keamanan nasional.

Eksklusif: Anthropic, pemerintah uji apakah AI akan membagikan informasi nuklir sensitif

Artikel Serupa

Anthropic Luncurkan AI Khusus Untuk Keamanan Nasional AS dengan Standar Tinggi

Anthropic secara diam-diam menghapus komitmen kebijakan AI era Biden dari situs webnya.

CEO Anthropic Dario Amodei memperingatkan tentang 'perlombaan' untuk memahami AI seiring dengan semakin kuatnya teknologi tersebut.

OpenAI akan menyediakan model-modelnya kepada Los Alamos dan laboratorium nasional lainnya.

Pentagon mengatakan bahwa AI mempercepat 'rantai pembunuhan' nya.

OpenAI mempersembahkan versi regulasi AI yang diutamakan dalam 'blueprint' baru.

OpenAI dan Anduril bermitra dalam rencana pertahanan drone berbasis AI.