Mengurai keselamatan dari keamanan AI adalah hal yang sulit, kata para ahli.

Langkah terbaru dari AS dan Inggris untuk menganggap keselamatan AI sebagai masalah keamanan bisa berisiko, tergantung pada bagaimana pemimpin mendefinisikan "keselamatan." Definisi yang luas bisa mencakup masalah seperti model AI yang menghasilkan konten berbahaya, sementara pendekatan yang lebih sempit mungkin mengabaikan masalah etika, seperti bias dalam pengambilan keputusan AI. Di sebuah pertemuan di Paris, AS dan Inggris menolak untuk menandatangani deklarasi internasional yang menekankan pendekatan "terbuka" dan "etis" dalam pengembangan AI. Para ahli setuju bahwa keamanan AI berfokus pada melindungi model dari ancaman eksternal, seperti peretasan dan pencurian data. Namun, keselamatan AI lebih luas dan bisa mencakup masalah etika, seperti deepfake dan keputusan yang bias. Ada kekhawatiran bahwa jika definisi keselamatan terlalu kaku, hal ini bisa menyebabkan masalah lebih besar. Meskipun ada perubahan kebijakan, banyak peneliti AI dan hacker etis tetap mengintegrasikan masalah keselamatan dalam pengujian keamanan mereka.