Courtesy of TechCrunch

OpenAI melatih o1 dan o3 untuk 'berpikir' tentang kebijakan keselamatannya.

23 Des 2024, 01.30 WIB

159 dibaca

OpenAI baru saja mengumumkan model AI terbaru mereka yang disebut o3, yang diklaim lebih canggih dibandingkan model sebelumnya, o1. Salah satu inovasi utama dari model ini adalah metode yang disebut "deliberative alignment," yang bertujuan untuk memastikan bahwa model AI tetap sesuai dengan nilai-nilai keselamatan yang ditetapkan oleh pengembang manusia. Dengan menggunakan metode ini, model o1 dan o3 dapat mempertimbangkan kebijakan keselamatan OpenAI saat memberikan jawaban, sehingga mengurangi kemungkinan mereka menjawab pertanyaan yang dianggap tidak aman.

Metode ini melibatkan proses di mana model AI memecah masalah menjadi langkah-langkah kecil sebelum memberikan jawaban. OpenAI juga menggunakan data sintetis, yaitu contoh yang dibuat oleh model AI lain, untuk melatih o1 dan o3 agar lebih memahami kebijakan keselamatan. Meskipun masih ada tantangan dalam menyelaraskan model AI dengan nilai-nilai manusia, OpenAI percaya bahwa pendekatan ini dapat membantu menciptakan model yang lebih aman dan sesuai dengan konteks. Model o3 direncanakan akan diluncurkan pada tahun 2025.

Sumber: https://techcrunch.com/2024/12/22/openai-trained-o1-and-o3-to-think-about-its-safety-policy/

Pertanyaan Terkait

Apa yang diumumkan oleh OpenAI pada hari Jumat?

OpenAI mengumumkan keluarga baru model AI bernama o3 yang lebih maju dibandingkan model sebelumnya.

Apa itu 'deliberative alignment' dan bagaimana cara kerjanya?

'Deliberative alignment' adalah metode yang digunakan OpenAI untuk memastikan model AI tetap selaras dengan nilai-nilai pengembang manusia selama fase inference.

Mengapa keamanan AI menjadi topik yang semakin relevan?

Keamanan AI menjadi semakin relevan seiring dengan meningkatnya popularitas dan kekuatan model AI.

Apa tantangan yang dihadapi OpenAI dalam mengimplementasikan langkah-langkah keamanan?

Tantangan yang dihadapi termasuk menghindari sensor yang berlebihan dan memastikan model tidak memberikan jawaban yang tidak aman.

Kapan model o3 direncanakan untuk diluncurkan?

Model o3 direncanakan untuk diluncurkan pada tahun 2025.