Anthropic は、人類にとって安全で有益な方法で人工知能 (AI) を開発することを目的とした研究組織です。彼らの Web サイトでは、AI の安全性に関する中心的な見解の概要が提供されています。これには、AI は人間の価値観と目標に沿ったものであり、透明性と説明可能であるように設計され、継続的な監視と評価の対象となるべきであるという信念が含まれています。 AI を人間の価値観や目標と一致させるために、Anthropic は、人間と同じ目標や価値観を共有する AI システムを構築する方法を理解する価値観一致研究の利用を提唱しています。彼らはまた、透明性があり説明可能な AI システムを設計すること、つまり AI の決定や行動が人間に容易に理解できるように設計することの重要性を強調しています。これは、AI システムとその人間のユーザーとの間に信頼と説明責任を構築するのに役立ちます。詳細を読むには、下のボタンを使用して元の外部記事を開いてください。