Anthropic 是一個研究組織，旨在確保人工智慧 (AI) 以安全且有益於人類的方式開發。他們的網站概述了他們對人工智慧安全的核心觀點，其中包括他們的信念，即人工智慧應該與人類價值觀和目標保持一致，設計得透明且可解釋，並接受持續的監控和評估。為了讓人工智慧與人類的價值觀和目標保持一致，Anthropic 提倡使用價值一致性研究，旨在了解如何建構與人類具有相同目標和價值觀的人工智慧系統。他們也強調設計透明且可解釋的人工智慧系統的重要性，這意味著它們的決策和行為可以很容易被人類理解。這將有助於在人工智慧系統與其人類用戶之間建立信任和問責制。要了解更多信息，請使用下面的按鈕打開原始外部文章。