Anthropic ialah organisasi penyelidikan yang bertujuan memastikan kecerdasan buatan (AI) dibangunkan dengan cara yang selamat dan bermanfaat kepada manusia. Tapak web mereka memberikan gambaran keseluruhan pandangan teras mereka tentang keselamatan AI, yang termasuk kepercayaan mereka bahawa AI harus sejajar dengan nilai dan matlamat manusia, direka bentuk untuk telus dan boleh dijelaskan, serta tertakluk kepada pemantauan dan penilaian berterusan. Agar AI diselaraskan dengan nilai dan matlamat manusia, Anthropic menyokong penggunaan penyelidikan penjajaran nilai, yang bertujuan untuk memahami cara membina sistem AI yang berkongsi matlamat dan nilai yang sama seperti manusia. Mereka juga menekankan kepentingan mereka bentuk sistem AI yang telus dan boleh dijelaskan, bermakna keputusan dan tindakan mereka boleh difahami dengan mudah oleh manusia. Ini akan membantu membina kepercayaan dan akauntabiliti antara sistem AI dan pengguna manusia mereka. Untuk membaca lebih lanjut, gunakan butang di bawah untuk membuka artikel luar asal.