Anthropic je istraživačka organizacija koja ima za cilj osigurati da se umjetna inteligencija (AI) razvija na način koji je siguran i koristan za čovječanstvo. Njihova web stranica pruža pregled njihovih temeljnih pogleda na sigurnost umjetne inteligencije, što uključuje njihovo uvjerenje da bi umjetna inteligencija trebala biti usklađena s ljudskim vrijednostima i ciljevima, dizajnirana da bude transparentna i objašnjiva te podložna stalnom praćenju i evaluaciji. Kako bi se umjetna inteligencija uskladila s ljudskim vrijednostima i ciljevima, Anthropic se zalaže za korištenje istraživanja usklađivanja vrijednosti, koje nastoji razumjeti kako izgraditi sustave umjetne inteligencije koji dijele iste ciljeve i vrijednosti kao i ljudi. Također naglašavaju važnost dizajniranja sustava umjetne inteligencije koji su transparentni i objašnjivi, što znači da njihove odluke i radnje ljudi mogu lako razumjeti. To će pomoći u izgradnji povjerenja i odgovornosti između AI sustava i njihovih ljudskih korisnika. Da biste pročitali više, upotrijebite gumb ispod za otvaranje izvornog vanjskog članka.