Anthropic är en forskningsorganisation som syftar till att säkerställa att artificiell intelligens (AI) utvecklas på ett sätt som är säkert och fördelaktigt för mänskligheten. Deras webbplats ger en översikt över deras kärnsyn på AI-säkerhet, vilket inkluderar deras övertygelse om att AI bör anpassas till mänskliga värderingar och mål, utformad för att vara transparent och förklarlig och föremål för fortlöpande övervakning och utvärdering. För att AI ska kunna anpassas till mänskliga värderingar och mål, förespråkar Anthropic användningen av värdeanpassningsforskning, som försöker förstå hur man bygger AI-system som delar samma mål och värderingar som människor. De betonar också vikten av att designa AI-system som är transparenta och förklarliga, vilket innebär att deras beslut och handlingar lätt kan förstås av människor. Detta kommer att bidra till att bygga upp förtroende och ansvarighet mellan AI-system och deras mänskliga användare. För att läsa mer, använd knappen nedan för att öppna den ursprungliga externa artikeln.