Anthropic er en forskningsorganisation, der har til formål at sikre, at kunstig intelligens (AI) udvikles på en måde, der er sikker og gavnlig for menneskeheden. Deres hjemmeside giver et overblik over deres kernesyn på AI-sikkerhed, hvilket inkluderer deres overbevisning om, at AI skal være på linje med menneskelige værdier og mål, designet til at være gennemsigtigt og forklareligt og underlagt løbende overvågning og evaluering. For at AI kan tilpasses til menneskelige værdier og mål, går Anthropic ind for brugen af ​​værditilpasningsforskning, som søger at forstå, hvordan man bygger AI-systemer, der deler de samme mål og værdier som mennesker. De understreger også vigtigheden af ​​at designe AI-systemer, der er gennemsigtige og forklarlige, hvilket betyder, at deres beslutninger og handlinger let kan forstås af mennesker. Dette vil bidrage til at opbygge tillid og ansvarlighed mellem AI-systemer og deres menneskelige brugere. For at læse mere, brug knappen nedenfor for at åbne den originale eksterne artikel.