Anthropic és una organització de recerca que té com a objectiu garantir que la intel·ligència artificial (IA) es desenvolupi d'una manera segura i beneficiosa per a la humanitat. El seu lloc web ofereix una visió general de les seves opinions bàsiques sobre la seguretat de la IA, que inclou la seva creença que la IA hauria d'estar alineada amb els valors i objectius humans, dissenyada per ser transparent i explicable, i subjecta a un seguiment i avaluació permanents. Per tal que la IA estigui alineada amb els valors i objectius humans, Anthropic defensa l'ús de la investigació d'alineació de valors, que pretén entendre com construir sistemes d'IA que comparteixin els mateixos objectius i valors que els humans. També subratllen la importància de dissenyar sistemes d'IA que siguin transparents i explicables, el que significa que les seves decisions i accions poden ser enteses fàcilment pels humans. Això ajudarà a generar confiança i responsabilitat entre els sistemes d'IA i els seus usuaris humans. Per llegir-ne més, utilitzeu el botó següent per obrir l'article extern original.