Anthropic je raziskovalna organizacija, katere cilj je zagotoviti, da se umetna inteligenca (AI) razvija na način, ki je varen in koristen za človeštvo. Njihovo spletno mesto ponuja pregled njihovih temeljnih pogledov na varnost umetne inteligence, ki vključuje njihovo prepričanje, da mora biti umetna inteligenca usklajena s človeškimi vrednotami in cilji, zasnovana tako, da je pregledna in razložljiva ter predmet stalnega spremljanja in vrednotenja. Da bi bila umetna inteligenca usklajena s človeškimi vrednotami in cilji, Anthropic zagovarja uporabo raziskav o usklajevanju vrednosti, ki skušajo razumeti, kako zgraditi sisteme umetne inteligence, ki imajo enake cilje in vrednote kot ljudje. Poudarjajo tudi pomen oblikovanja sistemov umetne inteligence, ki so pregledni in razložljivi, kar pomeni, da lahko ljudje zlahka razumejo njihove odločitve in dejanja. To bo pomagalo zgraditi zaupanje in odgovornost med sistemi AI in njihovimi uporabniki. Če želite prebrati več, uporabite spodnji gumb, da odprete izvirni zunanji članek.