Anthropic ir pētniecības organizācija, kuras mērķis ir nodrošināt, lai mākslīgais intelekts (AI) tiktu izstrādāts drošā un cilvēcei izdevīgā veidā. Viņu tīmekļa vietnē ir sniegts pārskats par viņu galvenajiem uzskatiem par AI drošību, kas ietver viņu pārliecību, ka AI ir jāsaskaņo ar cilvēka vērtībām un mērķiem, kas ir jāizstrādā tā, lai tas būtu pārredzams un izskaidrojams, un tas ir pakļauts pastāvīgai uzraudzībai un novērtēšanai. Lai mākslīgais intelekts būtu saskaņots ar cilvēka vērtībām un mērķiem, Anthropic iestājas par vērtību saskaņošanas pētījumu izmantošanu, kas cenšas saprast, kā veidot AI sistēmas, kurām ir tādi paši mērķi un vērtības kā cilvēkiem. Viņi arī uzsver, cik svarīgi ir izstrādāt pārredzamas un izskaidrojamas AI sistēmas, kas nozīmē, ka cilvēki var viegli saprast viņu lēmumus un darbības. Tas palīdzēs veidot uzticēšanos un atbildību starp AI sistēmām un to lietotājiem. Lai lasītu vairāk, izmantojiet tālāk esošo pogu, lai atvērtu sākotnējo ārējo rakstu.