Anthropic הוא ארגון מחקר שמטרתו להבטיח שהבינה המלאכותית (AI) תפתח בצורה בטוחה ומועילה לאנושות. האתר שלהם מספק סקירה כללית של השקפות הליבה שלהם על בטיחות בינה מלאכותית, הכוללת את אמונתם כי בינה מלאכותית צריכה להיות מותאמת לערכים ולמטרות אנושיות, מתוכננת להיות שקופה וניתנת להסבר, וכפופה לניטור והערכה מתמשכים. על מנת שבינה מלאכותית תהיה מותאמת לערכים ומטרות אנושיות, אנתרופיק דוגלת בשימוש במחקר יישור ערכים, המבקש להבין כיצד לבנות מערכות בינה מלאכותית החולקות את אותן מטרות וערכים כמו בני אדם. הם גם מדגישים את החשיבות של עיצוב מערכות בינה מלאכותיות שהן שקופות וניתנות להסבר, כלומר, ההחלטות והפעולות שלהן יכולות להיות מובנות בקלות על ידי בני אדם. זה יעזור לבנות אמון ואחריות בין מערכות AI והמשתמשים האנושיים שלהן. כדי לקרוא עוד, השתמש בכפתור למטה כדי לפתוח את המאמר החיצוני המקורי.