A Antrópica é uma organização de pesquisa que visa garantir que a inteligência artificial (IA) seja desenvolvida de forma segura e benéfica para a humanidade. O seu website fornece uma visão geral das suas principais opiniões sobre a segurança da IA, que inclui a sua crença de que a IA deve estar alinhada com os valores e objetivos humanos, concebida para ser transparente e explicável, e sujeita a monitorização e avaliação contínuas. Para que a IA esteja alinhada com os valores e objetivos humanos, a Anthropic defende o uso de pesquisas de alinhamento de valores, que buscam entender como construir sistemas de IA que compartilhem os mesmos objetivos e valores dos humanos. Salientam também a importância de conceber sistemas de IA que sejam transparentes e explicáveis, o que significa que as suas decisões e ações possam ser facilmente compreendidas pelos humanos. Isto ajudará a construir confiança e responsabilização entre os sistemas de IA e os seus utilizadores humanos. Para ler mais, use o botão abaixo para abrir o artigo externo original.