Anthropic est une organisation de recherche qui vise à garantir que l'intelligence artificielle (IA) soit développée d'une manière sûre et bénéfique pour l'humanité. Leur site Web donne un aperçu de leurs principales opinions sur la sécurité de l’IA, qui incluent leur conviction que l’IA doit être alignée sur les valeurs et les objectifs humains, conçue pour être transparente et explicable, et soumise à un suivi et une évaluation continus. Afin que l’IA soit alignée sur les valeurs et les objectifs humains, Anthropic préconise l’utilisation de la recherche sur l’alignement des valeurs, qui cherche à comprendre comment construire des systèmes d’IA partageant les mêmes objectifs et valeurs que les humains. Ils soulignent également l’importance de concevoir des systèmes d’IA transparents et explicables, ce qui signifie que leurs décisions et actions peuvent être facilement comprises par les humains. Cela contribuera à renforcer la confiance et la responsabilité entre les systèmes d’IA et leurs utilisateurs humains. Pour en savoir plus, utilisez le bouton ci-dessous pour ouvrir l'article externe original.