퀀텀런

이미지 크레딧: 퀀텀런

최초의 일반 인공 지능이 사회를 바꾸는 방법: 인공 지능의 미래 P2

David Tal, 발행인, 미래학자
@DavidTalWrites
링크드인

화, 09 / 15 / 2020 - 13 : 08

우리는 피라미드를 건설했습니다. 우리는 전기를 이용하는 법을 배웠습니다. 우리는 우주가 빅뱅(대부분) 이후에 어떻게 형성되었는지 이해합니다. 그리고 물론 진부한 예로서 우리는 사람을 달에 보냈습니다. 그러나 이러한 모든 성취에도 불구하고 인간의 뇌는 현대 과학의 이해 범위를 훨씬 벗어나 있으며 기본적으로 알려진 우주에서 가장 복잡한 대상이거나 최소한 우리가 이해하는 우주입니다.

이러한 현실을 감안할 때 우리가 아직 인간과 동등한 인공 지능(AI)을 구축하지 못했다는 사실이 완전히 충격적이어서는 안 됩니다. Data(Star Trek), Rachael(Blade Runner), David(Prometheus)와 같은 AI 또는 Samantha(Her) 및 TARS(Interstellar)와 같은 비인간형 AI는 모두 AI 개발의 다음 중대한 이정표의 예입니다. 인공 일반 지능(AGI, 때로는 HLMI 또는 인간 수준 기계 지능이라고도 함).

다시 말해, AI 연구자들이 직면한 과제는 우리 자신의 마음이 어떻게 작동하는지 완전히 이해하지도 못하는 상황에서 어떻게 우리 자신과 비슷한 인공 마음을 만들 수 있습니까?

우리는 이 질문과 함께 인간이 미래의 AGI에 맞서 어떻게 싸울 것인지, 그리고 마지막으로 첫 번째 AGI가 세상에 발표된 다음 날 사회가 어떻게 변할 것인지 탐구할 것입니다.

인공 일반 지능이란 무엇입니까?

Chess, Jeopardy, Go에서 상위권 플레이어를 이길 수 있는 AI를 쉽게(딥 블루, 왓슨및 알파고 각기). 질문에 대한 답변을 제공하고, 구매하고 싶은 품목을 제안하거나, 차량 공유 택시를 관리할 수 있는 AI를 설계하세요. 수십억 달러 규모의 전체 회사가 이를 중심으로 구축됩니다(Google, Amazon, Uber). 미국의 한 곳에서 다른 곳으로 당신을 데려다 줄 수 있는 AI조차도 ... 글쎄, 우리는 그것에 대해 노력하고 있습니다.

그러나 AI에게 어린이 책을 읽고 가르치고자 하는 내용, 의미 또는 도덕을 이해하도록 요청하거나 AI에게 고양이 그림과 얼룩말의 차이를 말해달라고 요청하면 결국 몇 가지 이상의 문제를 일으키게 될 것입니다. 단락.

자연은 새로운 상황과 새로운 환경 내에서 처리, 이해, 학습 및 행동에 탁월한 컴퓨팅 장치(두뇌)를 진화시키는 데 수백만 년을 보냈습니다. 이를 위해 설계된 단일 작업에 맞게 조정된 컴퓨팅 장치를 만드는 데 중점을 둔 컴퓨터 과학의 지난 반세기와 비교해 보십시오.

즉, 인간-컴퓨터는 제너럴리스트이고 인공 컴퓨터는 전문가입니다.

AGI를 만드는 목표는 직접적인 프로그래밍이 아닌 경험을 통해 사람처럼 생각하고 배울 수 있는 AI를 만드는 것입니다.

현실 세계에서 이것은 미래의 AGI가 세상에서 자신의 경험을 통해(어떤 신체 또는 우리가 제공하는 감각 기관/장치), 그리고 자체 상호작용을 통해 다른 AI와 다른 인간.

인공 일반 지능을 구축하는 데 필요한 것

기술적으로 어렵지만 AGI를 만드는 것은 가능해야 합니다. 사실, 물리 법칙에 깊이 있는 속성인 계산의 보편성이 기본적으로 물리적 개체가 할 수 있는 모든 것을 말합니다. 충분히 강력한 범용 컴퓨터는 원칙적으로 복사/시뮬레이션할 수 있어야 합니다.

그런데도 까다롭습니다.

고맙게도 이 사건에 대해 영리한 AI 연구원이 많이 있으며(많은 기업, 정부 및 군사 자금 지원은 말할 것도 없음) 지금까지 그들은 문제를 해결하기 위해 해결해야 한다고 생각하는 세 가지 핵심 요소를 식별했습니다. AGI를 우리 세계로.

빅 데이터. AI 개발에 대한 가장 일반적인 접근 방식에는 딥 러닝이라는 기술이 포함됩니다. 이 기술은 엄청난 양의 데이터를 대량으로 수집하고 시뮬레이션된 뉴런 네트워크(인간의 두뇌를 본따)에서 해당 데이터를 크런치하여 작동하는 특정 유형의 머신 러닝 시스템입니다. 결과를 사용하여 자체 통찰력을 프로그래밍합니다. 딥러닝에 대한 자세한 내용은 이 책을 읽으.

예를 들어, 2017년, Google은 딥 러닝 시스템이 고양이를 식별하는 방법뿐만 아니라 다양한 고양이 품종을 구별하는 데 사용한 수천 개의 고양이 이미지를 AI에 제공했습니다. 얼마 지나지 않아 그들은 곧 출시될 것을 발표했습니다. Google Lens, 사용자가 무엇이든 사진을 찍을 수 있게 해주는 새로운 검색 앱으로 Google은 그것이 무엇인지 알려줄 뿐만 아니라 이를 설명하는 유용한 컨텍스트 콘텐츠도 제공합니다. 그러나 여기에서도 Google Lens는 현재 이미지 검색 엔진에 나열되어 있는 수십억 개의 이미지 없이는 불가능합니다.

그러나 이 빅 데이터와 딥 러닝 조합은 여전히 AGI를 가져오기에 충분하지 않습니다.

더 나은 알고리즘. 지난 XNUMX년 동안 Google 자회사이자 AI 분야의 선두주자인 DeepMind는 딥 러닝의 강점을 강화 학습과 결합하여 큰 인기를 얻었습니다. 정해진 목표.

이 하이브리드 전술 덕분에 DeepMind의 최초 AI인 AlphaGo는 규칙을 다운로드하고 마스터 인간 플레이어의 전략을 연구하여 AlphaGo를 플레이하는 방법을 스스로 가르쳤을 뿐만 아니라 수백만 번 플레이한 후 최고의 AlphaGo 플레이어를 이길 수 있었습니다. 게임에서 볼 수 없었던 움직임과 전략을 사용합니다.

마찬가지로, DeepMind의 Atari 소프트웨어 실험에는 AI에게 일반적인 게임 화면을 볼 수 있는 카메라를 제공하고, 게임 명령(조이스틱 버튼과 같은)을 입력할 수 있는 기능으로 프로그래밍하고, 점수를 높이는 단일 목표를 부여하는 것이 포함되었습니다. 결과? 며칠 만에 수십 가지의 고전 아케이드 게임을 플레이하는 방법과 마스터하는 방법을 스스로 터득했습니다.

그러나 이러한 초기 성공만큼 흥미진진하지만 해결해야 할 몇 가지 주요 과제가 남아 있습니다.

하나는 AI 연구원들이 인간과 동물의 두뇌가 유난히 잘하는 '청킹'이라는 트릭을 AI에 가르치는 작업을 하고 있다는 것입니다. 간단히 말해서 식료품을 사러 나가기로 결정했을 때 최종 목표(아보카도 구매)와 어떻게 할 것인지(집에서 나가기, 식료품점에 방문하기, 구매하기)에 대한 대략적인 계획을 시각화할 수 있습니다 아보카도, 집으로 돌아가기). 당신이 하지 않는 일은 모든 호흡, 모든 단계, 거기에 가는 길에 가능한 모든 비상 사태를 계획하는 것입니다. 대신, 당신은 당신이 가고 싶은 곳의 개념(덩어리)을 가지고 있고 어떤 상황이 닥치든 여행을 조정합니다.

일반적으로 느낄 수 있지만 이 능력은 인간의 두뇌가 AI에 비해 여전히 가지고 있는 주요 이점 중 하나입니다. 모든 세부 사항을 미리 알지 못하고 장애물이나 환경 변화에도 불구하고 목표를 설정하고 추구하는 적응력입니다. 만날 수 있습니다. 이 기술을 통해 AGI는 위에서 언급한 빅 데이터 없이도 더 효율적으로 학습할 수 있습니다.

또 다른 도전은 책을 읽는 것뿐만 아니라 의미를 이해하다 또는 그 뒤에 있는 맥락. 장기적으로 여기의 목표는 AI가 신문 기사를 읽고 책 보고서 작성과 같이 읽은 내용에 대한 다양한 질문에 정확하게 답할 수 있도록 하는 것입니다. 이 능력은 AI를 단순히 숫자를 계산하는 계산기에서 의미를 계산하는 엔터티로 변환합니다.

전반적으로 인간의 두뇌를 모방할 수 있는 자가 학습 알고리즘의 추가 발전은 AGI의 최종 생성에 중요한 역할을 할 것이지만, 이 작업과 함께 AI 커뮤니티도 더 나은 하드웨어가 필요합니다.

더 나은 하드웨어. 위에서 설명한 현재 접근 방식을 사용하여 AGI를 실행하는 데 사용할 수 있는 컴퓨팅 성능을 심각하게 높인 후에만 AGI가 가능해집니다.

문맥상, 인간 두뇌의 사고 능력을 계산 용어로 변환하면 평균 인간의 정신 능력에 대한 대략적인 추정치는 1,000엑사플롭이며, 이는 XNUMX페타플롭('플롭'은 부동 소수점 연산을 의미합니다. 두 번째로 계산 속도를 측정함).

이에 비해 2018년 말까지 세계에서 가장 강력한 슈퍼컴퓨터인 일본 AI 브리징 클라우드 130엑사플롭에 훨씬 못 미치는 XNUMX페타플롭에서 윙윙거리는 소리가 납니다.

우리의 설명대로 슈퍼 컴퓨터 우리의 장 컴퓨터의 미래 시리즈에서 미국과 중국은 2022년까지 자체 엑사플롭 슈퍼컴퓨터를 구축하기 위해 노력하고 있지만 성공하더라도 여전히 충분하지 않을 수 있습니다.

이 슈퍼컴퓨터는 수십 메가와트의 전력으로 작동하고 수백 평방 미터의 공간을 차지하며 구축하는 데 수억 달러가 소요됩니다. 인간의 뇌는 단지 20와트의 전력을 사용하고, 둘레가 대략 50cm인 두개골 안에 들어맞으며, 우리의 수는 2018억입니다(XNUMX). 다시 말해, AGI를 인간처럼 일반화하려면 AGI를 보다 경제적으로 만드는 방법을 배워야 합니다.

이를 위해 AI 연구자들은 양자 컴퓨터로 미래 AI를 구동하는 것을 고려하기 시작했습니다. 에 더 자세히 설명되어 있습니다. 양자 컴퓨터 컴퓨터의 미래 시리즈의 장에서, 이 컴퓨터는 우리가 지난 반세기 동안 만들어온 컴퓨터와는 근본적으로 다른 방식으로 작동합니다. 2030년대까지 완성되면 단일 양자 컴퓨터는 현재 2018년에 전 세계적으로 작동하는 모든 슈퍼컴퓨터를 합친 것보다 더 많이 계산할 것입니다. 또한 현재의 슈퍼컴퓨터보다 훨씬 작고 에너지도 훨씬 적게 사용합니다.

인공 일반 지능이 인간보다 얼마나 우월할까요?

위에 나열된 모든 과제가 파악되고 AI 연구원이 첫 번째 AGI를 만드는 데 성공했다고 가정해 보겠습니다. AGI의 마음은 우리의 마음과 어떻게 다를까요?

이런 종류의 질문에 답하기 위해 우리는 AGI 마음을 로봇 몸 안에 사는 세 가지 범주로 분류해야 합니다. 스타 트렉), 물리적 형태를 가지지만 인터넷/클라우드에 무선으로 연결된 것(Agent Smith from 매트릭스) 및 물리적 형태 없이 컴퓨터나 온라인에서 완전히 사는 사람들(Samantha from 그녀의).

먼저 웹과 격리된 로봇 몸체 내부의 AGI는 인간의 마음과 동등하게 경쟁하지만 다음과 같은 장점이 있습니다.

기억력: AGI의 로봇 형태의 설계에 따라 단기 기억력과 주요 정보의 기억력은 확실히 인간보다 우수합니다. 그러나 결국 로봇을 인간처럼 보이도록 설계했다고 가정할 때 로봇에 넣을 수 있는 하드 드라이브 공간에는 물리적 한계가 있습니다. 이러한 이유로 AGI의 장기 기억은 인간의 장기 기억과 매우 유사하게 작용하여 향후 기능에 불필요한 것으로 간주되는 정보와 기억을 적극적으로 잊어버립니다('디스크 공간' 확보를 위해).
속도: 인간 두뇌 내부의 뉴런의 성능은 최대 약 200Hz인 반면, 현대 마이크로프로세서는 기가헤르츠 수준에서 실행되므로 뉴런보다 수백만 배 빠릅니다. 이것은 인간에 비해 미래의 AGI가 정보를 처리하고 인간보다 더 빠르게 결정을 내릴 것임을 의미합니다. 이것은 반드시 이 AGI가 인간보다 더 똑똑하거나 더 정확한 결정을 내릴 것이라는 의미는 아니며, 더 빨리 결론에 도달할 수 있다는 것입니다.
성능: 간단히 말해서, 인간의 뇌는 휴식이나 수면 없이 너무 오래 작동하면 피로해지고, 그렇게 하면 기억력, 학습 및 추론 능력이 손상됩니다. 한편 AGI는 정기적으로 충전(전기)을 받는다고 가정하면 그런 약점이 없다.
업그레이드 가능성: 인간의 경우 새로운 습관을 배우는 데 몇 주가 걸릴 수 있고, 새로운 기술을 배우는 데 몇 달이 걸릴 수 있으며, 새로운 직업을 배우는 데 몇 년이 걸릴 수 있습니다. AGI의 경우 컴퓨터 OS를 정기적으로 업데이트하는 방법과 유사하게 경험(인간과 같은)과 직접적인 데이터 업로드를 통해 학습할 수 있는 능력이 있습니다. 이러한 업데이트는 지식 업그레이드(새로운 기술) 또는 AGI 물리적 형태에 대한 성능 업그레이드에 적용될 수 있습니다.

다음으로 물리적인 형태를 가지면서도 인터넷/클라우드에 무선으로 연결되는 AGI를 살펴보자. 연결되지 않은 AGI와 비교할 때 이 수준에서 볼 수 있는 차이점은 다음과 같습니다.

메모리: 이 AGI는 이전 AGI 클래스가 가진 모든 단기적 이점을 가지고 있지만 필요할 때 액세스하기 위해 해당 메모리를 클라우드에 업로드할 수 있기 때문에 완벽한 장기 메모리의 이점도 있습니다. 분명히 이 메모리는 연결이 낮은 영역에서 액세스할 수 없지만 더 많은 세계가 온라인 상태가 되는 2020년대와 2030년대에는 걱정거리가 줄어들 것입니다. 더 읽어보기 XNUMX장 우리의 인터넷의 미래 시리즈.
속도: 이 AGI가 직면한 장애물의 유형에 따라 클라우드의 더 큰 컴퓨팅 성능에 액세스하여 문제를 해결할 수 있습니다.
성능: 연결되지 않은 AGI와 비교할 때 차이가 없습니다.
업그레이드 가능성: 업그레이드 가능성과 관련하여 이 AGI의 유일한 차이점은 업그레이드 저장소를 방문하여 연결하지 않고도 무선으로 실시간으로 업그레이드에 액세스할 수 있다는 것입니다.
집단: 인간이 지구를 지배하는 종이 된 이유는 우리가 가장 크거나 가장 강한 동물이기 때문이 아니라 털 매머드 사냥에서 국제 우주 정거장 건설에 이르기까지 집단 목표를 달성하기 위해 다양한 방식으로 의사 소통하고 협력하는 방법을 배웠기 때문입니다. AGI 팀은 이 협업을 한 단계 더 발전시킬 것입니다. 위에 나열된 모든 인지 이점을 감안할 때 직접 대면 및 장거리에서 무선으로 통신할 수 있는 기능과 결합하면 미래의 AGI 팀/하이브 마음은 이론적으로 인간 팀보다 훨씬 더 효율적으로 프로젝트를 처리할 수 있습니다.

마지막으로 AGI의 마지막 유형은 물리적 형태가 없는 버전으로 컴퓨터 내부에서 작동하며 제작자가 제공하는 전체 컴퓨팅 성능과 온라인 리소스에 액세스할 수 있습니다. 공상 과학 쇼와 책에서 이러한 AGI는 일반적으로 전문 가상 비서/친구 또는 우주선의 멋진 운영 체제의 형태를 취합니다. 그러나 AGI의 다른 두 범주와 비교할 때 이 AI는 다음과 같은 점에서 다릅니다.

속도: 무제한(또는 최소한 액세스할 수 있는 하드웨어의 한계까지).
메모리: 무제한
성능: 슈퍼컴퓨팅 센터에 대한 액세스 덕분에 의사 결정 품질이 향상됩니다.
업그레이드 가능성: 실시간으로 인지 업그레이드를 무제한으로 선택할 수 있습니다. 물론 이 AGI 범주에는 물리적 로봇 형태가 없기 때문에 해당 업그레이드가 작동하는 슈퍼컴퓨터에 대한 업그레이드가 아닌 한 물리적 업그레이드가 필요하지 않습니다.
집합체: 이전 AGI 범주와 유사하게 이 육체가 없는 AGI는 AGI 동료들과 효과적으로 협력할 것입니다. 그러나 무제한 컴퓨팅 성능과 온라인 리소스에 대한 보다 직접적인 액세스를 감안할 때 이러한 AGI는 일반적으로 전체 AGI 집합체에서 주도적인 역할을 합니다.

인류 최초의 인공지능은 언제 만들어질까?

AI 연구 커뮤니티가 합법적인 AGI를 발명할 것이라고 믿는 날짜는 정해져 있지 않습니다. 그러나 2013 설문 조사 선도적인 AI 연구 사상가인 Nick Bostrom과 Vincent C. Müller가 수행한 세계 최고의 AI 연구원 550명 중 의견 범위를 XNUMX년으로 평균했습니다.

중간 낙관적 연도(10% 가능성): 2022년
중간 실제 연도(50% 가능성): 2040년
비관적 연도 중앙값(90% 가능성): 2075년

이러한 예측이 얼마나 정확한지는 실제로 중요하지 않습니다. 중요한 것은 AI 연구 커뮤니티의 대다수가 우리가 평생 동안 그리고 금세기 초에 AGI를 발명할 것이라고 믿는다는 것입니다.

인공 일반 지능을 만드는 것이 인류를 어떻게 변화시킬 것인가?

이 시리즈의 마지막 장에서 이러한 새로운 AI의 영향을 자세히 살펴봅니다. 즉, 이 장에서 AGI의 생성은 인간이 화성에서 생명체를 발견했을 때 경험할 사회적 반응과 매우 유사할 것이라고 말할 것입니다.

한 진영은 그 중요성을 이해하지 못하고 과학자들이 또 다른 더 강력한 컴퓨터를 만드는 데 큰 일을 하고 있다고 계속 생각할 것입니다.

러다이트(Luddite)와 종교적인 생각을 가진 개인으로 구성된 또 다른 캠프는 SkyNet 스타일의 인류를 말살시키려는 것이 가증하다고 생각하여 이 AGI를 두려워할 것입니다. 이 캠프는 모든 형태의 AGI 삭제/파괴를 적극적으로 옹호할 것입니다.

반면에, 세 번째 진영은 이 창조를 현대적인 영적 사건으로 볼 것입니다. 중요한 모든 면에서 이 AGI는 우리와 다르게 생각하고 목표가 우리와 다른 삶의 새로운 형태가 될 것입니다. AGI의 생성이 발표되면 인간은 더 이상 동물과 함께 지구를 공유하는 것이 아니라 지능이 우리와 동등하거나 더 우수한 새로운 종류의 인공 존재와 함께 지구를 공유하게 될 것입니다.

네 번째 캠프에는 노동 시장의 격차를 채우고 새로운 상품 및 서비스 개발을 가속화하는 것과 같은 다양한 비즈니스 요구를 해결하기 위해 AGI를 사용할 수 있는 방법을 조사할 비즈니스 이해 관계자가 포함됩니다.

다음으로, AGI를 규제하는 방법을 이해하려고 애쓰는 정부의 모든 수준의 대표자들이 있습니다. 이것은 특히 이러한 AGI를 재산으로 취급할지 아니면 사람으로 취급할지에 대한 모든 도덕적, 철학적 논쟁이 정점에 도달하는 수준입니다.

그리고 마지막으로, 마지막 캠프는 군과 국가 안보 기관이 될 것입니다. 사실, 첫 번째 AGI의 공개 발표는 이 캠프만으로도 몇 개월에서 몇 년까지 지연될 수 있는 좋은 기회가 있습니다. 왜요? AGI의 발명은 곧 인공 초지능(ASI)의 생성으로 이어질 것이기 때문에, 이는 핵폭탄의 발명을 훨씬 능가하는 거대한 지정학적 위협이자 기회를 나타낼 것입니다.

이러한 이유로 다음 몇 장은 ASI의 주제와 인류가 ASI의 발명 이후에 생존할 것인지에 대해 전적으로 초점을 맞출 것입니다.

(챕터를 끝내는 너무 극적인 방법? 당신 내기.)