AI 스타트업 '대리', 실리콘밸리 엘리트 흥분 – 하지만 그게 다 과대광고인가요?

최근 인공지능 스타트업인 비캐리어스(Vicarious)가 많은 주목을 받고 있는데, 그 이유는 아직 명확하지 않습니다. 많은 실리콘밸리 거물들은 개인 지갑을 열고 회사 연구를 지원하기 위해 큰돈을 쏟아부었습니다. 그들의 웹 사이트는 Amazon CEO Jeff Bezos, Yahoo 공동 창립자 Jerry Yang, Skype 공동 창립자 Janus Friis, Facebook 창립자 Mark Zuckerberg 및 Ashton Kutcher와 같은 유명인으로부터 최근 자금 유입을 과시합니다. 이 돈이 다 ​​어디로 가는지 실제로는 알 수 없습니다. AI는 최근 기술 개발에서 매우 비밀스럽고 보호적인 영역이지만, 현실 세계에서 매우 기대되는 AI의 도착과 사용에 대한 공개 토론은 전혀 조용하지 않았습니다. Vicarious는 기술 현장에서 약간의 다크호스였습니다.

특히 지난 가을 컴퓨터가 "CAPTCHA"를 해독한 이후로 회사에 대해 많은 소문이 돌았지만, 그들은 여전히 ​​파악하기 어렵고 신비한 플레이어로 남아 있습니다. 예를 들어, 그들은 기업 스파이 행위에 대한 두려움 때문에 주소를 공개하지 않으며, 그들의 웹사이트를 방문하는 것만으로도 그들이 실제로 무엇을 하는지 혼란스러워질 것입니다. 얻기 힘든 이 모든 플레이로 인해 여전히 투자자들이 줄을 서고 있습니다. Vicarious의 주요 프로젝트는 시각, 신체 움직임 및 언어를 제어하는 ​​인간 두뇌의 일부를 복제할 수 있는 신경망을 구축하는 것이었습니다.

공동 창업자인 스콧 피닉스(Scott Phoenix)는 회사가 “먹거나 잠을 자지 않아도 된다는 점을 제외하면 사람처럼 생각하는 컴퓨터를 만들려고” 노력하고 있다고 말했습니다. 지금까지 Vicarious의 초점은 시각적 객체 인식에 있었습니다. 처음에는 사진을 사용했고, 다음에는 비디오를 사용했고, 그 다음에는 인간 지능과 학습의 다른 측면을 사용했습니다. 이전에 Numenta의 수석 연구원이었던 공동 창립자 Dileep George는 회사 업무에서 지각 데이터 처리 분석을 강조해 왔습니다. 계획은 궁극적으로 일련의 효율적이고 감독되지 않는 알고리즘을 통해 "생각"하는 방법을 배울 수 있는 기계를 만드는 것입니다. 당연히 이것은 사람들을 꽤 ​​놀라게 했습니다.

수년 동안 AI가 실생활의 일부가 될 가능성은 즉시 헐리우드에서 무자비한 언급을 불러일으켰습니다. 인간의 일자리가 로봇에게 빼앗길 것이라는 두려움에 더해, 사람들은 머지않아 우리가 매트릭스에 제시된 상황과 다르지 않은 상황에 처하게 될 것이라는 점을 진심으로 우려하고 있습니다. Tesla Motors와 PayPal 공동 창립자이자 투자자이기도 한 Elon Musk는 최근 CNBC 인터뷰에서 AI에 대한 우려를 표명했습니다.

머스크는 “나는 인공지능에 무슨 일이 일어나고 있는지 지켜보는 걸 좋아한다”고 말했다. “내 생각에는 잠재적으로 위험한 결과가 있을 수 있습니다. 터미네이터 같은 영화도 있었습니다. 무서운 결과가 있습니다. 그리고 결과가 나쁘지 않고 좋도록 노력해야 합니다.”

스티븐 호킹(Stephen Hawking)은 두 센트를 투자하여 우리가 두려워해야 한다는 우리의 두려움을 본질적으로 확인시켜 주었습니다. 그의 최근 코멘트 독립 Huffington Post의 "Stephen Hawking은 인공 지능을 두려워합니다", MSNBC의 화려한 "인공 지능은 인류를 멸망시킬 수 있습니다!"와 같은 헤드라인을 촉발하면서 언론의 열광을 불러일으켰습니다. 호킹의 발언은 훨씬 덜 종말론적이어서 다음과 같은 합리적인 경고에 해당합니다. “AI 개발의 성공은 인류 역사상 가장 큰 사건이 될 것입니다.

불행히도 위험을 피하는 방법을 배우지 않는 한 이것이 마지막이 될 수도 있습니다. AI의 장기적인 영향은 AI를 전혀 제어할 수 있는지 여부에 달려 있습니다.” "통제"에 대한 이 질문은 많은 로봇 권리 운동가들을 목공예에서 벗어나 로봇의 자유를 옹호하며 이러한 생각하는 존재를 "통제"하려는 시도는 잔인하고 일종의 노예제에 해당할 것이며 우리는 이를 허용해야 한다고 말했습니다. 로봇은 자유롭고 잠재력을 최대한 발휘하여 삶을 살아갑니다. (예, 이러한 활동가가 존재합니다.)

사람들이 쫓겨나기 전에 해결해야 할 문제가 많습니다. 우선, Vicarious는 감정, 생각, 성격을 갖게 될 로봇 리그를 만들거나 로봇을 만든 인간에 맞서 세상을 장악하려는 욕구를 만드는 것이 아닙니다. 그들은 농담을 거의 이해하지 못합니다. 지금까지 거리 감각, 인간의 "의미", 인간의 미묘함과 유사한 것을 컴퓨터에 가르치는 것은 거의 불가능했습니다.

예를 들어, 스탠포드에서 진행된 프로젝트 중 "깊은 감동,”는 영화 리뷰를 해석하고 영화에 대해 좋아요 또는 싫어요 리뷰를 제공하기 위한 의미로 풍자나 아이러니를 전혀 읽을 수 없습니다. 결국 Vicarious는 인간 경험의 시뮬레이션을 말하는 것이 아닙니다. Vicarious의 컴퓨터가 사람처럼 "생각"할 것이라는 광범위한 진술은 매우 모호합니다. 이런 맥락에서 우리는 “생각하다”에 해당하는 또 다른 단어를 생각해 내야 합니다. 적어도 지금은 인식을 통해 학습할 수 있는 컴퓨터에 대해 이야기하고 있습니다.

그렇다면 이것은 무엇을 의미합니까? 우리가 현실적으로 추진하고 있는 개발 유형에는 얼굴 인식, 자율주행차, 의료 진단, 텍스트 번역(결국 Google 번역보다 확실히 더 나은 것을 사용할 수 있음) 및 기술 하이브리드화와 같은 보다 실용적이고 적용 가능한 특성이 있습니다. 이 모든 것의 어리석은 점은 그 어느 것도 새로운 것이 아닙니다. 기술 전문가이자 인공일반지능학회(Artificial General Intelligence Society) 회장인 Ben Goertzel 박사는 다음과 같이 지적합니다. 자신의 블로그, “붐비는 뉴욕 거리에서 자전거 메신저가 되는 것, 새로 전개되는 상황에 대한 신문 기사를 쓰는 것, 실제 경험을 바탕으로 새로운 언어를 배우는 것, 모든 사건 중에서 가장 의미 있는 인간 사건을 식별하는 것과 같은 다른 문제를 선택했다면 크고 혼잡한 방에서 사람들 사이의 상호 작용을 수행한다면 오늘날의 통계적 [기계 학습] 방법이 그다지 유용하지 않다는 것을 알게 될 것입니다.”

기계가 아직 이해하지 못하는 것들이 있고, 알고리즘으로 포착할 수 없는 것들이 있습니다. 우리는 적어도 지금까지는 대부분 허황된 것으로 거의 입증된 굴러다니는 눈덩이 같은 과대 광고를 보고 있습니다. 하지만 과대광고 그 자체는 위험할 수 있습니다. Facebook의 AI 연구 이사이자 NYU 데이터 과학 센터의 창립 이사인 Yann LeCun은 다음과 같이 공개적으로 글을 올렸습니다. 그의 Google+ 페이지: “과대광고는 AI에게 위험합니다. 과대 광고는 지난 XNUMX년 동안 AI를 XNUMX번이나 죽였습니다. AI 과대광고는 멈춰야 한다.”

Vicarious가 지난 가을 CAPTCHA를 해독했을 때 LeCun은 언론의 열광에 회의적이었고 몇 가지 매우 중요한 현실을 지적했습니다. “1. CAPTCHA를 깨는 것은 스패머가 아닌 이상 흥미로운 작업이 아닙니다. 2. 스스로 만든 데이터세트로 성공을 거두는 것은 쉽습니다.” 그는 이어 기술 저널리스트들에게 “널리 받아들여지는 벤치마크에서 최첨단 결과를 내지 않는 한 AI 스타트업의 모호한 주장을 믿지 말아달라”고 조언했다. 인간 두뇌의 계산 원리' 또는 '재귀적 피질 네트워크'입니다.

LeCun의 기준에 따르면 객체 및 이미지 인식은 AI 개발에서 훨씬 더 인상적인 단계입니다. 그는 권위 있는 출판물과 기술 개발 분야에서 좋은 실적을 갖고 있는 딥마인드(Deep Mind)와 같은 그룹과 그들을 위해 일하는 훌륭한 과학자 및 엔지니어 팀의 작업에 더 많은 믿음을 가지고 있습니다. LeCun은 "아마도 Google이 Deep Mind에 대해 과다한 비용을 지불했을 것입니다. 하지만 그들은 그 돈으로 꽤 많은 똑똑한 사람들을 얻었습니다. Deep Mind가 하는 일 중 일부는 비밀로 유지되지만 그들은 주요 컨퍼런스에서 논문을 출판합니다."라고 말했습니다. Vicarious에 대한 LeCun의 의견은 상당히 다릅니다. "Vicarious는 모두 연기와 거울입니다."라고 그는 말합니다. "사람들은 실적이 없습니다. (혹은 있다면 그것은 과대 광고하고 성과를 내지 못한 실적입니다.)

그들은 AI, 머신러닝, 컴퓨터 비전에 어떤 기여도 한 적이 없습니다. 그들이 사용하는 방법과 알고리즘에 대한 정보가 없습니다. 그리고 커뮤니티가 방법의 품질을 평가하는 데 도움이 될 수 있는 표준 데이터세트에 대한 결과는 없습니다. 그것은 모두 과대 광고입니다. 흥미로운 일(주로 최근 학계에서 개발된 방법을 적용)을 수행하는 AI/딥 러닝 스타트업이 많이 있습니다. Vicarious가 입증되지 않은 터무니없는 주장만으로 그렇게 많은 관심(그리고 돈)을 ​​끌고 있다는 사실이 저에게는 당혹스럽습니다.”

아마도 유명인사들을 참여시키는 사이비 컬트 영적 운동에 대한 회상일 것입니다. 그것은 모든 것을 약간 하찮게 보이거나 적어도 부분적으로 환상적으로 보이게 만듭니다. 내 말은, Ashton Kutcher와 약 백만 건의 터미네이터 참조가 관련된 작업을 얼마나 진지하게 받아들일 수 있습니까? 과거에는 많은 언론 보도가 매우 열정적이었습니다. 언론은 아마도 "생물학적으로 영감을 받은 프로세서" 및 "양자 계산"과 같은 단어를 사용하는 것에 지나치게 흥분했을 것입니다.

그러나 이번에는 과대 광고 기계가 자동으로 기어를 전환하는 것을 조금 더 꺼려합니다. Gary Marcus가 최근에 지적했듯이 뉴요커, 이러한 이야기 ​​중 상당수는 "기껏해야 혼란스러워" 실제로 우리가 이미 보유하고 사용하고 있는 기술에 대한 새로운 정보와 재탕된 정보를 제공하지 못합니다. 그리고 이런 일이 계속되어 왔습니다 수십 년. 그냥 확인해 보세요 퍼셉트론 이 기술 열차가 실제로 얼마나 녹슬었는지 알 수 있습니다. 그렇긴 하지만, 부자들은 머니트레인에 뛰어들고 있으며, 이는 곧 멈출 것 같지 않습니다.