Квантумран

ИЗОБРАЖЕНИЕ КРЕДИТ: Квантумран

Как первый Искусственный Всеобщий Интеллект изменит общество: будущее искусственного интеллекта P2

Дэвид Тал, издатель, футурист
@DavidTalWrites
LinkedIn

Вт, 09 / 15 / 2020 - 13: 08

Мы строили пирамиды. Мы научились использовать электричество. Мы понимаем, как образовалась наша Вселенная после Большого взрыва (в основном). И, конечно же, банальный пример: мы отправили человека на Луну. Тем не менее, несмотря на все эти достижения, человеческий мозг остается далеко за пределами понимания современной науки и по умолчанию является самым сложным объектом в известной Вселенной — или, по крайней мере, в нашем понимании.

Учитывая эту реальность, не должно шокировать то, что мы еще не создали искусственный интеллект (ИИ) наравне с людьми. ИИ, такой как Дейта (Звездный путь), Рэйчел (Бегущий по лезвию бритвы) и Дэвид (Прометей), или негуманоидный ИИ, такой как Саманта (Она) и TARS (Интерстеллар), — все это примеры следующей важной вехи в развитии ИИ: искусственный общий интеллект (AGI, иногда также упоминается как HLMI или машинный интеллект человеческого уровня.).

Другими словами, проблема, с которой сталкиваются исследователи ИИ, заключается в следующем: как мы можем создать искусственный разум, сравнимый с нашим, если у нас даже нет полного понимания того, как работает наш собственный разум?

Мы исследуем этот вопрос, а также то, как люди будут противостоять будущим ОИИ, и, наконец, как изменится общество на следующий день после того, как миру будет объявлено о первом ОИИ.

Что такое искусственный общий интеллект?

Разработайте ИИ, который сможет легко обыграть лучших игроков в шахматы, игры и го (Deep Blue, Уотсонкачества АльфаGO соответственно). Разработайте ИИ, который ответит на любой вопрос, предложит товары, которые вы, возможно, захотите купить, или управляет парком такси — вокруг них построены целые многомиллиардные компании (Google, Amazon, Uber). Даже ИИ, который может перевезти вас из одного конца страны в другой… ну, мы над этим работаем.

Но попросите ИИ прочитать детскую книгу и понять ее содержание, смысл или мораль, которым она пытается научить, или попросите ИИ отличить изображение кота от изображения зебры, и вы в конечном итоге вызовете немало проблем. короткие замыкания.

Природа потратила миллионы лет на разработку вычислительного устройства (мозга), которое отлично справляется с обработкой, пониманием, обучением, а затем действует в новых ситуациях и в новых условиях. Сравните это с последними полвека компьютерных наук, которые были сосредоточены на создании вычислительных устройств, адаптированных к конкретным задачам, для которых они были разработаны.

Другими словами, человек-компьютер — универсал, а искусственный компьютер — специалист.

Целью создания ОИИ является создание ИИ, который может думать и учиться как человек, на основе опыта, а не посредством прямого программирования.

В реальном мире это означало бы, что будущий ОИИ учится читать, писать и рассказывать анекдоты или ходить, бегать и ездить на велосипеде в значительной степени самостоятельно, посредством своего собственного опыта в мире (используя любое тело или тело). органы чувств/устройства, которые мы ему даем), и через его собственное взаимодействие с другим ИИ и другими людьми.

Что потребуется для создания искусственного общего интеллекта

Хотя это технически сложно, создание ОИИ должно быть возможно. На самом деле в законах физики есть глубоко укоренившееся свойство — универсальность вычислений, — которое, по сути, говорит о том, что все, что может делать физический объект, достаточно мощный компьютер общего назначения должен, в принципе, копировать/моделировать.

И все же, это сложно.

К счастью, этим делом занимается много умных исследователей ИИ (не говоря уже о большом количестве корпоративного, государственного и военного финансирования), и на данный момент они определили три ключевых компонента, которые, по их мнению, необходимо решить, чтобы добиться успеха. АГИ в наш мир.

Большие Данные. Наиболее распространенный подход к разработке ИИ включает в себя технику, называемую глубоким обучением — особый тип системы машинного обучения, которая работает, поглощая гигантские объемы данных, перемалывая эти данные в сети смоделированных нейронов (по образцу человеческого мозга), а затем использовать результаты, чтобы запрограммировать свои собственные идеи. Для получения более подробной информации о глубоком обучении см. прочитайте это.

Например, в 2017 году, Google передал своему ИИ тысячи изображений кошек, которые его система глубокого обучения использовала, чтобы научиться не только идентифицировать кошку, но и различать разные породы кошек. Вскоре после этого они объявили о предстоящем выпуске Объектив Google, новое поисковое приложение, которое позволяет пользователям сфотографировать что угодно, и Google не только расскажет вам, что это такое, но и предложит полезный контекстный контент с его описанием — это удобно, когда вы путешествуете, и вы хотите узнать больше о конкретной туристической достопримечательности. Но и здесь Google Lens был бы невозможен без миллиардов изображений, которые в настоящее время перечислены в его поисковой системе изображений.

И все же этой комбинации больших данных и глубокого обучения недостаточно для создания ОИИ.

Лучшие алгоритмы. За последнее десятилетие дочерняя компания Google и лидер в области искусственного интеллекта DeepMind произвела фурор, объединив сильные стороны глубокого обучения с обучением с подкреплением — дополняющим друг друга подходом к машинному обучению, цель которого — научить ИИ действовать в новых условиях для достижения поставленных целей. поставленная цель.

Благодаря этой гибридной тактике первый искусственный интеллект DeepMind, AlphaGo, не только сам научился играть в AlphaGo, загрузив правила и изучив стратегии опытных игроков-людей, но и, сыграв против себя миллионы раз, смог победить лучших игроков AlphaGo. используя ходы и стратегии, никогда ранее не встречавшиеся в игре.

Точно так же эксперимент DeepMind с программным обеспечением для Atari включал в себя предоставление ИИ камеры для просмотра типичного игрового экрана, программирование его с возможностью ввода игровых приказов (например, кнопок джойстика) и постановку единственной цели — увеличить его счет. Результат? За несколько дней он научился играть и осваивать десятки классических аркадных игр.

Но какими бы захватывающими ни были эти ранние успехи, остается решить некоторые ключевые проблемы.

Во-первых, исследователи ИИ работают над тем, чтобы научить ИИ трюку под названием «дробление», в котором человеческий и животный мозг исключительно хорош. Проще говоря, когда вы решаете пойти за продуктами, вы можете визуализировать свою конечную цель (купить авокадо) и приблизительный план того, как вы это сделаете (выйти из дома, посетить продуктовый магазин, купить авокадо, возвращайся домой). Чего вы не делаете, так это не планируете каждый вдох, каждый шаг, все возможные непредвиденные обстоятельства на вашем пути туда. Вместо этого у вас есть концепция (кусок) того, куда вы хотите отправиться, и адаптируйте свое путешествие к любой ситуации, которая возникает.

Как бы обычно это ни казалось вам, эта способность является одним из ключевых преимуществ человеческого мозга по сравнению с искусственным интеллектом — это способность приспосабливаться, чтобы ставить цель и добиваться ее, не зная заранее каждой детали и несмотря на любые препятствия или изменения окружающей среды, которые мы может столкнуться. Этот навык позволит ОИИ учиться более эффективно, без необходимости использования больших данных, упомянутых выше.

Еще одна проблема – это способность не просто читать книгу, но понять смысл или контекст позади него. В долгосрочной перспективе цель здесь состоит в том, чтобы ИИ прочитал газетную статью и смог точно ответить на ряд вопросов о том, что он прочитал, что-то вроде написания отчета о книге. Эта способность превратит ИИ из простого калькулятора, который обрабатывает числа, в сущность, которая обрабатывает смысл.

В целом, дальнейшее совершенствование алгоритма самообучения, который может имитировать человеческий мозг, сыграет ключевую роль в возможном создании ОИИ, но наряду с этой работой сообществу ИИ также необходимо более качественное оборудование.

Лучшее оборудование. Используя текущие подходы, описанные выше, ОИИ станет возможным только после того, как мы серьезно увеличим вычислительную мощность, доступную для его запуска.

Для контекста, если мы возьмем способность человеческого мозга мыслить и переведем ее в вычислительные термины, то грубая оценка умственных способностей среднего человека составит один экзафлопс, что эквивалентно 1,000 петафлопс («флоп» означает операции с плавающей запятой в секунду). секунду и измеряет скорость вычислений).

Для сравнения, к концу 2018 года самый мощный в мире суперкомпьютер, японский Облако с искусственным интеллектом будет гудеть со скоростью 130 петафлопс, что намного меньше одного экзафлопса.

Как указано в наших суперкомпьютерах глава в нашей Будущее компьютеров серии, и США, и Китай работают над созданием собственных экзафлопсных суперкомпьютеров к 2022 году, но даже если они добьются успеха, этого может быть недостаточно.

Эти суперкомпьютеры работают на мощности в несколько десятков мегаватт, занимают площадь в несколько сотен квадратных метров и стоят несколько сотен миллионов долларов. Человеческий мозг потребляет всего 20 ватт энергии, помещается внутри черепа примерно 50 см в окружности, и нас семь миллиардов (2018). Другими словами, если мы хотим сделать ОИИ такими же обычными, как люди, нам нужно научиться создавать их более экономично.

С этой целью исследователи ИИ начинают рассматривать возможность использования квантовых компьютеров в будущих ИИ. Более подробно описано в квантовые компьютеры В главе нашей серии «Будущее компьютеров» эти компьютеры работают принципиально иначе, чем те компьютеры, которые мы создавали последние полвека. После усовершенствования к 2030-м годам один квантовый компьютер превзойдет по вычислительной мощности все суперкомпьютеры, работающие в настоящее время в 2018 году, вместе взятые. Кроме того, они будут намного меньше и будут потреблять гораздо меньше энергии, чем современные суперкомпьютеры.

Чем общий искусственный интеллект будет превосходить человека?

Давайте предположим, что все проблемы, перечисленные выше, решены, что исследователи ИИ добились успеха в создании первого ОИИ. Чем разум ОИИ будет отличаться от нашего?

Чтобы ответить на этот вопрос, нам нужно разделить разумы ОИИ на три категории: те, которые живут в теле робота (данные из Star Trek), те, которые имеют физическую форму, но имеют беспроводное подключение к Интернету/облаку (агент Смит из Матрица) и те, у кого нет физической формы, которые полностью живут в компьютере или в сети (Саманта из Ее).

Начнем с того, что ОИИ внутри роботизированного тела, изолированного от сети, будут конкурировать наравне с человеческим разумом, но с некоторыми преимуществами:

Память: в зависимости от конструкции роботизированной формы ОИИ их кратковременная память и память ключевой информации определенно превосходят человеческие. Но, в конце концов, существует физический предел того, сколько места на жестком диске вы можете вместить в робота, если мы спроектируем их так, чтобы они выглядели как люди. По этой причине долговременная память ОИИ будет действовать очень похоже на человеческую, активно забывая информацию и воспоминания, которые считаются ненужными для ее будущего функционирования (чтобы освободить «дисковое пространство»).
Скорость: Максимальная производительность нейронов человеческого мозга составляет примерно 200 герц, в то время как современные микропроцессоры работают на гигагерцовом уровне, то есть в миллионы раз быстрее, чем нейроны. Это означает, что по сравнению с людьми будущие ОИИ будут обрабатывать информацию и принимать решения быстрее, чем люди. Имейте в виду, это не обязательно означает, что этот ОИИ будет принимать более разумные или более правильные решения, чем люди, просто он может быстрее прийти к выводам.
Производительность: Проще говоря, человеческий мозг устает, если он слишком долго работает без отдыха и сна, и когда это происходит, его память и способность к обучению и рассуждениям ухудшаются. Между тем, для AGI, если предположить, что они регулярно перезаряжаются (электричество), у них не будет этой слабости.
Возможность модернизации: Для человека изучение новой привычки может занять недели практики, изучение нового навыка может занять месяцы, а изучение новой профессии может занять годы. Для AGI у них будет возможность учиться как на собственном опыте (как у людей), так и путем прямой загрузки данных, подобно тому, как вы регулярно обновляете ОС своего компьютера. Эти обновления могут применяться к обновлениям знаний (новым навыкам) или повышению производительности физической формы AGI.

Далее давайте рассмотрим AGI, которые имеют физическую форму, но также подключены к Интернету/облаку по беспроводной сети. Различия, которые мы можем видеть на этом уровне по сравнению с несвязанными AGI, включают:

Память: эти AGI будут иметь все краткосрочные преимущества, которые есть у предыдущего класса AGI, за исключением того, что они также выиграют от идеальной долговременной памяти, поскольку они могут загружать эти воспоминания в облако для доступа при необходимости. Очевидно, что эта память не будет доступна в районах с низким уровнем подключения, но это станет менее серьезной проблемой в 2020-х и 2030-х годах, когда все больше людей в мире подключатся к сети. Подробнее в глава Один нашей Будущее Интернета серии.
Скорость: в зависимости от типа препятствия, с которым сталкивается этот AGI, они могут получить доступ к большей вычислительной мощности облака, чтобы помочь им решить эту проблему.
Производительность: нет разницы по сравнению с неподключенными AGI.
Возможность обновления: единственная разница между этим AGI в том, что касается возможности обновления, заключается в том, что они могут получать доступ к обновлениям в режиме реального времени по беспроводной сети, вместо того, чтобы посещать хранилище обновлений и подключаться к нему.
Коллектив: люди стали доминирующим видом на Земле не потому, что мы были самыми большими или сильными животными, а потому, что мы научились общаться и сотрудничать различными способами для достижения коллективных целей, от охоты на шерстистого мамонта до строительства Международной космической станции. Команда AGI выведет это сотрудничество на новый уровень. Учитывая все когнитивные преимущества, перечисленные выше, а затем сочетая их со способностью общаться по беспроводной сети, как лично, так и на больших расстояниях, будущая команда ОИИ/коллективный разум теоретически могла бы решать проекты гораздо эффективнее, чем команда людей.

Наконец, последний тип ОИИ — это версия без физической формы, которая работает внутри компьютера и имеет доступ ко всей вычислительной мощности и онлайн-ресурсам, которые ему предоставляют его создатели. В научно-фантастических шоу и книгах эти ОИИ обычно принимают форму опытных виртуальных помощников/друзей или энергичной операционной системы космического корабля. Но по сравнению с двумя другими категориями ОИИ этот ИИ будет отличаться следующим образом;

Скорость: Неограниченная (или, по крайней мере, до пределов аппаратного обеспечения, к которому у него есть доступ).
Память: Неограниченная
Производительность: повышение качества принятия решений благодаря доступу к супервычислительным центрам.
Возможность обновления: абсолютная, в режиме реального времени и с неограниченным выбором когнитивных обновлений. Конечно, поскольку эта категория ОИИ не имеет физической формы робота, ей не понадобятся доступные физические обновления, если только эти обновления не предназначены для суперкомпьютеров, в которых она работает.
Коллектив: Подобно предыдущей категории ОИИ, этот бестелесный ОИИ будет эффективно сотрудничать со своими коллегами по ОИИ. Однако, учитывая более прямой доступ к неограниченной вычислительной мощности и доступ к онлайн-ресурсам, эти AGI обычно занимают лидирующие роли в общем коллективе AGI.

Когда человечество создаст первый искусственный общий интеллект?

Нет установленной даты, когда сообщество исследователей ИИ считает, что они изобретут законный ОИИ. Однако 2013 обследования из 550 ведущих мировых исследователей ИИ, проведенных ведущими мыслителями в области ИИ Ником Бостромом и Винсентом С. Мюллером, усреднили диапазон мнений до трех возможных лет:

Средний оптимистичный год (вероятность 10%): 2022 г.
Средний реалистичный год (вероятность 50%): 2040 г.
Средний пессимистичный год (вероятность 90%): 2075 г.

Насколько точны эти прогнозы, на самом деле не имеет значения. Важно то, что подавляющее большинство сообщества исследователей ИИ считает, что мы изобретем ОИИ еще при нашей жизни и относительно в начале этого века.

Как создание общего искусственного интеллекта изменит человечество

Мы подробно изучаем влияние этих новых ИИ в самой последней главе этой серии. Тем не менее, в этой главе мы скажем, что создание ОИИ будет очень похоже на социальную реакцию, которую мы испытаем, если люди найдут жизнь на Марсе.

Один лагерь не поймет значения и будет продолжать думать, что ученые придают большое значение созданию еще одного, более мощного компьютера.

Другой лагерь, вероятно, состоящий из луддитов и религиозно настроенных людей, будет бояться этого ОИИ, думая, что это мерзость, когда он пытается истребить человечество в стиле SkyNet. Этот лагерь будет активно выступать за удаление/уничтожение ОИИ во всех их формах.

С другой стороны, третий лагерь будет рассматривать это творение как современное духовное событие. Во всех смыслах этот ОИИ будет новой формой жизни, которая думает иначе, чем мы, и чьи цели отличаются от наших собственных. Как только будет объявлено о создании ОИИ, люди больше не будут делить Землю только с животными, но также будут жить вместе с новым классом искусственных существ, чей интеллект равен или превосходит наш собственный.

В четвертый лагерь войдут деловые круги, которые будут исследовать, как они могут использовать ОИИ для удовлетворения различных потребностей бизнеса, таких как заполнение пробелов на рынке труда и ускорение разработки новых товаров и услуг.

Затем у нас есть представители всех уровней правительства, которые будут спотыкаться, пытаясь понять, как регулировать ОИИ. Это уровень, на котором все морализаторские и философские дебаты достигнут апогея, особенно по поводу того, относиться ли к этим ОИИ как к собственности или как к личности.

И, наконец, последним лагерем будут военные и органы национальной безопасности. По правде говоря, есть хороший шанс, что публичное объявление о первом ОИИ может быть отложено на месяцы или годы только из-за этого лагеря. Почему? Потому что изобретение ОИИ в скором времени приведет к созданию искусственного сверхразума (ИИС), который будет представлять огромную геополитическую угрозу и возможности, намного превосходящие изобретение ядерной бомбы.

По этой причине следующие несколько глав будут полностью посвящены теме ИСИ и тому, выживет ли человечество после их изобретения.

(Слишком драматичный способ закончить главу? Вы держите пари.)