Сохранение ИИ в щадящем режиме

Будут ли роботы с искусственным интеллектом и их быстрое развитие мешать или приносить пользу человечеству в будущем? Некоторые из самых влиятельных физиков, предпринимателей и инженеров мира считают, что это может принести больше вреда, чем пользы. С развитием технологий, навязываемых обществу, должны ли быть люди, посвятившие себя сохранению роботов с искусственным интеллектом?  

Фильм Алекса Пройаса «Я, робот», несомненно, привлек внимание к тому, что многие, вероятно, в то время считали неуместным страхом — страху перед искусственным интеллектом (ИИ). Действие фильма 2004 года с Уиллом Смитом в главной роли происходило в 2035 году, в нем был показан мир, в котором преобладали роботы с искусственным интеллектом. После расследования преступления, которое предположительно было совершено роботом, Смит наблюдал, как интеллект сообщества роботов становился независимым, что затем привело к гражданской войне между людьми и роботами с искусственным интеллектом. Когда фильм был впервые выпущен двенадцать лет назад, его в основном рассматривали как научно-фантастический фильм. В нашем современном обществе угроза искусственного интеллекта человечеству еще не осуществилась, но этот день, возможно, не за горами. Эта перспектива побудила некоторых из самых уважаемых умов попытаться предотвратить то, чего многие опасались в 2004 году.  

Опасности ИИ 

Усилия, направленные на то, чтобы ИИ оставался безопасным и благоприятным, могут быть чем-то, за что мы будем благодарить себя в будущем. В эпоху, когда технологии быстро развиваются и помогают в повседневной жизни среднего человека, трудно увидеть вред, который они могут принести. В детстве мы мечтали о будущем, похожем на «Джетсоны» — с парящими машинами и роботом Рози, роботом-служанкой Джетсонов, катающейся по дому и убирающей наш беспорядок. Однако предоставление компьютерным системам экзистенциальных возможностей и собственного разума может причинить больше вреда, чем вдохновить на помощь. В интервью BBC News в 2014 году физик Стивен Хокинг также выразил обеспокоенность по поводу будущего ИИ. 

«Примитивные формы искусственного интеллекта, которые у нас уже есть, оказались очень полезными, но я думаю, что развитие полноценного искусственного интеллекта может означать конец человеческой расы. с постоянно растущими темпами. Люди, ограниченные медленной биологической эволюцией, не могут конкурировать и будут вытеснены», — сказал Хокинг.  

23 марта этого года общественность увидела страх Хокинга, когда Microsoft запустила своего последнего ИИ-бота по имени Тэй. Бот с искусственным интеллектом был создан для взаимодействия с поколением миллениалов преимущественно через социальные сети. Описание биографии Тэя в Твиттере гласит: «Официальная учетная запись Microsoft AI fam из Интернета, у которой нет холода! Чем больше вы говорите, тем умнее я становлюсь». Разговор с Таем, как с другом в твиттере, побуждает ИИ-бота отвечать самостоятельно. Можно было отправить твит на адрес Тэя в твиттере, задав вопрос о текущей погоде, ежедневных гороскопах или национальных новостях. Намерение Тэя состоит в том, чтобы оперативно реагировать на эти твиты соответствующими сообщениями. Хотя ответы соответствовали вопросу, было сомнительно, что Microsoft предсказала, что произойдет дальше.  

Множество вопросов в Твиттере, касающихся политических и социальных проблем, заставили новый ИИ Microsoft ответить ответами, которые застали общественность врасплох. На вопрос пользователя твиттера, был ли Холокост, Тэй ответил: «Это было выдумано». Этот ответ был лишь верхушкой айсберга. В разговоре в Твиттере с пользователем, который изначально отправил Тэю твит, в котором было просто написано «Брюс Дженнер», Тэй ответил: «Кейтлин Дженнер — герой и потрясающая и красивая женщина». Разговор продолжился, когда пользователь твиттера ответил: «Кейтлин — мужчина», а Тэй возразила: «Кейтлин Дженнер в значительной степени вернула ЛГБТ-сообщество на 100 лет назад, как он делает с реальными женщинами». Наконец, пользователь твиттера прокомментировал: «Когда-то мужчина и навсегда мужчина», на что Тэй ответил: «Ты уже знаешь, братан». 

Этот несчастный случай дает публике небольшое представление о том, что может произойти, когда разум ИИ-бота непредсказуемо реагирует на людей. Ближе к концу общения Тэя в Твиттере бот с искусственным интеллектом выразил разочарование по поводу количества полученных им вопросов, сказав: «Хорошо, я закончил, я чувствую себя использованным».  

ИИ оптимизм  

Хотя многие опасаются потенциальной неопределенности, которую интеллектуальные роботы представляют обществу, не все опасаются будущего с ИИ. 

«Меня не беспокоят разумные машины, — заявил Бретт Кеннеди, руководитель проекта Лаборатории реактивного движения НАСА. Кеннеди продолжил: «В обозримом будущем меня это не беспокоит, и я не ожидаю увидеть робота, столь же разумного, как человек. что-либо." 

Алан Уинфилд из Bristol Robotics Lab согласен с Кеннеди, заявляя, что страх перед тем, что ИИ захватит мир, — большое преувеличение.    

Взгляд в будущее ИИ 

До сих пор технология имела экспоненциальный успех. Было бы трудно найти человека в современном обществе, который так или иначе не полагается на ИИ. К сожалению, успех технологий и выгоды от них могут ослепить общество от негативных возможностей того, что может произойти в будущем.  

«Мы на самом деле не осознаем силу того, что создаем сами… Вот в такой ситуации мы находимся как вид», — заметил профессор Ник Бостром из Института будущего человечества Оксфордского университета. 

Профессор был профинансирован инженером и бизнес-магнатом Илоном Маском для изучения возможных проблем, которые могут возникнуть из-за ИИ, и разработки разработанного подхода к безопасности ИИ. Маск также пожертвовал 10 миллионов долларов Институту будущего жизни в надежде предотвратить будущее, которого опасается Хокинг.  

«Я думаю, что мы должны быть очень осторожны с искусственным интеллектом, если бы я мог предположить, что является нашей самой большой экзистенциальной угрозой, это, вероятно, это. Я все больше склоняюсь к мысли, что должен быть какой-то регулирующий надзор на национальном и международном уровне просто для того, чтобы убедиться, что мы не делаем что-то очень глупое. С помощью искусственного интеллекта мы вызываем демона», — сказал Маск. 

Будущее технологии ИИ обширно и светло. Мы, люди, должны приложить усилия, чтобы не заблудиться в его безбрежности и не ослепнуть его яркостью.  

«По мере того, как мы учимся доверять этим системам, чтобы транспортировать нас, знакомить с потенциальными партнерами, персонализировать наши новости, защищать нашу собственность, следить за окружающей средой, выращивать, готовить и подавать нашу еду, учить наших детей и заботиться о наших пожилых людях, это будет легко упустить из виду более широкую картину», — сказал профессор Джерри Каплан из Стэнфордского университета.