Quantumrun

КРЕДИТ ЗОБРАЖЕННЯ: Quantumrun

Як перший загальний штучний інтелект змінить суспільство: Майбутнє штучного інтелекту P2

Девід Тал, видавець, футуролог
@DavidTalWrites
LinkedIn

Вт, 09 - 15:2020

Ми будували піраміди. Ми навчилися використовувати електрику. Ми розуміємо, як утворився наш Всесвіт після Великого вибуху (переважно). І, звичайно, шаблонний приклад: ми відправили людину на Місяць. Проте, незважаючи на всі ці досягнення, людський мозок залишається далеко за межами розуміння сучасної науки і, за замовчуванням, є найскладнішим об’єктом у відомому Всесвіті — або, принаймні, у нашому розумінні цього.

Враховуючи цю реальність, не повинно бути зовсім шокуюче, що ми ще не створили штучний інтелект (ШІ) нарівні з людським. ШІ, як-от Дата (Зоряний шлях), Рейчел (Той, що біжить по лезу) і Девід (Прометей), або негуманоїдний ШІ, як-от Саманта (Вона) і TARS (Інтерстеллар), усе це приклади наступної важливої віхи в розвитку ШІ: загальний штучний інтелект (AGI, іноді також називають HLMI або людським рівнем машинного інтелекту).

Іншими словами, проблема, з якою стикаються дослідники штучного інтелекту: як ми можемо створити штучний розум, порівнянний з нашим власним, якщо ми навіть не маємо повного розуміння того, як працює наш власний розум?

Ми дослідимо це питання разом із тим, як люди протистоятимуть майбутнім AGI, і, нарешті, як зміниться суспільство наступного дня після того, як світові буде оголошено про першу AGI.

Що таке загальний штучний інтелект?

Створіть штучний інтелект, який може легко перемогти гравців з найвищим рейтингом у шахах, Jeopardy та Go (Deep Blue, Уотсон та AlphaGO відповідно). Створіть штучний інтелект, який зможе дати вам відповіді на будь-яке запитання, запропонувати товари, які ви, можливо, захочете купити, або керувати парком таксі для спільного користування — навколо них побудовані цілі багатомільярдні компанії (Google, Amazon, Uber). Навіть штучний інтелект, який може перевезти вас з одного кінця країни в інший... добре, ми над цим працюємо.

Але попросіть штучного інтелекту прочитати дитячу книжку та зрозуміти зміст, сенс чи мораль, яких вона намагається навчити, або попросіть штучного інтелекту відрізнити зображення кота та зебри, і ви зрештою спричините більше, ніж кілька короткі замикання.

Природа витратила мільйони років на розробку обчислювального пристрою (мозку), який чудово здатний обробляти, розуміти, навчатися, а потім діяти в нових ситуаціях і в новому середовищі. Порівняйте це з останніми півстоліттям інформатики, яка зосереджувалася на створенні обчислювальних пристроїв, які були адаптовані до окремих завдань, для яких вони були розроблені.

Іншими словами, людина-комп’ютер є універсалом, а штучний комп’ютер – спеціалістом.

Метою створення AGI є створення штучного інтелекту, який може думати та навчатися більше як людина, через досвід, а не через пряме програмування.

У реальному світі це означало б, що майбутній AGI навчиться читати, писати та розповідати анекдоти, або ходити, бігати та їздити на велосипеді переважно самостійно, завдяки своєму власному досвіду у світі (використовуючи будь-яке тіло чи сенсорні органи/пристрої, які ми йому надаємо), а також через власну взаємодію з іншими ШІ та іншими людьми.

Що знадобиться для створення загального штучного інтелекту

Незважаючи на технічну складність, створення AGI повинно бути можливим. Насправді в законах фізики є глибоко вкорінена властивість — універсальність обчислень — яка, по суті, говорить про те, що все, що може зробити фізичний об’єкт, досить потужний комп’ютер загального призначення, в принципі, повинен мати можливість копіювати/моделювати.

І все ж це складно.

На щастя, цією справою займається багато розумних дослідників штучного інтелекту (не кажучи вже про велику кількість корпоративних, державних і військових коштів, які їх підтримують), і наразі вони визначили три ключові складові, які, на їхню думку, необхідно вирішити, щоб запровадити AGI в наш світ.

Велике даних. Найпоширеніший підхід до розробки штучного інтелекту включає техніку, яка називається глибоким навчанням — особливий тип системи машинного навчання, яка працює шляхом збирання величезних обсягів даних, обробки цих даних у мережі імітованих нейронів (змодельованих за зразком людського мозку), а потім використовувати висновки для програмування власних уявлень. Щоб дізнатися більше про глибоке навчання, прочитайте це.

Наприклад, У 2017, Google наповнив свій штучний інтелект тисячами зображень котів, які використовувала його система глибокого навчання, щоб навчитися не лише ідентифікувати кота, а й розрізняти різні породи котів. Незабаром після цього вони оголосили про наближення випуску Google об'єктив, нова пошукова програма, яка дозволяє користувачам фотографувати будь-що, і Google не лише скаже вам, що це таке, але й запропонує корисний контекстний вміст із його описом — це зручно, коли подорожуєте, і ви хочете дізнатися більше про певну туристичну пам’ятку. Але й тут Google Lens був би неможливий без мільярдів зображень, які зараз перераховані в пошуковій системі зображень.

І все ж цієї комбінації великих даних і глибокого навчання все ще недостатньо для створення AGI.

Кращі алгоритми. За останнє десятиліття дочірня компанія Google і лідер у сфері штучного інтелекту, DeepMind, викликала фурор, поєднавши сильні сторони глибокого навчання з навчанням з підкріпленням — безкоштовним підходом до машинного навчання, який має на меті навчити ШІ діяти в нових середовищах для досягнення поставлена мета.

Завдяки цій гібридній тактиці прем’єрний штучний інтелект DeepMind, AlphaGo, не лише навчився грати в AlphaGo, завантаживши правила та вивчивши стратегії майстрів-людей, але й мільйони разів зігравши сам проти себе, зміг перемогти найкращих гравців AlphaGo. використовуючи рухи та стратегії, яких раніше не бачили в грі.

Подібним чином програмний експеримент Atari від DeepMind передбачав надання ШІ камери для перегляду типового екрану гри, програмування його з можливістю вводити ігрові команди (наприклад, кнопки джойстика) і надання йому єдиної мети збільшити свій бал. Результат? За кілька днів він сам навчився грати та освоїти десятки класичних аркадних ігор.

Але якими б захоплюючими не були ці перші успіхи, залишається кілька ключових проблем, які потрібно вирішити.

По-перше, дослідники штучного інтелекту працюють над тим, щоб навчити штучний інтелект трюку під назвою «розбиття на шматки», в якому мозок людини і тварин надзвичайно вправний. Простіше кажучи, коли ви вирішуєте піти купувати продукти, ви можете візуалізувати свою кінцеву мету (купити авокадо) і приблизний план того, як ви це зробите (вийти з дому, відвідати продуктовий магазин, купити). авокадо, повертайся додому). Чого ви не робите, так це плануєте кожен подих, кожен крок, кожну можливу непередбачену подію на своєму шляху туди. Натомість у вашому розумі є концепція (фрагмент) того, куди ви хочете поїхати, і адаптуйте свою поїздку до будь-якої ситуації, що виникає.

Як би вам це не здавалося звичним, ця здатність є однією з ключових переваг, яку людський мозок все ще має перед штучним інтелектом: це здатність пристосовуватися до поставленої мети та досягати її, не знаючи наперед усіх подробиць і незважаючи на будь-які перешкоди чи зміни навколишнього середовища. може зіткнутися. Ця навичка дозволить AGI навчатися ефективніше, не потребуючи великих даних, згаданих вище.

Ще одна проблема – це здатність не просто читати книгу, а зрозуміти сенс або контекст, що стоїть за ним. У довгостроковій перспективі мета полягає в тому, щоб штучний інтелект прочитав газетну статтю і міг точно відповісти на низку запитань про те, що він прочитав, на кшталт написання звіту про книгу. Ця здатність перетворить штучний інтелект із простого калькулятора, який обчислює числа, на об’єкт, який обробляє значення.

Загалом, подальший розвиток алгоритму самонавчання, який може імітувати людський мозок, зіграє ключову роль у остаточному створенні AGI, але поряд із цією роботою спільнота ШІ також потребує кращого обладнання.

Краще обладнання. Використовуючи поточні підходи, описані вище, AGI стане можливим лише після того, як ми серйозно збільшимо обчислювальну потужність, доступну для його запуску.

Для контексту, якщо ми візьмемо здатність людського мозку мислити та перетворимо її на обчислювальні терміни, тоді приблизна оцінка розумових здібностей середньої людини дорівнює одному екзафлопу, що еквівалентно 1,000 петафлопсам ("Флоп" означає операції з плаваючою комою на другий і вимірює швидкість обчислень).

Для порівняння, до кінця 2018 року найпотужніший у світі суперкомп’ютер Японії AI Bridging Cloud буде гудіти зі швидкістю 130 петафлопс, що набагато менше одного екзафлопа.

Як зазначено в нашому суперкомп'ютери розділ у нашому Майбутнє комп'ютерів США та Китай працюють над створенням власних суперкомп’ютерів exaflop до 2022 року, але навіть якщо вони досягнуть успіху, цього може бути недостатньо.

Ці суперкомп’ютери споживають кілька десятків мегават, займають кілька сотень квадратних метрів простору і коштують кілька сотень мільйонів доларів. Людський мозок споживає лише 20 Вт енергії, поміщається всередині черепа приблизно 50 см в окружності, і нас сім мільярдів (2018). Іншими словами, якщо ми хочемо зробити AGI такими ж звичайними, як люди, нам потрібно буде навчитися створювати їх набагато економніше.

З цією метою дослідники штучного інтелекту починають розглядати можливість живлення майбутніх штучних інтелектів квантовими комп’ютерами. Більш детально описано в квантові комп'ютери У розділі нашої серії «Майбутнє комп’ютерів» ці комп’ютери працюють принципово інакше, ніж комп’ютери, які ми створювали останні півстоліття. Після вдосконалення до 2030-х років єдиний квантовий комп’ютер перевершить усі суперкомп’ютери, які зараз працюють у всьому світі, разом узяті. Вони також будуть набагато меншими та споживатимуть набагато менше енергії, ніж нинішні суперкомп’ютери.

Чим загальний штучний інтелект може бути вищим за людський?

Припустімо, що кожне завдання, перераховане вище, буде з’ясовано, що дослідники ШІ досягли успіху у створенні першого AGI. Чим розум AGI відрізнятиметься від нашого?

Щоб відповісти на таке запитання, ми повинні класифікувати розум AGI на три категорії, ті, що живуть у тілі робота (дані з Star Trek), ті, які мають фізичну форму, але бездротово підключені до Інтернету/хмари (Агент Сміт із Матриця) і ті, які не мають фізичної форми, які живуть повністю в комп’ютері або в Інтернеті (Саманта з Її).

Почнемо з того, що AGI всередині роботизованого тіла, ізольованого від мережі, конкуруватиме нарівні з людським розумом, але з певними перевагами:

Пам'ять: залежно від дизайну роботизованої форми AGI, їхня короткочасна пам'ять і запам'ятовування ключової інформації точно будуть кращими, ніж людські. Але, зрештою, існує фізична межа того, скільки місця на жорсткому диску можна вмістити в робота, якщо припустити, що ми створимо його так, щоб він виглядав як люди. З цієї причини довготривала пам’ять AGI діятиме дуже подібно до людської, активно забуваючи інформацію та спогади, які вважаються непотрібними для її майбутнього функціонування (щоб звільнити «простір на диску»).
Швидкість: Максимальна продуктивність нейронів у людському мозку становить приблизно 200 герц, тоді як сучасні мікропроцесори працюють на рівні гігагерців, тобто в мільйони разів швидше, ніж нейрони. Це означає, що майбутні AGI оброблятимуть інформацію та прийматимуть рішення швидше, ніж люди. Майте на увазі, що це не обов’язково означає, що цей AGI прийматиме розумніші чи правильніші рішення, ніж люди, просто вони можуть швидше прийти до висновків.
Ефективність: Простіше кажучи, людський мозок втомлюється, якщо працює надто довго без відпочинку чи сну, і коли це відбувається, його пам’ять, здатність до навчання та міркування порушуються. Тим часом, для AGI, припускаючи, що вони регулярно підзаряджаються (електрикою), вони не матимуть цієї слабкості.
Можливість вдосконалення: для людини на вивчення нової звички можуть знадобитися тижні практики, на освоєння нових навичок — місяці, а на вивчення нової професії — роки. Для AGI вони матимуть можливість навчатися як на досвіді (як люди), так і шляхом прямого завантаження даних, подібно до того, як ви регулярно оновлюєте ОС свого комп’ютера. Ці оновлення можуть стосуватися підвищення знань (нових навичок) або підвищення продуктивності фізичної форми AGI.

Далі розглянемо AGI, які мають фізичну форму, але також бездротово підключені до Інтернету/хмари. Відмінності, які ми можемо побачити на цьому рівні порівняно з непідключеними AGI, включають:

Пам’ять: ці AGI матимуть усі короткострокові переваги, які має попередній клас AGI, за винятком того, що вони також отримають переваги від ідеальної довгострокової пам’яті, оскільки вони можуть завантажувати ці спогади в хмару для доступу, коли це необхідно. Очевидно, що ця пам’ять не буде доступна в районах із низьким доступом до зв’язку, але це стане меншим занепокоєнням у 2020-х і 2030-х роках, коли більше світу стане онлайн. Детальніше в глава перша нашого Майбутнє Інтернету серії.
Швидкість: залежно від типу перешкод, з якими стикається цей AGI, вони можуть отримати доступ до більшої обчислювальної потужності хмари, щоб допомогти їм вирішити цю проблему.
Продуктивність: немає різниці порівняно з непідключеними AGI.
Можливість оновлення: єдина різниця між цим AGI щодо можливості оновлення полягає в тому, що вони можуть отримати доступ до оновлень у режимі реального часу, бездротовим способом, замість того, щоб відвідувати та підключатися до депо оновлень.
Колектив: люди стали домінуючим видом на Землі не тому, що ми були найбільшою чи найсильнішою твариною, а тому, що ми навчилися спілкуватися та співпрацювати різними способами для досягнення спільних цілей, від полювання на шерстистого мамонта до будівництва Міжнародної космічної станції. Команда AGI виведе цю співпрацю на наступний рівень. Враховуючи всі когнітивні переваги, перелічені вище, а потім поєднуючи це з можливістю бездротового спілкування, як особисто, так і на великих відстанях, майбутня команда AGI/вулик може теоретично вирішувати проекти набагато ефективніше, ніж команда людей.

Нарешті, останній тип AGI — це версія без фізичної форми, яка працює всередині комп’ютера та має доступ до повної обчислювальної потужності та онлайн-ресурсів, які її надають її творці. У науково-фантастичних серіалах і книгах ці AGI зазвичай приймають форму досвідчених віртуальних помічників/друзів або жваву операційну систему космічного корабля. Але порівняно з двома іншими категоріями AGI, цей ШІ відрізнятиметься наступним чином;

Швидкість: необмежена (або, принаймні, до меж апаратного забезпечення, до якого він має доступ).
Пам'ять: необмежена
Продуктивність: підвищення якості прийняття рішень завдяки доступу до суперкомп’ютерних центрів.
Можливість оновлення: абсолютна, у режимі реального часу та з необмеженим вибором когнітивних оновлень. Звичайно, оскільки ця категорія AGI не має фізичної форми робота, вона не потребуватиме доступних фізичних оновлень, якщо ці оновлення не стосуються суперкомп’ютерів, на яких він працює.
Колектив: Подібно до попередньої категорії AGI, цей безтілесний AGI ефективно співпрацюватиме зі своїми колегами з AGI. Однак, враховуючи більш прямий доступ до необмеженої обчислювальної потужності та доступ до онлайн-ресурсів, ці AGI зазвичай займають керівні ролі в загальному колективі AGI.

Коли людство створить перший штучний загальний інтелект?

Немає встановленої дати, коли спільнота дослідників штучного інтелекту вважає, що вони винайдуть законний AGI. Проте, а 2013 обстеження 550 найкращих світових дослідників штучного інтелекту, проведене провідними дослідниками штучного інтелекту Ніком Бостромом і Вінсентом С. Мюллером, усереднило діапазон думок за три можливі роки:

Середній оптимістичний рік (ймовірність 10%): 2022
Середній реалістичний рік (імовірність 50%): 2040
Середній песимістичний рік (імовірність 90%): 2075

Неважливо, наскільки точні ці прогнози. Що має значення, так це те, що переважна більшість спільноти дослідників штучного інтелекту вірить, що ми винайдемо AGI протягом нашого життя та відносно на початку цього століття.

Як створення загального штучного інтелекту змінить людство

Ми детально досліджуємо вплив цього нового ШІ в останньому розділі цієї серії. Тим не менш, у цьому розділі ми скажемо, що створення AGI буде дуже схожим на реакцію суспільства, яку ми відчуємо, якщо люди знайдуть життя на Марсі.

Один із таборів не зрозуміє значення й продовжуватиме думати, що вчені роблять велику справу щодо створення ще одного потужнішого комп’ютера.

Інший табір, який, ймовірно, складається з луддитів і релігійних людей, боятиметься цього AGI, вважаючи, що це мерзота, що він намагатиметься знищити людство у стилі SkyNet. Цей табір буде активно виступати за видалення/знищення AGI у всіх їх формах.

З іншого боку, третій табір розглядатиме це творіння як сучасну духовну подію. У всьому, що має значення, цей AGI буде новою формою життя, яка мислить інакше, ніж ми, і цілі якої відрізняються від наших власних. Після того, як буде оголошено про створення AGI, люди більше не будуть ділити Землю лише з тваринами, але й разом із новим класом штучних істот, чий інтелект є рівним або вищим за наш власний.

Четвертий табір включатиме бізнес-інтересів, які досліджуватимуть, як вони можуть використовувати AGI для задоволення різноманітних потреб бізнесу, таких як заповнення прогалин на ринку праці та прискорення розробки нових товарів і послуг.

Далі, у нас є представники всіх рівнів влади, які спотикаються про себе, намагаючись зрозуміти, як регулювати AGI. Це рівень, на якому всі моралізаторські та філософські дебати дійдуть до вершини, зокрема щодо того, чи розглядати ці AGI як власність чи як особи.

І, нарешті, останнім табором стануть військові та органи нацбезпеки. По правді кажучи, існує велика ймовірність, що публічне оголошення першого AGI може затриматися на місяці чи роки лише через цей табір. чому Тому що винахід AGI незабаром призведе до створення штучного суперінтелекту (ASI), який представлятиме величезну геополітичну загрозу та можливість, яка набагато перевершить винайдення ядерної бомби.

З цієї причини наступні кілька розділів будуть повністю зосереджені на темі ASI і чи виживе людство після його винаходу.

(Занадто драматичний спосіб закінчити розділ? Напевно.)