ШІ захоплює Інтернет: боти збираються захопити онлайн-світ?

• Автор:
• ім'я автора

  Quantumrun Foresight
• Січень 3, 2023

Інтернет наповнений алгоритмами та штучним інтелектом, які керують усіма процесами, про які ми можемо думати — від обслуговування клієнтів до транзакцій і потокових розваг. Однак людям, можливо, доведеться бути більш пильними у відстеженні прогресу ботів, оскільки штучний інтелект стає все більш прогресивним.

AI переймає контекст Інтернету

На початку існування Інтернету більшість вмісту була статичною (наприклад, текст і зображення з мінімальною інтерактивністю), і велика частина активності в Інтернеті ініціювалася людськими підказками чи командами. Однак цей людський вік Інтернету може скоро закінчитися, оскільки організації продовжують розробляти, встановлювати та синхронізувати все більше алгоритмів і ботів онлайн. (Для контексту, боти — це автономні програми в Інтернеті чи іншій мережі, які можуть взаємодіяти з системами чи користувачами.) За даними компанії з хмарної кібербезпеки Imperva Incapsula, у 2013 році лише 31 відсоток інтернет-трафіку складався з пошукових систем і «хороших ботів». » Решта містить шкідливі елементи, такі як спамери (хакери електронної пошти), скребки (викрадення приватної інформації з баз даних веб-сайтів) і імітатори (спровокують розподілені атаки відмови в обслуговуванні, які переповнюють Інтернет-трафік до цільового сервера).

Взаємодія ботів і людей стає все більш поширеною в Інтернеті, оскільки віртуальні помічники виконують складніші завдання. Наприклад, Google Assistant може дзвонити в перукарні, щоб записатися на прийом, замість того, щоб просто налаштовувати нагадування в календарі чи надсилати звичайне текстове повідомлення. Наступним кроком є ​​взаємодія бот-бот, коли два боти виконують завдання від імені своїх власників, наприклад, автономно подають заявки на роботу з одного боку та обробляють ці заявки з іншого.

Руйнівний вплив

У міру того, як можливості обміну даними, транзакцій і взаємозв’язку, які стали можливими в Інтернеті, постійно зростають, зростає бажання автоматизувати все більше людських і комерційних взаємодій. У багатьох випадках ця автоматизація виконуватиметься за допомогою алгоритму або віртуального помічника, який разом може представляти переважну більшість онлайн-трафіку, витісняючи людей.    

Крім того, зростаюча присутність ботів в Інтернеті може швидко розвиватися поза втручанням людини. Некомерційна організація Всесвітній економічний форум називає нерегульоване поширення ботів в мережі заплутаною мережею. У цьому середовищі низькорівневі алгоритми, спочатку закодовані для виконання простих завдань, вчаться розвиватися за допомогою даних, проникати в кіберінфраструктуру та обходити брандмауери. Найгірший сценарій — це «бур’ян штучного інтелекту», який поширюється в Інтернеті, врешті-решт досягає та порушує важливі сектори, такі як системи керування водою та енергією. Ще більш небезпечний сценарій, якщо ці бур'яни «задушать» супутникові та ядерні системи контролю. 

Щоб запобігти появі саморозвиваючих «роботів, які стають шахраями», компанії можуть виділяти більше ресурсів для суворого моніторингу своїх алгоритмів, піддавати їх ретельним тестам перед випуском і мати «перемикач вимкнення» в режимі очікування на випадок несправності. Недотримання цих стандартів також має супроводжуватися великими штрафами та санкціями, щоб забезпечити належне дотримання правил, призначених для контролю над ботами.

Наслідки для систем ШІ, які беруть під контроль Інтернет

Більш широкі наслідки для алгоритмів і ботів, які монополізують більшість веб-трафіку, можуть включати:

• Ділові та громадські послуги стають все ефективнішими та дешевшими, оскільки більше моніторингу, адміністративної та транзакційної діяльності виконуються автономно.
• Глобальні правила та політики, які контролюють, перевіряють і притягують компанії до відповідальності за кожного бота, який вони випускають і оновлюють в Інтернеті.
• Збільшення взаємодії між ботами, що може призвести до більших наборів даних, для обробки яких знадобиться більше суперкомп’ютерів. Це, у свою чергу, збільшить споживання енергії глобальним Інтернетом.
• Системи штучного інтелекту стають достатньо розумними, щоб існувати у власних метавсесвітах, де вони можуть або співпрацювати з людьми, або загрожувати онлайн-контролю, якщо їх не регулювати.

Питання для коментарів

• Яким був ваш досвід взаємодії з інтернет-ботами, такими як чат-боти служби підтримки клієнтів? 
• Чи використовуєте ви віртуальну допомогу у своєму повсякденному житті?