ИИ захватывает Интернет: собираются ли боты захватить онлайн-мир?

• Автор:
• Имя автора

  Квантумран Форсайт
• 3 января 2023

Интернет наполнен алгоритмами и искусственным интеллектом, которые управляют всеми процессами, о которых мы только можем подумать, — от обслуживания клиентов до транзакций и потокового развлечения. Однако людям, возможно, придется быть более бдительными в отслеживании прогресса ботов, поскольку ИИ становится все более совершенным.

ИИ захватывает интернет-контекст

На заре Интернета большая часть контента была статична (например, текст и изображения с минимальной интерактивностью), и большая часть онлайн-активности инициировалась человеческими подсказками или командами. Однако эта человеческая эра Интернета может скоро закончиться, поскольку организации продолжают разрабатывать, устанавливать и синхронизировать все больше алгоритмов и ботов в Интернете. (Для контекста боты — это автономные программы в Интернете или другой сети, которые могут взаимодействовать с системами или пользователями.) По данным компании по обеспечению облачной кибербезопасности Imperva Incapsula, в 2013 году только 31 процент интернет-трафика составляли поисковые системы и «хорошие боты». ” Остальное содержит вредоносные элементы, такие как спамеры (взломщики электронной почты), скребки (воруют личную информацию из баз данных веб-сайтов) и имитаторы (провоцируют распределенные атаки типа «отказ в обслуживании», которые перегружают интернет-трафик на целевой сервер).

Взаимодействие между ботами и людьми становится все более распространенным явлением в Интернете, поскольку виртуальные помощники выполняют более сложные задачи. Например, Google Assistant может звонить в парикмахерские, чтобы назначить встречу, а не просто настраивать напоминание в календаре или отправлять простое текстовое сообщение. Следующим шагом является взаимодействие между ботами, когда два бота выполняют задачи от имени своих владельцев, например, автономно подают заявки на работу с одной стороны и обрабатывают эти заявки с другой.

Разрушительное воздействие

Поскольку широта возможностей обмена данными, транзакций и взаимодействия, которые стали возможными в Интернете, продолжает расти, постоянно растет стимул к автоматизации все большего количества человеческих и коммерческих взаимодействий. Во многих случаях эта автоматизация будет выполняться алгоритмом или виртуальным помощником, которые в целом могут представлять подавляющее большинство онлайн-трафика, вытесняя людей.    

Кроме того, растущее присутствие ботов в Интернете может быстро выйти за рамки человеческого вмешательства. Некоммерческая организация World Economic Forum называет нерегулируемое распространение ботов в Интернете запутанной паутиной. В этой среде низкоуровневые алгоритмы, изначально закодированные для выполнения простых задач, учатся развиваться с помощью данных, проникать в киберинфраструктуры и обходить брандмауэры. В худшем случае «сорняк ИИ» распространяется по Интернету, в конечном итоге достигая и нарушая работу основных секторов, таких как системы управления водными и энергетическими ресурсами. Еще более опасный сценарий, если эти сорняки «задушат» спутниковые и ядерные системы управления. 

Чтобы предотвратить появление саморазвивающихся «ботов, выходящих из-под контроля», компании могут выделять больше ресурсов для строгого контроля своих алгоритмов, подвергать их тщательному тестированию перед выпуском и иметь «выключатель» в режиме ожидания на случай их сбоя. Несоблюдение этих стандартов также должно сопровождаться крупными штрафами и санкциями, чтобы обеспечить надлежащее соблюдение правил, разработанных для контроля ботов.

Последствия для систем ИИ, которые берут под контроль Интернет

Более широкие последствия для алгоритмов и ботов, монополизирующих большую часть веб-трафика, могут включать:

• Деловые и государственные услуги становятся все более эффективными и дешевыми, поскольку все больше операций по мониторингу, администрированию и транзакциям выполняются автономно.
• Глобальные правила и политики, которые отслеживают, проверяют и привлекают компании к ответственности за каждого бота, который они выпускают и обновляют в Интернете.
• Увеличение числа взаимодействий между ботами может привести к увеличению объемов данных, для обработки которых потребуется больше суперкомпьютеров. Это, в свою очередь, приведет к увеличению глобального энергопотребления Интернета.
• Системы искусственного интеллекта становятся достаточно разумными, чтобы существовать в своих собственных метавселенных, где они могут либо сотрудничать с людьми, либо угрожать онлайн-контролю, если их не регулировать.

Вопросы для комментариев

• Каков ваш опыт взаимодействия с интернет-ботами, такими как чат-боты службы поддержки клиентов? 
• Используете ли вы виртуальную помощь в повседневной жизни?