クォンタムラン

画像クレジット:

iStock

AI がインターネットを乗っ取る: ボットがオンラインの世界を乗っ取ろうとしている?

人間がインターネットのさまざまな部分を自動化するためのボットをさらに作成するにつれて、それらが引き継ぐのは時間の問題でしょうか?

著者：
著者名
クォンタムラン・フォーサイト
2023 年 1 月 3 日

インターネットには、顧客サービスからトランザクション、ストリーミングエンターテイメントまで、考えられるすべてのプロセスを管理するアルゴリズムと AI があふれています。ただし、AI がますます高度になるにつれて、人間はボットの進行状況を追跡する際により注意を払う必要があるかもしれません。

AI がインターネットコンテキストを引き継ぐ

インターネットの黎明期には、ほとんどのコンテンツは静的で (たとえば、対話性が最小限のテキストや画像)、オンラインアクティビティの多くは人間のプロンプトまたはコマンドによって開始されました。ただし、組織がこれまで以上に多くのアルゴリズムとボットをオンラインで設計、インストール、および同期し続けるため、このインターネットの人間の時代は間もなく終わる可能性があります。 (文脈上、ボットとは、システムやユーザーと対話できるインターネットまたは別のネットワーク上の自律型プログラムです。) クラウドサイバーセキュリティ会社 Imperva Incapsula によると、2013 年にはインターネットトラフィックの 31% のみが検索エンジンと「善良なボット」で構成されていました。」残りの部分には、スパマー (電子メールハッカー)、スクレーパー (Web サイトデータベースから個人情報を盗む)、偽装者 (標的のサーバーへのインターネットトラフィックを圧倒する分散サービス拒否攻撃を扇動する) などの悪意のある要素が含まれています。

仮想アシスタントがより複雑なタスクを実行するにつれて、ボットと人間の相互作用はオンラインでより一般的になりつつあります。たとえば、Google アシスタントは、単にカレンダーのリマインダーを設定したり、単純なテキストメッセージを送信したりする代わりに、美容院に電話して予約を入れることができます。次のステップは、ボット間の対話です。XNUMX つのボットが所有者に代わってタスクを実行します。たとえば、一方では自律的に仕事に応募し、他方ではこれらの応募を処理します。

破壊的な影響

オンラインで可能になったデータ共有、トランザクション、および相互接続機能の幅が広がり続けるにつれて、ますます多くの人的および商業的相互作用を自動化するインセンティブがますます高まっています。多くの場合、これらの自動化はアルゴリズムまたは仮想アシスタントによって実行され、オンライン Web トラフィックの大部分を占める可能性があり、人間を締め出す可能性があります。

さらに、インターネット上でのボットの存在の増加は、人間の介入を超えて急速に進化する可能性があります。非営利団体である世界経済フォーラムは、オンラインでのボットの無秩序な拡散をもつれた Web と呼んでいます。この環境では、最初は単純なタスクを実行するようにコーディングされた低レベルのアルゴリズムが、データを通じて進化することを学び、サイバーインフラストラクチャに侵入し、ファイアウォールを回避します。最悪のシナリオは、インターネット全体に広がる「AI雑草」であり、最終的には水やエネルギー管理システムなどの重要なセクターに到達して混乱させます. さらに危険なシナリオは、これらの雑草が衛星と核の制御システムを「窒息」させる場合です。

自己進化する「不正なボット」の台頭を防ぐために、企業はより多くのリソースを割いてアルゴリズムを厳密に監視し、リリース前に厳密なテストを実施し、誤動作に備えて「キルスイッチ」を待機させることができます。これらの基準に準拠しない場合は、ボットを制御するために設計された規制が適切に遵守されるように、重い罰金と制裁措置も講じる必要があります。

インターネットを支配する AI システムへの影響

Web トラフィックの大部分を独占しているアルゴリズムとボットのより広い影響には、次のようなものがあります。

ビジネスおよび公共サービスは、より多くの監視、管理、およびトランザクション活動が自律的に処理されるにつれて、ますます効率的かつ低コストになっています。
企業がインターネット上でリリースおよび更新するすべてのボットを監視、監査し、責任を負わせるグローバルな規制とポリシー。
ボット間のやり取りが増えると、データセットが大きくなり、処理にさらに多くのスーパーコンピューターが必要になる可能性があります。これにより、世界のインターネットのエネルギー消費が増加します。
人工知能システムは、規制されていない場合、人間とパートナーを組むか、オンラインコントロールを脅かすことができる独自のメタバースに存在するのに十分な感覚を備えています.