AI を使用した自動化されたサイバー攻撃: マシンがサイバー犯罪者になるとき

画像クレジット:
画像著作権
iStock

AI を使用した自動化されたサイバー攻撃: マシンがサイバー犯罪者になるとき

AI を使用した自動化されたサイバー攻撃: マシンがサイバー犯罪者になるとき

小見出しのテキスト
ハッカーは人工知能 (AI) と機械学習 (ML) の力を利用して、サイバー攻撃をより効果的かつ致命的なものにしています。
    • 著者:
    • 著者名
      クォンタムラン・フォーサイト
    • 2022 年 9 月 30 日

    洞察の要約

    人工知能 (AI) と機械学習 (ML) は、システムの保護とサイバー攻撃の実行の両方において、サイバーセキュリティにおいてますます使用されています。データと動作から学習する機能により、システムの脆弱性を特定できますが、これらのアルゴリズムの背後にあるソースを追跡することも困難になります。サイバー犯罪における AI のこの進化する状況は、IT 専門家の間で懸念を引き起こし、高度な防御戦略を必要とし、政府や企業のサイバーセキュリティへの取り組み方に大きな変化をもたらす可能性があります。

    AI コンテキストを使用した自動化されたサイバー攻撃

    人工知能と ML は、反復的な動作やパターンからの学習など、ほぼすべてのタスクを自動化する機能を維持しており、システムの脆弱性を特定するための強力なツールとなります。さらに重要なのは、AI と ML により、アルゴリズムの背後にある人物やエンティティを正確に特定することが困難になります。

    2022年、米上院サイバーセキュリティ軍事小委員会で、マイクロソフトの最高科学責任者エリック・ホーヴィッツ氏は、サイバー攻撃を自動化するための人工知能(AI)の利用を「攻撃型AI」と呼んだ。同氏は、サイバー攻撃がAIによるものかどうかを判断するのは難しいことを強調した。同様に、機械学習 (ML) はサイバー攻撃を支援するために使用されています。 ML は、パスワードをより適切にハッキングするためにパスワードを作成する際に一般的に使用される単語と戦略を学習するために使用されます。 

    サイバーセキュリティ企業 Darktrace の調査によると、IT 管理チームはサイバー犯罪における AI の潜在的な使用について懸念を強めており、回答者の 96% がすでに考えられる解決策を研究していると回答しています。 IT セキュリティの専門家は、サイバー攻撃の手法がランサムウェアやフィッシングから、検出や回避が難しいより複雑なマルウェアへ移行していると感じています。 AI を利用したサイバー犯罪の潜在的なリスクは、破損または操作されたデータが ML モデルに導入されることです。

    ML 攻撃は、クラウド コンピューティングやエッジ AI をサポートするために現在開発されているソフトウェアやその他のテクノロジーに影響を与える可能性があります。トレーニング データが不十分な場合は、少数派グループに誤ってタグ付けしたり、疎外されたコミュニティを対象とする予測的取り締まりに影響を与えたりするなど、アルゴリズムのバイアスが強化される可能性もあります。人工知能は、微妙ではあるが悲惨な情報をシステムに導入する可能性があり、長期にわたる影響をもたらす可能性があります。

    破壊的な影響

    サイバー キル チェーン (サイバー攻撃を成功させるために実行するタスクのチェックリスト) に関するジョージタウン大学の研究者による研究では、特定の攻撃戦略が ML から恩恵を受ける可能性があることが示されました。 これらの方法には、スピアフィッシング (特定の人や組織に向けられた電子メール詐欺)、IT インフラストラクチャの弱点の特定、悪意のあるコードのネットワークへの配信、およびサイバーセキュリティ システムによる検出の回避が含まれます。 機械学習は、ソーシャル エンジニアリング攻撃が成功する可能性も高めます。ソーシャル エンジニアリング攻撃では、人々がだまされて機密情報を明らかにしたり、金融取引などの特定のアクションを実行したりします。 

    さらに、サイバー キル チェーンは、次のようないくつかのプロセスを自動化できます。 

    • 広範な監視 - 接続されたシステム、防御、ソフトウェア設定など、ターゲット ネットワークから情報を収集する自律型スキャナー。 
    • 広大な武器化 - インフラストラクチャの弱点を特定し、これらの抜け穴に侵入するコードを作成する AI ツール。 この自動検出は、特定のデジタル エコシステムや組織を標的にすることもできます。 
    • 配信またはハッキング - 自動化を使用してスピアフィッシングとソーシャル エンジニアリングを実行し、何千人もの人々を標的とする AI ツール。 

    2023 年の時点で、複雑なコードを書くことはまだ人間のプログラマーの領域内ですが、専門家は、機械もこのスキルを習得するまでに長くはかからないと考えています。 DeepMind の AlphaCode は、このような高度な AI システムの顕著な例です。大量のコードを分析してパターンを学習し、最適化されたコード ソリューションを生成することでプログラマーを支援します。

    AI を使用した自動化されたサイバー攻撃の影響

    AI を使用した自動化されたサイバー攻撃のより広い意味には、次のようなものがあります。 

    • 自動化されたサイバー攻撃を検出して阻止するための高度なサイバー ソリューションを開発するために、サイバー防御の予算を増やしている企業。
    • 企業や公共部門のシステムに密かに侵入できるアルゴリズムを作成するために ML 手法を研究しているサイバー犯罪者。
    • 巧妙に組織化され、一度に複数の組織を標的とするサイバー攻撃のインシデントが増加しています。
    • 軍事兵器、機械、およびインフラ指令センターの制御を掌握するために利用される攻撃的な AI ソフトウェア。
    • 企業のシステムに侵入、変更、または悪用して公共および民間のインフラストラクチャを停止するために利用される攻撃的な AI ソフトウェア。 
    • 一部の政府は、それぞれの国のサイバーセキュリティ機関の管理と保護の下で、国内の民間部門のデジタル防御を再編成する可能性があります。

    考慮すべき質問

    • AI を利用したサイバー攻撃のその他の潜在的な結果は何ですか?
    • 企業は他にどのようにこのような攻撃に備えることができるでしょうか?

    インサイトの参照

    この洞察のために、次の一般的な機関リンクが参照されました。

    セキュリティおよび新興技術センター サイバー攻撃の自動化