クォンタムラン

画像クレジット:

iStock

AI TRISM: AI の倫理性の確保

企業は、人工知能の境界を明確に定義する標準とポリシーを作成することが求められています。

著者：
著者名
クォンタムラン・フォーサイト
2023 年 10 月 20 日

洞察の要約

2022 年、調査会社ガートナーは、AI モデルのガバナンスと信頼性を確保するために、AI Trust、Risk、および Security Management の略である AI TRiSM を導入しました。このフレームワークは、説明可能性、モデル操作、データ異常検出、敵対的攻撃への耐性、データ保護の XNUMX つの柱で構成されています。このレポートは、AI リスクの管理が不十分だと、重大な損失やセキュリティ侵害につながる可能性があることを強調しています。 AI TRiSM の実装には、法務、コンプライアンス、IT、データ分析の部門横断的なチームが必要です。この枠組みは、倫理的および法的懸念に焦点を当てた「責任あるAI」の文化を構築することを目的としており、雇用傾向、政府規制、AIにおける倫理的配慮に影響を与える可能性が高い。

AI TRISMコンテキスト

Gartner によると、AI TriSM には説明可能性、モデル操作 (ModelOps)、データ異常検出、敵対的攻撃耐性、データ保護の 50 つの柱があります。 Gartner の予測に基づくと、これらの柱を導入する組織は、2026 年までに導入、ビジネス目標、ユーザーの受け入れに関して AI モデルのパフォーマンスが 20% 向上するでしょう。さらに、AI 搭載マシンは世界の労働力の 40% を占めるでしょう。 2028 年までに全体の経済生産性の XNUMX% に貢献します。

Gartner の調査結果は、多くの組織が IT 幹部が理解または解釈できない数百または数千の AI モデルを実装していることを示唆しています。 AI 関連のリスクを適切に管理していない組織は、好ましくない結果や侵害に遭遇する可能性が大幅に高くなります。モデルが意図したとおりに機能しない可能性があり、セキュリティやプライバシーの侵害、経済的、個人的、評判への損害につながる可能性があります。 AI の導入が不正確であると、組織が誤ったビジネス上の意思決定を下してしまう可能性もあります。

AI TRiSM の導入を成功させるには、法務、コンプライアンス、セキュリティ、IT、データ分析担当者からなる部門横断的なチームが必要です。 AI プロジェクトに関与する各ビジネス分野から適切な代表者を集めて専門のチームまたはタスクフォースを設立することによっても、最適な結果が得られます。また、各チームメンバーが自分の役割と責任、および AI TRiSM イニシアチブの目標と目的を明確に理解していることを確認することも重要です。

破壊的な影響

AI を安全にするために、ガートナーはいくつかの重要な手順を推奨しています。まず、組織は AI に関連する潜在的なリスクとそのリスクを軽減する方法を把握する必要があります。この取り組みには、テクノロジー自体だけでなく、人、プロセス、環境への影響も考慮した包括的なリスク評価が必要です。

第 XNUMX に、組織は AI リスクを管理するためのポリシー、手順、制御を含む AI ガバナンスに投資する必要があります。この戦略には、AI システムの透明性、説明可能性、説明責任を確保し、関連する法律や規制を遵守することが含まれます。さらに、AI モデルの継続的な監視と監査は、時間の経過とともに発生する可能性のある潜在的なリスクを特定し、軽減するために重要です。最後に、組織は AI の安全性に関する文化を発展させ、従業員や関係者間の意識、教育、トレーニングを促進する必要があります。これらのステップには、AI の倫理的な使用、AI に関連するリスク、問題や懸念事項を特定して報告する方法に関するトレーニングが含まれます。

これらの取り組みにより、より多くの企業が責任ある AI 部門を構築することになるでしょう。この新たなガバナンスフレームワークは、組織が AI にどのようにアプローチするかを文書化することで、AI に関連する法的および倫理的障害に対処します。このフレームワークとそれに関連する取り組みでは、意図しないマイナスの結果を防ぐためにあいまいさを排除したいと考えています。責任ある AI フレームワークの原則は、従業員に利益をもたらし、顧客に価値を提供し、社会にプラスの影響を与える方法で AI を設計、開発、使用することに重点を置いています。