AI投資のリスク管理

AIの幅広い用途や展開は、事業リスクマネージャーと実務家のワークロードのさまざまな部分を削減および拡張する。

リスクの専門家向けのAIに関連した肯定的な成果例には、運用システムで早期警告を提供するために適用される技術が含まれる。このようなシステムでは、脅威をリアルタイムで分析し、人間の対応を促したり、自動化されたアクションを検知したりすることで、負のイベントが損失や損害を引き起こすのを防ぐことが可能だ。

機械学習もといディープラーニングは、時間の経過に伴う操作の特性の分析や効果的かつ効率的なリスク管理のための情報提供にも役立つ。具体例としては、自然言語処理技術を使用した契約の分析がある。これは、個々の契約の質を向上させ、組織の契約関係全体にわたる契約関連のリスクの概要を提供することを目的としているものだ。

AIは、時間の経過に伴う操作の特性の分析や効果的かつ効率的なリスク管理のための情報提供にも役立つ。具体例としては、自然言語処理技術を使用した契約の分析がある。これは、個々の契約の質を向上させ、組織の契約関係全体にわたる契約関連のリスクの概要を提供することを目的としているものだ。

新しいAI関連のリスクの一般的なカテゴリには、偏り、AIに対する過剰な期待、サイバー攻撃、および法的・評判リスクが含まれる。

・AIエンジンは公平である場合でも、既存の偏りは2つの主要な方法で強化できる。AIはデータを介して、考えられるすべての行動とその結果の中立的なソースを提供するという立ち位置ではない。過去の行動パターンを取り入れて消費するものだ。また、十分に訓練されていないAIは、リスクや問題を正しく識別するための適切な接続を確立できない場合もある。

・AIに対する過剰な期待に加えて、不完全・低品質を引き起こすデータは「真の」洞察を提供するAIに対してデメリットを与えているといえるだろう。例えば、不当な仮定、誤ったトレーニング、欠陥のあるプログラミングはAIにはマイナスといえる。リスクの洞察に対して、唯一のソースとしてAIに依存することは、リスク管理に対する狭い焦点のアプローチと同じ種類のリスクをもたらす可能性が高い。

・AIシステムは、大量の企業データに直接アクセスすることが可能だ。それらはサイバー攻撃に対してより狙いやすいターゲットとなるため、組み込みのセキュリティは高水準でなければならない。

・データプライバシー規制に関しては、AIに追いついており、特にGDPRの出現で適切な使用を導く既存の先例はほとんどない。偏りがあり、エラーが発生しやすい、または攻撃を受けやすいシステムは、それを運用する組織にとってリスクとなり、実際にシステムが適切に管理されていない場合は規制違反につながる。

疑いもなく、AIへの投資では多くのビジネスケースで、金銭的利益の魅力的な予測が取り上げられる。しかし、Ovumはすべての組織に、AI関連のリスクの潜在的な影響を利点と併せて特徴づけ、説明責任を明確にすることを強くお勧めしたい。

寄稿者

Alan Rodger
Ovumのシニアアナリスト、ITガバナンスとセキュリティのトピックの担当者。2002年、バトラーグループ(現在はOvumとInforma Group Plcに法人化)に入社して以来、彼は会社に在籍している。

原文

Don’t forget about AI-related risks when investing in its potential benefits

AI Business

Translating

PAGE TOP