AIを誤って使用するリスク、考えたことありますか?

AIを誤って使用すると、財務上の損失(収益の損失やコンプライアンス違反による罰金)につながるだけでなく、ビジネスの評価やブランド、倫理にまで影響が及ぶ恐れがある。

大規模なビジネスでは、どんな小さな意思決定も成功を左右する。例えば、ある特定の顧客にクレジットカードの承認を出すかどうか、とか。

Martin Sokalski(寄稿者)
KPMG’sのテクノロジーリスクにおけるグローバルリーダー

その話を続けよう。
顧客に承認を出す際は、「年率」、「支出制限」などの長いチェック項目がある。顧客は何百万人にものぼるため、機械学習モデルが意思決定を行う効率性が注目されている。

現実的な話、ビジネスは歴史的なグラウンドトゥルース(※)を利用しつつ、少数の科学者と機械学習に頼っている。

※グラウンドトゥルース:地上検証データ(遠隔測定した地上の対象物について、現地調査から得た正しいデータ)

自律アルゴリズムの現在

今日、ほとんどのアルゴリズムは比較的単純かつ決定的だ。アルゴリズムは、所定の設定と一定数のルールから結果を出力する。その有効性と完全性を評価する方法が、おおむね確立されている。実際、精度と有効性を維持するのに必要な方法論の80%以上は判明しているといえる。

さて、製造におけるエキスパートシステムや、保険の決定性ルールや決定表を使用する保険数理科学、また金融サービスにおけるロボットプロセスの自動化を考えてみよう。

結論が受け入れられるものかどうか判断するのはそれほど難しくない。また、拡張性を持たせ管理するのも簡単である。

こうしたルールは、特にデータ内の属性(仕様や変数とも呼ばれる)の数やレコードの数が増えると、非常に複雑になる可能性がある。

機械学習およびディープラーニングによって生成されるAIは、それぞれが異なる生き物である。明示的にプログラムされるのではなく、データ(一般にグラウンドトゥルースと呼ばれる)から学習するように訓練されている。つまり、データのニュアンスやパターンを「理解・学習・発見」し、非常に多くの属性を処理することができる。そして多くの場合、AIの処理の仕方は著しく複雑である。

100個の属性を使用する100万件の過去の融資申し込みのデータセットから予測モデルをトレーニングする、または 100万枚のMRI画像から腫瘍を検出すると考えてみよう。メールの分類でもいい。トレーニングと評価が完了すると、これらのモデルに新しいデータまたは即席のデータを提供し、そこから予測を行うことができる。これは本質的に確率論的であり、ある程度の信頼がおけるものとして扱われる。

このように優れた側面がある一方で、モデルが何をしているのか、何を学習しどのように振る舞うのか、時間が経つと不公平な偏りが発生するかどうかといったことは不明確である。ニューラルネットなどの不透明なディープラーニング技術を使用する場合には特にそうである。そのため、トレーニングデータのどの属性がモデルに影響するかを理解することが非常に重要になっている。

アルゴリズムのリスク。

「大手金融会社のローン部門のビジネスリーダー」が抱える潜在的な問題を詳しく見てみよう。

アルゴリズム内にエラーが隠れている場合、マシンが行った決定の整合性や公平性に悪影響が生じうる。グランドトゥルースとしての敵対的なデータやデータマスキングも例外ではない。

人間が理解できない決定や、または企業ポリシーや企業価値、ガイドライン、人々の期待に沿う意思決定をAIモデルがさらに多く行うようになったとしても、ビジネスリーダーは企業のブランド評価を維持するのにまだまだ仕事は無くならない。

AIを疑いチェックし続けよ

リスクの中には、モデルを汚染したり、トレーニングデータを改ざんしたり、プライバシー、ユーザーエクスペリエンス、知的財産、その他の重要事項を損なって、アルゴリズムの基盤を脅かす攻撃も含まれる。医療機器や産業用制御システムが攻撃された際の影響を考えてみてほしい。データの改ざんは、消費者を混乱させる可能性がある。リスク次第では、アルゴリズムの導入で事態が好転するどころか悪くなることすらありえる。

複雑で継続的な学習アルゴリズムを使用するなら、データや属性の重要性だけでなく、AIが誤作動を起こしたり不正に利用された場合にどんな影響があるかということをよく認識しておく必要がある。特に、あるモデルが開発された背景やその目的、訓練をした人、データの出所や加えられた変更、モデルがどのように提供され、保護されたかといった側面に目を凝らすべきだ。さらに、アルゴリズムの整合性、説明可能性、公平性、復元力に関して、どの主要指標を調べるべきか理解する必要がある。

原文

The need to know: Trust anchors

AI Business

Translating

PAGE TOP