AI勃興時代に人間の出る幕とは?

「AIの急速な活用の中で、人間はいかに介入していくのか?」

Ben Taylor, Rainbird(AI-powered CTO)

ニューラルネットワークの可能性について

ニューラルネットワークは、私たちの時代の錬金術であり、データの山を金に変えることを可能にする魔法や、神秘的なプロセスの探索である。それらは、前例のない速度と規模で新しい洞察と専門家の決定を生み出すことができる特効薬として広く見られている。

しかし、これは「深層学習」システムの作成または監査が困難であり、ほとんどの組織がそれらを効果的に使用するために必要な専門知識または「データ衛生」を欠いているという現実を無視している。

オックスフォード大学の最近の調査では、AIがすべてのタスクにおいて、わずか45年の間に50%の確率で人間を上回る可能性があることが判明しているが、必要な透明性のレベルを提供するために人間の介入が不可欠な多くの複雑な機能がある。

Ben Taylor,Rainbird(AI-powered CTO)

人間の専門知識の重要性

機械学習システムは、訓練されたデータサイエンティストのみがそれらを理解し始めることができるような複雑な確率と相関関係から洞察を導き出す。これは、機械学習は、最も、依存しているビジネスの専門家にとって閉じた本になる可能性があることを意味し、したがって、他の従業員の力を弱める効果がある。 MLシステムは、アルゴリズムが画像の見過ごされている特徴など、データ内の見えない変数から決定を導き出すかどうかを判断するのが難しいため、不合理で説明できない決定を下す傾向がある。

ニューラルネットワークは、「学習環境」のコンテキストの外側を考えることもできないため、ニューラルネットワークは訓練されたデータと同じくらい優れている。これは、データからバイアスを継承する傾向があることを意味する。 AIが以前の採用者のサンプルを分析することにより、求職者を自律的にフィルタリングするようにトレーニングされている場合、トレーニングサンプルの80%が男性だった場合、女性の候補者を拒否する可能性がある。

ニューラルネットワークは人間のロジックのルールに従わないため、偽の相関が生じやすくなる。たとえば、構造化されていないドライバーデータを分析する保険AIは、ルノーが危険なドライバーのサンプルで過大評価されたという理由だけで、ルノーの所有者の保険料を引き上げることを決定できる。

また、ニューラルネットワークは人間の介入なしに「既製」で機能するという神話もある。ディープラーニングシステムを効果的に展開するには、専門のデータサイエンティストが調達から構成、監査、データ衛生までのすべてを支援する必要がある。これにより、必要なデータサイエンスの人材が不足し、ますます需要が高まっているため、ニューラルネットワークを実装するためのコストがますます高くなる。

ニューラルネットワークは、データサイエンティストによってのみ構成およびトレーニングできるという事実は、組織内の他の誰もその仕組みを理解していないことを意味する。これにより、関連する主題の専門家がAIの意思決定を内部で監査する能力が妨げられ、規制当局や顧客にその決定を正当化する組織の能力が損なわれる。

同時に、人間の思考を機械で再現する能力により、人間の専門知識を企業または国全体に迅速に広げて拡大することが可能になる。 AIの人間の専門知識と経験を捉え、体系化するプロセスにより、マシンが人間の判断を再現できるようになるだけでなく、専門家の意思決定の背後にある秘密を他の人間の従業員に説明し、教えることができ、既存の労働力のスキルアップに役立つ。これにより、限られた人的資源がさらに拡大し、組織は需要の増加と人材不足に迅速に対応することが可能になる。

今後の展望

AIは、弁護士から詐欺防止チームまで、人間の専門家をますます支援するため、人間の「同僚」が彼らのカスタマイズと監査に関与することは、より理にかなっていると言える。唯一の答えは、人間の思考を反映する「ルールベース」のAIシステムに戻ることにより、関連する主題の専門家が構成・監査することが可能になる。

監査可能なマシンの人間の専門知識をエンコードすることにより、従業員は専門知識を「青写真」に変え、企業全体でベストプラクティスを実践できるようになり、機械と人間の両方が改善され、組織全体のパフォーマンスに一貫性がもたらされる。また、人間の専門家を解放して、より戦略的なタスクに専念できるようにする。ルールベースのアルゴリズムは、人間の才能に取って代わるのではなく増強し、仕事を奪うよりも賢く行っていくことができる。

原文

Neural networks can disempower human workers.The case for human intervention amidst rapid AI adoption

AI Business

Translating

PAGE TOP