【FacebookとInstagramがダウン】人工知能がヒトの差別から脱却する日。【アプリAI最新論文】

ソーシャルアプリが秘める衝撃

2019年8月4日、米Facebook社の管理するソーシャルメディアアプリ「Facebook」および同子会社の写真投稿ソーシャルメディアアプリ「Instagram」がダウンした。
Facebookは速やかに復旧を完了し、ユーザーへの不便を謝罪した。

さらに1ヶ月前、Facebook社とInstagram社の停電により、両者の2つのアプリは思いもよらないトラブルに見舞われた。
ユーザーが投稿した写真に付随した「通常は明らかにされない情報」が、別ユーザーの目に見える形となっていたのだという。

Facebookなどソーシャルメディアアプリの使い方は通常、自分のみ閲覧できる自分の情報と「他人も閲覧することのできる自分の情報」を仕分けて管理することが可能だ。
その前提が壊れたとき、人は、他人が心の底で何を考えていたのかを知る。

しかし、トラブルが起こる前から民衆の心の露出ともいうべき事態がテクノロジーの発達によってごく自然に発生していることをご存知だろうか?

Facebookには、個人の大量のデータが管理者側に委ねられている。
そしてFacebookは、当初の規約通りそれらのデータをAIに活用している。
しかしそれは、人類がこれまで持ってきた認知バイアス(=差別)を露見することとなった。
例えば、投稿画像から人間を検出するシステムは、その検出精度において対象の人種によって有意な差が出た。
また「ごくありえそうな話」をでっちあげた「フェイクニュース」をAIは見逃してしまうことも分かった。フェイクニュースを検出するために生身の人間からフィードバックを得る方式をとったために、見事に「人間の盲点」を映し出す結果となったのだ。

このような事態に対してユーザーは、ただ黙って次の展開を待つべきなのだろうか?それは違うと思うかもしれない。だが何の準備もなしにシステムの是非について議論を行えば、危険な要素を取り除くために開発の中断を願う声が多く出てくることは目に見えている。

以下では、ソーシャルメディアの次の一手を担う人工知能の技術革新、とりわけ「差別」や「バイアス」に関わる最新の発表を紹介する。それを読むと、

・人工知能時代の「統治」(差別の是正)のための最先端技術

・機械学習と差別との結びつき

を知ることができる。

「ソーシャルメディアにおける教師なし学習」についての発表の紹介

...
この記事の全文は会員限定です。
こちらより会員登録

さらなる高みへ

Facebook社をはじめとするソーシャルメディアアプリの制作会社が目指しているのは、人々の豊かな生活と、そのためのテクノロジー開発だ。

その過程で差別やバイアスに関わる問題が生じたとしても、それは一つの組織のみに起こる課題ではない。その時解決しなければ繰り返し起こりうる問題だ。

我々にできるのは、巨大なインフラに対する責任を問いただすだけでなく、技術の課題を少しでもフォローし、より建設的な議論をすることではないだろうか。

Translating

PAGE TOP