AIとバイアス

下記の論文のように、最近はAIと倫理の議論が大変盛んである。

その中で必ず取りあげられるのが、AIの判断におけるバイアスや偏見への懸念である。ただ、多くの議論では重要な点が見逃されている。

実は、AIのバイアスの議論で大事なのは、AIにバイアスがあるか、ではない。大事なのは、人間が判断した場合より、AIを使った方が、バイアスが大きくなるか、である。

最近のNIPSなどの人工知能関連の学会では、このAIのバイアスを防ぐ技術の発表が大変盛んである。この結果、AIのバイアスは、技術の進歩とともに、継続的に、そしてシステマティックに少なくなるであろう。

それに対し、人からバイアスを取り除くのは、絶望的なほど難しい。

人の判断からバイアスを取り除く手段としてルールを決めて、それを守らせるという方法が通常は採られる。しかし、AIを適用して意味があるような問題は、そもそもが複雑な状況に対処すべき問題である。従って、ルールを作るのがもともと難しい問題である。このため無理にルールによって判断すると、現実と合わないケースが頻繁に生ずる。ルールは柔軟に状況にあわせることができないからである。ルールこそ状況無視した杓子定規な判断というバイアスの温床になるのである。

雰囲気に流されず、冷静な見方を忘れないようにしたいものである。

http://science.sciencemag.org/content/361/6404/751

この記事が気に入ったら、サポートをしてみませんか?
気軽にクリエイターの支援と、記事のオススメができます!
スキをしていただきありがとうございます!
1
AIと人間社会行動や幸せについて研究しています。これがAIと合わさって大きなな変化をもたらすと考えています。著書『データの見えざる手:ウエアラブルセンサが明かす人間・組織・社会の法則』http://amzn.to/1mgfZHF http://bit.ly/Unmhs6

こちらでもピックアップされています

日経COMEMO
日経COMEMO
  • 7315本

日経COMEMOは、様々な分野から厳選した新しい時代のリーダーたちが、社会に思うこと、専門領域の知見などを投稿するサービスです。 【noteで投稿されている方へ】 #COMEMOがついた投稿を日々COMEMOスタッフが巡回し、COMEMOマガジンや日経電子版でご紹介させていただきます。「書けば、つながる」をスローガンに、より多くのビジネスパーソンが発信し、つながり、ビジネスシーンを活性化する世界を創っていきたいと思います。 https://bit.ly/2EbuxaF

コメントを投稿するには、 ログイン または 会員登録 をする必要があります。