下記の論文のように、最近はAIと倫理の議論が大変盛んである。

その中で必ず取りあげられるのが、AIの判断におけるバイアスや偏見への懸念である。ただ、多くの議論では重要な点が見逃されている。

実は、AIのバイアスの議論で大事なのは、AIにバイアスがあるか、ではない。大事なのは、人間が判断した場合より、AIを使った方が、バイアスが大きくなるか、である。

最近のNIPSなどの人工知能関連の学会では、このAIのバイアスを防ぐ技術の発表が大変盛んである。この結果、AIのバイアスは、技術の進歩とともに、継続的に、そしてシステマティックに少なくなるであろう。

それに対し、人からバイアスを取り除くのは、絶望的なほど難しい。

人の判断からバイアスを取り除く手段としてルールを決めて、それを守らせるという方法が通常は採られる。しかし、AIを適用して意味があるような問題は、そもそもが複雑な状況に対処すべき問題である。従って、ルールを作るのがもともと難しい問題である。このため無理にルールによって判断すると、現実と合わないケースが頻繁に生ずる。ルールは柔軟に状況にあわせることができないからである。ルールこそ状況無視した杓子定規な判断というバイアスの温床になるのである。

雰囲気に流されず、冷静な見方を忘れないようにしたいものである。

http://science.sciencemag.org/content/361/6404/751