米国のニューヨークタイムズ誌が、グーグルのユーチューブ上に意図なくアップロードされている子どもの水着や寝巻き姿の動画が、小児性愛者向けにおすすめされて表示されることを問題視しました。

少女がプールで遊ぶだけの動画が40万回再生──YouTubeの危うい「おすすめ」機能

グーグルはより良いエクスペリエンスを提供するために、各ユーザの好みを反映して動画をおすすめするシステムを構築し、日々改善してきました。

その結果、グーグルは反社会的なコンテンツであっても、それを望む人を高い精度で見つけ出し、マッチングをかけ、広告と結び付けて収益を上げてきました。

グーグルの活動に明確な悪意を見出すことはできませんが、未成年への性的搾取や犯罪行為を助長してしまう可能性があり、非常に望ましくない社会的な影響が発生していると考えざるを得ません。

莫大な利用者を抱えるプラットフォームに成長した現状においては、利便性の追求だけでは許されなくなっている段階に到達していることを、より認識した運営が迫られています。

世界を動かしているプラットフォーマーの責務として、各ユーザへのエクスペリエンスの質の向上ではなく、理想の社会像をしっかり持ち、そこに向けたシステムへと修正をかけていかなければならない段階になっていると感じています。