生成AIの進歩は日進月歩だ。インターネットの登場に匹敵する技術革新と言われるが、その長期的な影響予測については、人間の生産性を飛躍的に向上させるという楽観論から、AIが目的遂行に邪魔になる人類を滅ぼすという悲惨な結末を予想する悲観論まで、専門家の間でも意見に大きな振れ幅がある。

一方、ホワイトカラーの現場で、生成AIの利用は着実に進んでいる。国内でも海外でもAIを安心・安全に使うために法整備が急ピッチで進められていることは事実だが、便利さに飛びつくユーザーと早期のプラットフォーム拡大や収益化を目指すテック企業の速度に規制が追い付かないという情報技術産業につきものの現象が繰り返されることは想像に難くない。

このとき、今ある危機として、生成AIの驚異的な能力を底支えする「大量データの収集」という機能に着目してみよう。一見、人間では及ばない範囲を自動サーチしてくれる便利さに目がくらむが、実はここには功罪が潜んでいる。

例えば、ビジネスユースの場合、簡単なプロンプト入力で、社員が欲しい社内情報がすぐに見つかるという生成AIのユースケースがある。たしかに組織の各所にまちまちなフォーマットで散らばる情報を集めることは、人間ではとてつもない労力がかかりそうだ。なんと、便利！

しかし、たとえサーチ範囲を企業内に限ったとしても、AIによるデータ収集は「鍵のかかっていない部屋」ならばどこでも制限なしに及んでしまう。人間が収集していればアクセスするどころか、そもそも存在を知らないような情報まで区別なく集めてきてしまうのだ。この結果、例えば、知るべきではない社員に社内の機密情報がうっかり知られてしまうことも十分あり得る。

実は、この「鍵のかかっていない部屋」問題は、個人レベルでも起こり得る。例えば、生成AIを使えば、自分の過去すべてのメールやデータを収集させ、「自分らしい」文章のスタイルを学習させることが可能だ。なんと便利！

しかし、そのとき、自分でも忘れていた（忘れたかったかもしれない）記録を掘り起こされたり、場合によっては「自分の知らなかった（知りたくなかった）自分」を突き付けられたりする羽目になるかもしれない。それが思いがけず良い効果を生むこともあるだろうが、人間の忘却は一種の権利であり、だからこそ人生を苦に病みすぎることなく生きていけるのであれば、生成AIによるデータ収集は予期しない困った結果を呼ぶこともあるだろう。

規制が技術進歩に追い付いていない現在、これらの事象には自衛で臨むしか方策はない。生成AIの飽くなきデータ探索に対して「部屋に鍵をかける」ビジネスが生まれるだろう。私たちユーザーにとっては、便利さの陰には、必ず不都合が生まれると心した方が良い。