先日、ある音声配信サービスを聞いていたときに、流れてきた広告が少し不自然な感じがした。読み上げられている日本語には特に不思議な点はないものの、音声広告であればもう少し抑揚や話し方のスピードを変えるのではないかと思うと、微妙に平板に感じたのである。

実際のところ、それが本当にそうなのかどうかは分からないが、直感的に「ひょっとしてこれはAIで自動的に作成されているのではないか」と思った。

現在のAI、特に生成AIと呼ばれるものの目覚ましい進歩を考えると、広告を流す側が課題とすることなどをインプットし、それに応じて条件を設定してふさわしい原稿、つまりコピーを考え、規定の長さに納めて音声として読み上げるという工程までは、さほど難なくできてしまうことだろう。

そんなことを考えていたときに報道されたのが、電通がラジオ広告にAIを導入するというニュースである。

音声配信サービスの広告とは異なり、既存のラジオ局の広告であれば、音声配信サービスなどよりもはるかに厳しい「考査」と呼ばれるCMの事前チェックがある。そこで、例えば反社会的な内容ではないか、法律に抵触しないか、さらにはそのラジオ局のポリシーに違反しないか等といったチェックを経て放送されるため、ずっと厳格な制作手続きを踏むことになると思われるし、そこに人手が入るであろうことも想像に難くない。

しかし、制作過程においてはAIの力を使うことでスピードアップとコストダウンを図ることができるであろうことは誰にでも想像がつくことである。

一方、そのスピードアップが図られる分、これまで人間が行ってきた作業の多くがAIに取って代わられる可能性の第一歩となるという意味では、ラジオ制作の関係者にとっては心穏やかではないニュースであったのではないかと思う。かつてラジオCM制作に関わった時期があるだけに、その職人芸的な価値を理解しているつもりではあるが、メディアとしての影響力が相対的に弱いと考えられているラジオでは、広告を流すためにかかるコストを下げ、スピードをアップさせるという要請があることもまた理解できるところである。

こうしたことは「目に見えるAIの怖さ」といえるが、受け手の立場からすると、今後流されるラジオCMが人間によって作られたものなのか、それともAIで作られたものなのかが判然としなくなってくることに、ある種の怖さを感じる。

少し極端なことを言えば、一定の条件を入力し、予算がある限り、AIが自動でCMを作りそれを流すといったことも技術的には考えられなくはない。そしてそれが広告だけでなく、さまざまな論説やニュース原稿などにもAIが自動的に介在するという未来を想像することもさほど難しくない。そうなると、その内容がAIによって作られたものなのかどうかを判別することも非常に難しいだろう。

そこに悪意のある介入が起きれば、意図しないような広告や論説などが広く放送される可能性も考えられる。

８月には、NHKの国際放送において、中国人スタッフが本来の原稿にはない内容を中国語で放送するという大きな問題が発生した。

これは人間が介在した問題であるが、例えばAIに何らかの形で介入し、ある国のプロパガンダを意図的に織り交ぜるといったことも今後考えられなくはない。これまでであれば、そうした意図を持つ人間を育成したり脅したりしたうえで、その人物を組織に送り込み、目的のポジションに配置させるという非常に手間と時間のかかるプロセスを経る必要があったが、今後はコンピューターウイルス感染のように、比較的簡単にこうした問題が引き起こされる可能性があるということだ。

まだ現時点では、画像のない音声コンテンツや文字のコンテンツに限定された危険性かもしれないが、今後のAIの進化により、写真や動画といったメディアにも同様の危険が及ぶ可能性は十分に考えられる。

特に、多くのニュースメディアのコンテンツは、発信した記者の名前が表に出ない匿名のコンテンツが通例であるため、こうしたAIによるコンテンツ生成の危うさがますます助長されるのではないだろうか。

もちろん、署名記事や執筆者が明らかな記事であっても、いわゆる「なりすまし」が発生する可能性はあるが、それでもまだ本人による訂正や告発が可能であることを考えれば、匿名のコンテンツに比べれば危険性は多少は軽減されるのかもしれない。

いずれにせよ、今後AIが生成するコンテンツが増えることは間違いなく、それが単純な経済的動機でPVを稼いで金を稼ぐ目的だけのものであればまだしも、思想や信条をコントロールしたり、政治的な影響を与えようとする意図がある場合、その影響は極めて深刻なものとなる。

見えないところですでにこうした問題が発生しているのかもしれないが、少なくともそうした問題が発生する可能性があることを、私たちは認識すべき時に来ている。