
ディープフェイク動画を秒で作れるアプリZAOが大人気から大バッシングへ
note見てる人は中国やテクノロジーに詳しいでしょうか、ならZAOは知ってますか?
2週間ほど前の8月30日にリリースされ、一瞬で超流行りました。みんなのWechatの投稿がこれになってた日がありましたね。
そして顔の入れ換え動画はWeiboでも盛り上がっていて、先日はこの動画がランキングで1位になってました。(これは他のアプリ使ってるかもですが)
ガッキーへの冒涜よねこれ笑
— りん🐼北京 (@bijingbball) September 8, 2019
昨日の深夜Weiboで一位になってました、zaoって日本でも流行ってますか? pic.twitter.com/l98QpLC6aE
↑地味で今更ですが、弾幕が人の後ろを通っていくのってすごいと思うの。
そしてZAOは流行した後にみんなからの大バッシングを受けています。。
■「ZAO」って何?初めて聞いた人のために
上にアップしてる「ガッキーの動画」を見ればイメージしやすいと思います。自分でアップしたFace画像を、提供されている素材動画の顔と取り換えた動画を手軽に作れるアプリです。素材動画はこんな感じで用意されてるのを選べばOK↓
リリースされて話題になり、アップルストアのランキングでいきなり1位になりました。
UIもシンプルで簡単に操作できるうえに、ディープフェイク技術での顔の置き換えも数秒で完了する使い勝手の良さ。
(ディープフェイクとは「ディープラーニング(deep learning)」と英語で捏造・にせものを意味する「フェイク(fake)」から作られた造語)
この技術と問題についてはみんな記事にしてるのでそちらをご覧いただきたいですが、ここまで気軽に使えるアプリは今まで無かったんじゃないかな。正直恐ろしいです、今は映画やドラマなどの動画だけですが、すぐにフェイクニュース作成用や18禁のものが登場すると思います。
■そして当局とユーザーから怒られてます
問題になっているのは「セキュリティとプライバシー」について。
まず一部のユーザーが「ZAO」の利用規約に下記の文章があることに気が付きました。
用户上传发布内容后,意味着同意授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利
↑同意すると、すべてのコンテンツはZAOが権利を保有するよ、しかも永久に消えないからよろしくねって。
これの意味するところは「作成したディープフェイク映像の権利は永久にZAOが所有し、彼らが勝手に使用することが可能になる」ということ。これを知ったユーザーから非難が殺到します。
また、9月4日の産業情報技術省の発表で、ZAOが「データ漏洩リスクなどのネットワークデータセキュリティに問題を抱えている」と指摘されました。
この非難に対してZAOは「ユーザーがデータを削除するとZAO側のデータからも削除される」と発表。また「法律、規制、および管轄当局の厳しい要件に従って、コンテンツ管理を厳格に強化するし、ユーザーの個人情報のセキュリティとデータのセキュリティを強化する」と発表。さらに9月3日にはユーザー同意書を変更しました。
でも著作権については何も触れられてないし、まだまだ批判され続けています。試しに遊びで作ってみた動画がどこかで使われてるかもしれない。
ちなみにこのZAOを作った企業は中国出会い系アプリNO1の「MOMO」をサービス提供している会社で有名です。中国出会い系アプリの今については前にnoteで紹介しました。
ディープフェイクはすごい技術ですが、使い方次第では悪用されまくりですよね。。中国では画像はFakeなものが多くて全く信用できないし、tiktokとかにアップされてる女性の動画なども別人?ってくらいに修正されてるものもたくさんあります。今後はインタビューやドキュメンタリーなんかのニセ動画も拡散されていきそうで、もはや何を信じれば良いのか。。
※ここでしか知れない中国情報を届けます、ぜひフォローしてください。
Twitterでも情報発信してますのでこちらもぜひ見てください。
(参考資料)
トップ写真は中国经济网から拝借