
Soraから見るAIの倫理問題
Soraのことを無批判で「すごいすごい」と拡散している人はOpenAIの犬か?学習の元になっているデータを公開していないこと、一体誰の作品をスクレイプしてるのかもわからず、完璧な「盗作」でしかない。しかも日本語を名前に使い日本をモデルにしたり、オリエンタリズムも甚だしい
https://x.com/OpenAI/status/1758192957386342435?s=20
Introducing Sora, our text-to-video model.
— OpenAI (@OpenAI) February 15, 2024
Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. https://t.co/7j2JN27M3W
Prompt: “Beautiful, snowy… pic.twitter.com/ruTEWn87vf
コピーライトされている動画でさえも、「公開されている」ものはパブリックドメインでなくても学習用のデータに使っている、ということしかOpenAIはコメントしていない。一体どんなデータを用いて動画が生成されているのか、トレーニングデータはどこから仕入れているのか、ジャーナリストやレポーターは問い続ける必要がある。この問題が明確にされない限りは、生成物に対する大衆の信頼は得られないままだ。
There is a very real danger that the phrase 'publicly available' is used to hide copyright infringement in plain sight.
— Ed Newton-Rex (@ednewtonrex) February 15, 2024
I've seen multiple people use this phrase 'publicly available' to describe training data, and what it often in fact means is just 'available on the internet,… pic.twitter.com/4FPiEJiger
本職ではAI倫理教育の研究をしてるので言いますが、AI技術の発展を賞賛する前に「規制」の無さから生まれる危険性について考えてほしい。アートの盗作だけではなく、政府や軍による監視、ディープフェイクによるポルノ被害、フェイクニュース生成による誤情報と政治や戦争の操作、「現実世界」の歪みだ。
OpenAIはつい先月、AIツールの「軍事使用目的を禁止する」という項目を削除してる。偽情報の作成や情報戦争のためのコンテンツ生成に使用されることを見据えての行動だろう。
先日も、TumblrとWordpressは、ユーザーの許可なしにMidjourneyとOpenAIにユーザーデータを売ろうとしていることが404mediaの内部調査でわかりつつあることが発表された。このデータには削除した投稿やプライベートなコンテンツ、いわゆる18禁のものまで含まれているとのこと。
An initial scrape of data for Midjourney and OpenAI included private and deleted posts, things Tumblr doesn't have rights to. Unclear if this was turned over or was caught, with cleaning work ongoing pic.twitter.com/Rjx63qUI4e
— Jason Koebler (@jason_koebler) February 27, 2024
重要な点に着目したブログ。 「OpenAIには問題がある。変革する力を持ち、恐怖を与える。衝撃を和らげるために、ふわふわした桜の花からハイテクな渋谷の街並みまで、楽しい要素が組み込まれた日本が登場」 OpenAIはアメリカの会社。なぜSoraの発表はこんなに日本的なのか?という疑問について。
Japan is not a leader in the AI space. And OpenAI is an American company. So what's up with using a Japanese name and imagery to promote their new flagship product, Sora? https://t.co/7iPPSV0VZX
— Matt Alt (@Matt_Alt) February 16, 2024
執筆者のコメント欄にはさらに重要な指摘が並んでいる。 ・日本語の看板は不正確な文字でも世界的に気づかれにくい ・日本の街並み動画はYouTubeで人気なコンテンツでたくさん学習用のデータがある ・ナードが日本好きでターゲット層にウケる、と。
Yes @OpenAI new text-to-video is impressive but here's 5 questions that journos & the public should be asking--relentlessly.
— Critical AI : first issue out! https://read.dukeup (@CriticalAI) February 16, 2024
1. When will you release the datasets used for training this system so we know whose data was captured w/o consent & in potential copyright violation?+ pic.twitter.com/CSdGXXlLCy
もちろん、昨今の急激に進みながらもほとんどレギュレーションが行われていないAIの発展によって、偽情報、プロパガンダ、ディープフェイクなどの有害なコンテンツのために悪用されることも容易に想像できるだろう。ガードレールなしに、開発側もユーザー側も倫理観を持ってAIツールを活用できるとは到底想像できない。
This advancement in AI generated videos is going to be used to streamline the spread misinformation, propaganda, and deepfakes just like the AI generated images before them did. We have been shown that humanity can't be trusted with such powerful tools without guardrails. https://t.co/N4HnFBMvEh
— Glynn Tarrant 🏳️🌈🇺🇲🎨 (@GlynnTarrant) February 15, 2024
Midjourneyで生成したゴミ画像論文に使って、さらにピアレビューまで通ってFrontierに載った事件が今話題になった。これからはAIが規制されない限りはアカデミアにまで甚大な影響を及ぼすだろう。
I can not stress this enough, unregulated GenAI will not only inhibit but also damage future progress not only in art but academia.
— Genel Jumalon ✈️ ECCC (@GenelJumalon) February 15, 2024
Researchers published images with Generative AI. This was PUBLISHED in a peer-reviewed scientific journal. pic.twitter.com/bb0PDCf8iw
「アートとは人間であることの経験を共有するために人間が作るものであるはずなのに、アートを“コンテンツ”として希釈してしまった結果ココメロンを見る赤ちゃんのように、5秒間気を紛らわすためならなんでもいいようなモノを吐き出させなければならなくなっている」
This is the ramifications of reducing art down to "content creation". We must feed the machine to spit out whatever work that can distract us for 5 seconds like we're babies watching Cocomelon. Disgusting. Art is meant to be made by humans to share the experiences of being human. https://t.co/4C3P2yM4ug
— • 🐾Southpauz 🐾 • (@SouthpauzArt) February 16, 2024
いいなと思ったら応援しよう!
