25.10.09

イメージが本物と見分けがつかない動画になる生成AI“Sora”

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
本日は、情報社会学がご専門の学習院大学・非常勤講師、塚越健司さんです。
今朝、取り上げるテーマはこちら！

「イメージが本物と見分けがつかない動画になる生成AI“Sora”」

吉田：アメリカのOpenAIが、9月30日に新たな生成AI動画アプリ「Sora」を、アメリカなどで公開しました。利用者が文章で指示を与えれば、まるで本物ような動画を簡単に生成し、拡散することができます。

ユージ：塚越さん、まず動画生成AI「Sora」どんなことができるんですか？

塚越さん：OpenAIは去年2月にSoraという動画生成AIを発表しました。一般公開を昨年の12月にしています。今回は、その進化版である「Sora2」を発表して、はじめてアプリにもしました。ただ、名前は「Sora」となっています。事実上は進化版の2になっています。やはりテキストを書くだけで動画を生成できるのですが、レベルがすごすぎです。あまりにもレベルが高くなってきて自然になっているので世の中に出回る動画が生成されたものか現実なのか、見分けがつかない。実際無理です。そういうレベルになりました。セリフや環境音も生成できる他、特徴として「カメオ機能」というものがあります。これはユーザー自身の顔や声をAIに読み込ませて、動画の中に登場させることができるものです。もちろん、他人が勝手に自分の顔を使えないようにする機能があるのですが、OpenAIのサム・アルトマンCEOは、自分のカメオ機能を誰でも使える「公開設定」にしています。すると、ネット上ではアルトマンCEOの顔を自由に使えるので、アルトマンCEOの顔を使ったフェイク動画を沢山使って拡散しています。アルトマンCEOもわりと肯定的に受け止めていて、自らの「ミーム化」、コラージュ大喜利みたいなものを自らさせて推し進めてるそういう感じです。

吉田：では、著作権に関して、どんな問題があったのでしょうか？

塚越さん：一番問題になっています。Sora2が発表されると、ドラゴンボールの孫悟空やポケモンのピカチュウ、エヴァやとなりのトトロ、鬼滅の刃など、日本アニメのキャラをつかった動画が、本物と同じ、ドラゴンボールの1シーン、テレビアニメと同じようなものが作れたんですね。「当然、これ大丈夫？」と思いますよね。これについてOpenAIは、そもそも権利者がSoraでのキャラの使用を拒否しない限り、誰でも著作物が利用できる「オプトアウト」という方式を採用していました。簡単にいうと、権利者が使わないで！ダメ！と申請するまでは使えちゃうというものです。「それはないんじゃないの？」ということで批判が殺到しました。

ユージ：「使っていいですか？」と聞いて、使用するのが普通ですからね。

塚越さん：一方で、OpenAIはディズニーやマーベルに対しては事前に接触していたようで、最初からディズニー関連の動画は生成できなようにしているといった報道があり、実際にはつくれません。確かに日本のコンテンツは二次創作、つまり同人誌など、ユーザーがある程度キャラクターを自由に使って発展してきた歴史はありますが、とはいえ何も知らせずに日本のコンテンツ動画をどんどん生成するのはおかしいよねということで、日本のアニメ制作会社などから批判がありました。一部報道だと、OpenAIは事前に「オプトアウト」の手続きを通知していたわけですが、英語だと見落としもあるでしょうし、日本の反発を見る限り、かなり雑な対応だったのだと思います。もちろんアメリカでもそういう批判はあります。

ユージ：先ほども言いましたが、「本当は使っていいですか？」「いいですよ」があってから使うのに、使わないと言わないと下げるのは丁寧に日本の企業にも教えて欲しいなと思います。

塚越さん：そうですね。だからこうした批判も受けて、その後アルトマンCEOは著作権に配慮する方針を表明。先ほど言ったOKが出されてから使う「オプトイン」に近い管理機能を提供すると表明しました。また、OKです。使ってもいいですよ。と言った権利者には、動画生成AIから生まれる収益の一部を分配する方針も示しました。これ、私は個人的に初期のYouTubeに近いやり方だと思います。YouTubeって初期は違法の動画だらけでした。これ、どうなの？と言われて、その後、収益の分配を前提に著作権のアップロードを権利者に削除するかどうか収益を認めるかというのを今でもコンテンツのやり方ありますよね。あれを、YouTubeは作りました。一度楽しさをユーザーが覚えちゃうと、ユーザーが勝手に利用してしまうので、後に引けずに権利者が半ば同意する。YouTubeもそういうものだったのですが、アルトマンCEOもそういうデータを使って人気にさせてから、まあ使うしかないんじゃないという風に権利者に言わせる方式ではないのかと。それは、悪い意味で策士だなと思いました。

吉田：フェイク動画対策も気になるところですね。

塚越さん：これ、つくったものは、ウォーターマーク(透かし)をつけるという機能があります。外して作った人もいます。こういう動画やフェイクの問題はSNSのいたちごっこですよね。これはずっと続くと思います。

ユージ：技術の進化の速さに法整備が追いついてない状況だと思いますが、これどう思いますか？

塚越さん：一昨日、平デジタル大臣が、OpenAIに自主的な対応をしてくださいと言っています。ダメだったら、日本としても対応を考えますと言っています。日本は、AIの学習をしやすい法律ではあるのですが、AIがつくったものが著作権に触れるならアウトということになっているのでここは対応して欲しいです。やっぱりアメリカはスピードが速くつくってくるので、日本としても対応を考えながら上手いこと着地をする、というのが1番大事かなと思います。