26.01.27

ディープフェイクが蔓延する時代の選挙。その現状と対策

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。

ダイヤモンド・ライフ編集長の神庭亮介さんにお話を伺います。
神庭さんに取り上げていただく話題はこちら！

『ディープフェイクが蔓延する時代の選挙。その現状と対策』

吉田：衆議院選挙は今日27日に公示され、2月8日に投開票を迎えます。選挙で注意が必要なのが、フェイク情報です。特に近年、生成AIを悪用したディープフェイクの影響が懸念されています。そこで今朝は、神庭さんに注意点や求められる対策を解説してもらいます。

ユージ：やっぱりAIによるフェイクは増えているんですか？

神庭さん：そうですね、明らかに増えていると思います。マカフィーの調査によると、日本人は1日に平均2件のディープフェイクに遭遇していると…。ディープフェイクが最も頻繁に視聴されているプラットフォームは、YouTubeの38％。以下、Xが30％、TikTokが22％と続きます。2023年には岸田元総理に卑猥なことをしゃべらせた、ニュース画面風のクソコラ動画が日テレのロゴを勝手に使って問題になりましたし、最近ですと、アメリカのホワイトハウスが、トランプ大統領がペンギンと一緒にグリーンランドに星条旗を立てようとしているAI画像をアップして、「いやいや、グリーンランドにペンギンはいないぞ！」と世界中からツッコミが入ったりもしました。ホワイトハウスが公式にそういう情報発信していること自体に唖然としますが、私が今一番言いたいのは、「AIおばあちゃんに気をつけて！」ということなんですよ。

吉田：『AIおばあちゃん』見たことあるかもしれないです。

ユージ：僕もあると思います。

神庭さん：今、動画の世界では生成AIでつくった『おばあちゃん動画』が大人気なんですよね。おばあちゃんがクマと餅つきするとか、コタツでミカンを食べ散らかすクマをおばあちゃんが叱るとか、シュールな動画がたくさん再生されているんですけれども、そういう笑える動画は何の問題もないですが、中には、架空のAIおばあちゃんが街頭インタビューでどぎつい政治批判を繰り広げて拍手喝采を浴びたり、テレビのスタジオで党派色の強いコメントをしたりする動画もけっこう拡散されているんですよね。

ユージ：なんで、“おばあちゃん”なんですかね？

神庭さん：ギャップがウケるのかなとも思うんですけれども、なんでか知らないですけど、おじいちゃんよりおばあちゃんが物申す系の動画がウケがいいようです。YouTubeにアップされているものは、チャンネル名などをちゃんと確認すれば生成AIでつくったものだとわかりますが、短尺動画のYouTubeショートやTikTokでは、AI動画という文脈が剥ぎ取られて転載されているんですよね。そうすると、中には、「こんなおばあちゃんいるんだ…」とベタに信じる人も出てきちゃうということで、みんなのうたの『コンピューターおばあちゃん』は私も大好きですけれども、選挙期間中のAIおばあちゃんの動画にはちょっと注意してほしいと思います。

ユージ：すごいことになっているんですね…。

神庭さん：そうなんですよね。NHKの『“ニュース風のフェイク動画”注意 政治家に関する偽情報も…』という記事によると、ニュース風の偽動画の中には40万回再生されているものもあるということで、日本語が不自然で、海外からの投稿が疑われるものもあるそうなんですね。怖いのは、海外から動画を通じて簡単に日本の世論誘導、世論工作ができてしまうことなんです。「嘘も100回言えば真実になる」という有名な格言がありますけれども、今のご時世だと「偽動画も100回見せれば真実になる」ということが本当に起こりえるなと思います。YouTubeは地上波のテレビ局1つ分くらいの影響力がある、という人もいます。『単純接触効果』といって、人は繰り返し接触するものに親近感や好意を感じるんですね。無党派層の投票行動を考えるにあたって、YouTubeやSNSの動向は無視できない大きな力を持っているということですね。

吉田：フェイク情報の拡散はどうやって防げばいいんでしょうか？

神庭さん：まず有権者ができることとしては、SoraなどAI生成の動画であることを示す『ウォーターマーク（電子透かし）』が付いていないかをまず確認してください。ただ、ウォーターマークを削った動画も多いですから、これだけだと万全ではありません。YouTubeであればAI動画には「改変または合成されたコンテンツ」というロゴが出ますし 、TikTokなら「クリエイターがAI生成のラベルを付けました」という文章が付きますので、そういったラベルも判断基準の一つになると思います。とはいえ、年々AI動画は精巧になってますし、ユーザーが見分けるには限界があります。ウィル・スミスがパスタを食べるAI動画も、2〜3年前のものは明らかに不自然でモンスターみたいでしたが、いまやものすごく自然で、本当にキレイにパスタを食べていますから、私も正直、フェイク動画をすぐに見抜く自信はありません。生成AIの劇的な進化に対して、法的にも技術的にもディープフェイクの拡散を防ぐ仕組みが追いついていないのは問題だと思います。

ユージ：求められる対策としてはどんなものがあるでしょうか？

神庭さん：やっぱり、プラットフォームの責任は大きいと思います。例えば、マイクロソフトは、ディープフェイクから日本の選挙を守るための取り組みとして、「政府、選挙運動、ファクトチェッカーを含む市民社会向けにセミナーを開催し、ディープフェイクを特定する方法を共有し、ディープフェイクから保護するために利用可能なツールを提供する」というふうに発信しているんですね。これ自体は素晴らしいことで、他のプラットフォームもやってほしいなと思うんですけれども、ただ、民間の自主規制頼みでは限界があるとも思います。ですから、動画サイトやSNSに対して、拡散するんだったら、ちゃんとフェイクを防ぐ仕組みを実装してくれよと、そこを義務付けるような法整備をしていかなければいけないんじゃないかなと思います。

ユージ：本当にそうですよね。僕の場合は、逆にフェイク動画ではなかったんですけど、あまりにも美しすぎて、「これはフェイク動画だな…」って思っちゃう逆転現象がたまに起こることがあるんですよ。でも、コメント欄とか見ると、実際の世界なんだ…と。本当に境界線がわかりにくくなっているんですよ！だから、見極める力を磨かなきゃいけないですね。