network
リポビタンD TREND NET

今、知っておくべき注目のトレンドを、ネットメディアを発信する内側の人物、現代の情報のプロフェッショナルたちが日替わりで解説します。

23.11.09

岸田首相の偽動画と生成AIの規制
null

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
コメンテーターは引き続き、情報社会学がご専門の城西大学助教、塚越健司さんです。
今朝、取り上げるテーマはこちら！


「岸田首相の偽動画と生成AIの規制」

吉田：先日、生成AIを利用して作られた岸田首相の偽動画がSNS上で拡散されました。首相にそっくりな声で、卑わいな発言をさせたもので日本テレビのニュース番組のロゴなども表示されていました。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、生成AIの悪用、偽動画の対策をしていく必要が出てきました。そこで今朝は、「岸田首相の偽動画と生成AIの規制」について塚越さんに解説いただきます。


ユージ：まず、今回の岸田首相の偽動画、どんなものだったのでしょうか？


塚越さん：偽動画は（フェイク動画とも言いますが）、総理がオンライン記者会見のように、画面中央から語りかけるものになっています。日本テレビの番組ロゴだったり、番組で使われているものに似たテロップ、そして「LIVE」などの表示もあり、あたかも総理が話した内容を生中継しているようにみせる動画です。動画は、今年の夏に動画投稿サイト「ニコニコ動画」などに投稿されたもの。3分43秒のうち、30秒を抜粋したものが今月2日にXに投稿され、一気に230万回以上再生されました。ショート動画は閲覧されやすく、場合によってはTikTokやYouTubeショートにも拡散したかもしれません。


ユージ：口元の動きが変わったら分かりますが、声も変わりましたか？


塚越さん：声もできます。


ユージ：声もですか！政府や日本テレビは、どんな反応をしましたか？


塚越さん：松野官房長官は6日の記者会見で、個別の投稿についてコメントは控えるとした上で、政府情報を偽って発信することは、民主主義の基盤を傷つけることになるとのことなので、こういった投稿は控えるように呼びかけましたし日本テレビも、放送や番組ロゴを偽動画に悪用されたことは許せないとして、必要に応じてしかるべき対応をすると述べました。場合によっては、法的処置も考えているのかなと読み取れます。


吉田：今回の偽動画、どのような意図があったのでしょうか？


塚越さん：今回の偽動画を制作投稿したのは大阪府の25歳の男性です。投稿の意図は一言でいえば「注目されたかった」というもので、政治的な目的ではありません。昨今はAIに動画や音声を学習させて、簡単に偽動画を作れます。投稿者も、ネット上に公開されている総理の動画音声を学習させて、総理の声に似た合成音声でわいせつな発言をさせたということ。さらに、セリフに合うように口の動きを加工（リップシンク）させたりテロップを作ったりと、1時間ほどで動画を作ったということです。男性は問題があった後、Xに謝罪文を出して訴訟などの停止を求め、申し訳ございませんでしたと話していますが、どうなるのかは分かりません。ネット上の誹謗中傷で訴えられるという認識はある程度普及しましたが、AIを利用した動画も名誉毀損等で訴えられる可能性があります。そうした認識を持ってください。明らかに不適切な動画をリポストすることも、場合によっては処罰の対象になる可能性もあります。これも控えましょう。


ユージ：ニセ動画の見分け方は、ありますか？


塚越さん：まず、現状では特に日本語については、よく聞けばフェイクと分かるものが多いです。日本語の合成音声の精度はそこまで高くありません。あとは口元が加工していたり、「まばたき」が非常に少ないといった点もありますが、最近は見分けがつかなくなってきています。また広告領域でも、昨今は特にSNSの広告で、芸能人などを生成AIで作成して投資を呼びかけるような偽動画が出て問題になっています。こちらも注意して欲しいのですが、広告規制についても、特にウェブのプラットフォーマーは力を入れる必要があると思います。あとは何よりも、明らかに「おかしな発言」がされている動画などは、情報をすぐに信じず、調べるようにしましょう。昔ながらの方法ですが、難しい問題です。なぜかというと、最近は短い動画などで画面を見てもすぐに次にいきます。そうすると、ちょっと気になったとしても、調べる暇もなく次の動画をみてしまうので、偽動画を信じやすくなってしまいます。これはスマホアプリ全体の構造の問題でもあったりするので、なかなか規制するのが難しいです。私たちの知らない所で、私たちの脳に蓄積してしまっているところもあります。


ユージ：生成AIの規制について、今後どうなっていくでしょうか？


塚越さん：なかなか難しいですよね。今回ウクライナ戦争やイスラエルとハマスの戦争等でも、プロパガンダに生成AIが利用されています。来年のアメリカの大統領選挙でも、生成AIを利用した偽動画が懸念されています。こうったものの規制が今後のテーマになっていきます。日本は今年G7の議長国で、先月末には生成AIに関する国際的な行動規範を打ち出すことができました。最近も、有識者によって「AI戦略会議」が開かれまして、AIを作っている会社を第三者機関が認証して良いとか悪いとか第三者を入れる枠組みを作ろうという話もありました。あるいは、リスクが高い業種機関（政府や放送など）での規制強化などが議論されました。生成AIはメリットとデメリットの振れ幅が大きいので、これから議論していく必要がありますし、私たちも注目していく必要があるかなと思います。


そして、今日の #ユジコメ はこちら。






過去の #ユジコメ を音声でCHECK!!

  • X
  • Facebook
  • LINE
Top