24.09.02
ディープフェイクが日本で急増、3つの危険
ネットニュースの内側にいるプロフェッショナルが、注目のニュースを読み解きます。
今日はダイヤモンド・ライフ副編集長の神庭亮介さんにお話を伺いました。神庭さんが注目した話題はこちらです。
「ディープフェイクが日本で急増、3つの危険」
吉田：生成AIを利用して偽の動画などを作る「ディープフェイク」による詐欺被害のリスクが日本でも急激に高まっています。イギリスの本人確認サービス「Sumsub」の調査によると、今年1〜3月に日本で検出されたディープフェイクは、前年の同時期の2.4倍にのぼるということです。改めて、ディープフェイクの急増でどんな被害、トラブルが懸念されるのか教えてください。
神庭さん：大きく3つの危険があります。1つ目が「性的な悪用」の懸念です。韓国では、社会問題になっています。ハンギョレ新聞や朝鮮日報などの報道によると、匿名性の高い通信アプリ「Telegram」上に、22万人以上が参加するチャンネルが運営されており、女性の写真を投稿すると裸の写真などのディープフェイクが生成される仕組みになっています。今年に入ってから、小学校・中学校・高校の児童・生徒や、教員計196人がディープフェイクによる性犯罪の被害に遭っています。被害者だけでなく、加害者側にも未成年が多く含まれています。生成AIが身近になり「犯罪」という意識もなく使っているのかもしれません。看護師や女性軍人らのチャンネルもあり、軍の内部関係者が関与している可能性も指摘されています。
吉田：これはひどいですね。いつの間にか巻き込まれている可能性がありますね。
神庭さん：女性からすると、勝手に写真を使われることは恐怖でしかないと思います。K-POPのアーティストも被害に遭っています。TWICEらが所属するJYPエンターテインメントも「明らかな法律違反で、強力な法的措置をとる」という声明を出しています。ユン・ソンニョル大統領はディープフェイク性犯罪の撲滅を指示しました。中央日報によれば、韓国政府はディープフェイクの制作・流通を厳罰化し、所持や購入だけでなく「視聴するだけ」でも処罰する方針だそうです。「見るだけ」で処罰というのはちょっとやり過ぎですが、それくらい危機感を持っていると思います。そのうち日本でも大問題になるはずで、SNSに不用意に子どもの写真をアップしないなどの自衛策が重要になってきそうです。
ユージ：他人事ではないですね。
神庭さん：本当そうですよね。ディープフェイクの危険性、2つ目が「詐欺への悪用」です。読売新聞の《生成AI偽画像で「本人なりすまし」、口座開設デジタル顔認証すり抜け》という記事に詳しい手口が書かれているのですが、(eKYC／電子本人確認)という仕組みがあって、銀行口座や証券口座の開設、クレジットカードの発行、住宅ローンの契約などに使われています。eKYCというのは、運転免許証などの本人確認書類と、本人の写真・映像を照合することで、オンラインで本人確認を完結する認証システムです。生成AIを使うと、偽造した身分証明書や盗むなど不正に入手した身分証明書の写真から、本人の偽画像・偽映像が作成できます。
吉田：怖いですね。
神庭さん：元々が1つの写真から生成したものなので当たり前と言えば当たり前ですが、身分証明書とディープフェイクの2つを照合すると「一致する」と判断され、eKYCを突破されます。読売新聞によると、日立製作所の研究開発施設で6月にこんな実験をしたそうです。免許証の顔写真からディープフェイク映像を生成し、モニターに映し出す。そこに、eKYC認証を搭載を搭載したスマホを近づけると、スマホに「本人確認できました」というメッセージが表示されて、eKYCがすり抜けられてしまいました。イタチごっこになりますが、今後は認証システムの方をより厳格化する、ディープフェイクを見抜けるようにパワーアップするといった対応が必要になります。よく芸能人の方が運転免許証の写真などをSNSで公開していますが、今後は控えた方が無難かもしれません。
ユージ：そういった写真もある種の情報・データになる。悪用されるかもしれないということですね。
神庭さん：そしてディープフェイク、3つ目の危険は、「選挙への悪用」です。今年は世界的な選挙イヤー。Sumsubが5月末に発表した調査では、今年選挙が行われる国でもディープフェイクが増えており、1〜3月の数字を前年と比較すると、アメリカで3倍、インドで2.8倍、韓国で16倍など軒並み急増しています。11月にはアメリカ大統領選もあります。ディープフェイクによる誤情報が有権者の判断を誤らせ、国・あるいは世界を動かしてしまうことが懸念されています。Xでは、ドナルド・トランプ前大統領やカマラ・ハリス副大統領が武装強盗して逮捕されるディープフェイク動画が拡散されています。この動画自体は風刺的なもので、シチュエーション的に絶対あり得ないとされていますが、かなりクオリティーが高く、もっとリアルな状況だったら信じてしまう人も出てくるかもしれません。敵対する国が、特定の候補を有利にする目的でディープフェイク動画を流して、選挙戦に介入するリスクも注意していく必要があると思います。
そして、今日の #ユジコメ はこちら。
#リポビタンDTREND NET #ユジコメ ①
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) September 2, 2024
今朝のテーマは「#ディープフェイク が日本で急増、3つの危険 」
生成AIの技術はすごい発達していて、質が高くなっています。
また、写真だけではなく動画でも作れるようになりました。
技術の発達によってディープフェイクの画像や動画を、…
#ユジコメ ②
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) September 2, 2024
僕が特に気になっているのは、公的契約で顔写真などを
悪用されて詐欺被害に遭うリスクがあり、すでに被害も出ているということです。
そのためすぐに対策する必要があります。#ワンモ
#ユジコメ ③
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) September 2, 2024
また、SNSでの誹謗中傷も、投稿者だけではなく、
「いいね」や「拡散」をした人も同じ罪を問われることがあるので、
同じようにディープフェイクを悪用をしたり、
悪用されたディープフェイクの投稿を気軽に拡散しないように、…
#ユジコメ ④
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) September 2, 2024
生成AIの発達や技術は正しく扱えば、有効に使えます。
技術の進化を止めないためにも、悪用をしないで、
拡散にも責任を持つ必要があるのではないでしょうか？#ワンモ
