23.10.09
生成AIを使った偽音声『ディープフェイクボイス』
ネットニュースの内側にいるプロフェッショナルが、注目のニュースを読み解きます。
今日はダイヤモンド・オンライン編集委員の神庭亮介さんにお話を伺いました。
神庭さんが注目した話題はこちらです。
【生成AIを使った偽音声『ディープフェイクボイス』】
吉田：生成AI、人工知能を使った人間の声を合成する「ディープフェイクボイス」、偽音声の悪用が広がっています。なかには、詐欺事件などに使われるケースも出てきていて、専門家は、権利の保護や悪用防止など対応の必要性を指摘しています。神庭さん、具体的にどのような問題が起きているのでしょうか？
神庭さん：最近Xで話題になりました、読売新聞の記事「コナン君に『#歌わせてみた』流行曲、実はAI偽音声」です。この記事によれば、「コナン君に歌ってもらった」というタイトルの動画が、7月にTikTokなどで拡散されたそうです。人気アニメ「名探偵コナン」の主人公の声をAIで作成して、アニメとは無関係なヒット曲を歌わせた動画ですが、実際にコナン君の声を演じているのは声優の高山みなみさんです。所属事務所は一切許可を出しておらず、「対処しようがなく、困惑している」という事務所の発言を読売新聞が伝えています。AIで音声を簡単に合成できるツールが広がったことで、こうした問題が生じています。例えば、ポルノや差別発言など実際にはあり得ない用途に勝手に声を使われてしまうリスクもあります。
ユージ：これ、法律ではどうなっているのでしょうか？
吉田：今回、AIの法律問題に詳しい福井健策弁護士に法律的な解釈について伺いました。
福井弁護士：日本の法律ではAI学習のために既存のデータや作品をコピーすることは、原則として許されています。そうでないと、AIの高度な開発というのは実際非常に難しいということが理由で、海外やEUなども一定の場合は除外されてしまうのですが、原則としてはできるなどのルールを持っていて、AI学習のためのコピー、それに基づくAI学習だけだったら、それはできるというのが原則です。ただし、「権利者の利益を不当に害する場合は除く」という但し書きがあります。ある特定の声優さんが、その「そっくりAI」を作るための学習、これを「特化型AI」などと言いますが、これだと権利者、つまり学習されてしまった声優さんの利益を不当に害してるんじゃないの？という議論は十分あり得ます。もし害しているということになると、学習・開発自体も違法だった、著作権侵害だった、正確には著作隣接権侵害だったという風に判断される可能性はあります。
吉田：ただ一方で、福井弁護士は「こういった技術は、リスクだけではなくメリットもある。法律を作るだけでなく、技術でリスクの部分を押さえ込むなど、上手くバランスを取った対応が必要だ」と、お話しされていました。
ユージ：著作権の面以外だと、どのような問題がありますか？
神庭さん：まず考えられるのは、犯罪などへの悪用です。先日、SNSの偽広告を取り上げた際にも紹介しましたが、YouTuberのHIKAKINさんは、ダイエットサプリの詐欺広告に勝手に自身の合成音声を使われたとして怒りの声をあげました。これは、TikTokの自動音声読み上げ機能を悪用したものとみられています。関連してMcAfeeが今年4月、日本や欧米など7ヵ国・18歳以上の7000人を対象に調査したところ、世界全体の10%の人が、自分自身がAI音声詐欺に遭遇したと答え、15%は知人が遭遇したと回答しています。日本だけに限定すると、3分の1の被害で低いです。ただ、逆に考えると、今後さらに増えていく可能性があるということです。
吉田：怖いですね。
神庭さん：赤の他人のオレオレ詐欺でも、多くの高齢者が騙されてしまうので、AIで高精度な声を再現されたら、ひとたまりもないということです。McAfeeによると、たったの3秒で精度85%のクローン音声をつくり出すことができます。防ぐには、家族との間で「秘密の合言葉」を決めておくことが大事です。また、電話で送金などを求められたら、一旦切って自分から掛け直すといった対策が大切です。
ユージ：声を盗まれるって、そういった懸念もありますね。他にもリスクがありますか？
神庭さん：もう1つは、政治・外交面での悪用リスクですね。今年1月にアメリカのFRBでジェローム・パウエル議長がゼレンスキー大統領のフリをしたロシア人とテレビ電話で通話して、気づかないままインフレの見通しなどを話してしまったそうです。騙したのは、いたずら電話で有名な2人組のロシア人ですが、過去にはイギリスのジョンソン元首相なども騙されています。この人たちは別にAIなどを使っていないと思いますが、それでも引っかかってしまうということは、AIを悪用すれば、さらに騙しやすくなります。今は、きな臭い紛争が起きていますから、どこかの首脳が「戦争だ」「攻め込むぞ」と言っているようなフェイク音声が公開されたら、さらなる紛争の火種が生まれかねない危険もあります。
ユージ：生成AIを使った偽音声問題、神庭さんはどう思いますか？
神庭さん：AIの音声活用自体はすごく可能性があると思っています。最近、公開されたChatGPTのAI音声による返答機能は「まるで人間」「未来のようだ」と話題になりました。こういう方向性は大歓迎で、他にも手術で声帯を失った人が過去の音声から自分の声を再生するとか、倫理面の問題がありますが、不慮の事故で亡くなった人の声を再生するといった用途も考えられます。ポジティブな可能性を引き出していくためにも悪用を防ぐ仕組みづくりや、法制度の見直しが必要になってきます。著作権法が追いついていない部分も多々ありまして、EUはAIでつくったコンテンツにそのように明記するよう義務付ける規制案を採択しましたので、そうした対策も選択肢になってくるのかなと思います。
そして、今日の #ユジコメ はこちら。
#リポビタンD TREND NET #ユジコメ��
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 9, 2023
テーマは、生成ＡIを使った偽音声『ディープフェイクボイス』 『ディープフェイクボイス』は、AIを使って特定の人物の声を高度なレベルでAIが話せるようになります。
#ワンモ
#ユジコメ��
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 9, 2023
1番の懸念点は、人の声を忠実に再現できるようになってしまった場合、詐欺の電話が増える恐れがあるということです。 例えば、自分の子供の声そっくりな人から電話がかかってきて、 助けてと言われた場合、電話だと判断材料が声しかないので信用してしまうかもしれません。
#ワンモ
#ユジコメ��
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 9, 2023
このようなAIを使った詐欺などの犯罪被害を防ぐために、EUが行っているようなコンテンツにAIを使用していると明記をすることを義務付けるなど、日本でもルール作りを早急に進める必要があると思います。
#ワンモ
