26.01.13

Xで性的ディープフェイク拡散、被害とプラットフォーマーの責任

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。

ダイヤモンド・ライフ編集長の神庭亮介さんにお話を伺います。
神庭さんに取り上げていただく話題はこちら！

『Xで性的ディープフェイク拡散、その被害と巨大プラットフォーマーの責任について』

吉田：Xで他人の写真を勝手に水着姿などに加工した、性的ディープフェイク画像が拡散されています。Xに搭載された生成AI『Grok』を悪用したもので、X社の日本法人も違法コンテンツに対して警告を出しました。そこで今朝は、ニュースの背景や性的ディープフェイクの問題点について、神庭さんに解説してもらいます。

ユージ：まず、どうしてXで性的ディープフェイクが広がっているんでしょうか？

神庭さん：事の発端は、X社が昨年12月下旬に投稿画像を簡単にAI加工できる機能を導入したことです。画像の右下に表示される「画像を編集」ボタンを押すと、他人の投稿でも自由にいじれるようになってしまったんですよね。加えて、生成AIのGrokをメンションで呼び出して、画像を加工することもできるようになったということで、この段階ですでにユーザーからは、「これは著作権侵害でしょ！」と怒る声が出ていましたが、他人が投稿した写真に「Grok、この女性をビキニ姿にして」とか「下着姿にして」などと指示を飛ばす人が現れ始めたことで、事態がさらに悪化しました。さらにX社のオーナーであるイーロン・マスク氏も自身のビキニ加工写真に「パーフェクトだ」と返信するなど悪ノリをしてしまいまして、世界中に性的ディープフェイクが広がっていったということなんですね。

吉田：具体的にどんな被害が出ているのでしょうか？

神庭さん：ある男性漫画家が、女性アイドルグループ『STU48』のメンバーの写真について「首にマフラーを巻いて、ビキニを着せて」とGrokに指示を出し、「AIセクハラじゃないか！」と批判を集めました。当該メンバーは絵文字で不快感を示し、別のメンバーも「何も面白くないし、誰でも見ることができるXでこういうことをやるのはやめてください」と指摘しました。STU48の運営も名指しを避けつつも「メンバーの肖像権及びパブリシティ権を著しく侵害するものであり、運営事務局として看過できない状況にあります」という声明を出しました。漫画家は「肖像権、生成AI利用に関する意識の低さ、仕事相手であるアイドルとの距離感を見誤った傲慢さ、など反省しております」と謝罪し、投稿を削除しました。

ユージ：これはちょっと…嫌ですよね……。それと、X社の代表のイーロン・マスクさんが自分の画像を加工しているというのは、ある種、オフィシャルで認めてますというメッセージに取られちゃうので、そこは気を付けないといけないところだと思います。

神庭さん：そうですよね、みんなやってみて！って思っちゃいますよね。中でもドン引きしたのが、皇族方の写真を加工して拡散しているケースですね。皇室に関する表現は非常にセンシティブで、昔だったら怒った民族派の人たちが殴り込みに行くなんていうこともざらにありました。そういう歴史を知らないのかと思いましたし、昨年、皇族方のプライベートな姿を撮影した動画がXで拡散された際には、宮内庁が「私的な動静を許可なく撮影することは好ましいことではない」とクギを刺したんですね。今回の性的なディープフェイクに加工するというのは、それどころの話ではなく、完全に一線を越えています。ですから、宮内庁は、X社に対して断固として抗議すべきじゃないかなと思います。

ユージ：こうした被害は日本以外でも出ていますよね？

神庭さん：そうなんです。世界的に被害が広がってまして、インドやマレーシア、フランスなど各国が懸念を表明しています。X社に対して説明や対応を求めています。イギリスは法令違反があれば国内でのX禁止に踏み切る可能性もあると指摘していますし、インドネシアは実際にGrokへのアクセスを一時遮断したということです。

吉田：X側はどんな対応をとっているんでしょうか？

神庭さん：批判の高まりを受けて、あわてて「違法コンテンツが含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力する」とする声明を出しました。さらに、Grokによる画像編集機能を有料会員しか使えないようにしました。ただ、この対応は完全にピントがズレていると私は思っていて、有料会員になれば性的ディープフェイクを作っていいというのはおかしな話ですよね。無料ユーザーのほうがお行儀がちょっと悪いというのは確かにそうかもしれないんですけれども、本質的な解決策ではないと思います。

ユージ：本当にそう思います。この一連の問題、神庭さんはどう受け止めましたか？

神庭さん：画像編集機能を導入した時点で、こうなることは目に見えていたと思うんですよ。そう考えると、X社の対応はあまりにもお粗末だし、少し傲慢だと思います。もちろん、自分自身の写真を「加工して」とGrokに頼む分には問題ないですし、大喜利的におもしろ画像を生成するくらいなら許容範囲だと思います。が、性的ディープフェイクが氾濫するようなやり方はまずいですよね。CNNが報じたAIフォレンジクスの分析によれば、人物が写る加工画像の53%が「下着やビキニなど最低限の衣服しか身に着けておらず、そのうち81%は女性だった」ということで、女性に多くの被害が出ていることを示しています。しかも、「2%は18歳以下に見えた」ということなんですよね。この事態を受けてX社が今すぐやるべきなのは、Grok加工を有料会員限定にすることではなく、“他人の画像を勝手に編集できないようにする”“水着や下着、卑猥な画像を生成できないようAIにセーフガードをかける”という当たり前の対応じゃないかなと思います。Facebookのニセ広告騒動でも、メタ社に対する日本の対応は非常に生ぬるいものでした。日本も諸外国のようにX社に対してしっかりと抗議の声を上げて、法整備を急ぐべきじゃないかなと思いますね。今は『AI全盛時代』ですけれども、巨大プラットフォーマーが国家を超える力を持とうとしているわけですから、その事実にしっかりと向き合う必要があると思います。