23.10.04
誰も傷つかないSNS『DYSTOPIA』が登場 その背景は？
ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
コメンテーターは引き続き、情報社会学がご専門の城西大学助教、塚越健司さんです。
今朝、取り上げるテーマはこちら！
【誰も傷つかない SNS『DYSTOPIA』が登場 その背景は？】
吉田：塚越さん、この「DYSTOPIA」、初めて聞いたのですが、どのようなSNSでしょうか？
塚越さん：この新しいSNSの特徴は、誹謗中傷が含まれるような不適切な文章をAIが自動で検閲して、適切な表現に変換して投稿されるというものです。なので「誰も傷つかない」ということになります。ユーザーが書いた文章をAIが、どの程度不適切かを判断し、一定の水準を超えたものは表現を変更します（詳細は秘密だが、ChatGPTを使用）。このDYSTOPIA、すでにiPhone、Android用のアプリがリリースされていて、登録利用は無料です。また、検閲ルールをある程度設定できる有料プランも準備中で、今後は検閲ルールを参加者で変え、どういう方向で言葉を変えるか、みんなで言葉を変える機能など考えたりと、一風変わったSNSという印象です。
吉田：開発した方は、どのような思いがあって、このようなSNSを作ったのですか？
塚越さん：開発したのは、匿名でインフルエンサーに質問し、それにインフルエンサーが返すことができるQ&Aサービスの「相談箱」の運営会社です。誹謗中傷を未然に防いで、「傷つけられた」だけでなく「傷つけてしまった」ということがないように作られたものです。また、DYSTOPIAは作家のジョージ・オーウェルの小説『1984年』の影響を受けています。非常に有名な作品ですが、簡単に言うと近未来の全体主義国家で、政府批判につながるような言葉を書けなくする「ニュースピーク」という言葉を、政府（ビッグブラザー）が新たにつくります。簡単に話しますと、語彙がだんだん減っていき厳しい言葉がなくなります。そのため、ニュースピークが普及することで、今まであった言葉を人々が忘れて政府批判に繋がる言葉を使えなくなります。言葉が減ると、人の思考が変わってしまう話です。このSNSをつくった人も小説に影響を受けていて、「AIによる検閲」が人々のコミュニケーションにどのような影響を及ぼすかを図る、「社会実験」的な意味も込められているとのことです。DYSTOPIAでは、ユートピアの反対で暗黒世界ということですが、必ずしもこれを使って社会が良くなるかどうかも含めての社会実験になります。確かにDYSTOPIAは、言葉の「文脈」を無視されて変換されてしまうそうです。怒っていることを伝えたくても、楽しい気持ちに変える文章に変換するのは、小説『1984年』に描かれたように、人々の心のあり方をそもそも言葉から変えてしまう、「恐ろしい効果」があるように思われます。あくまで、ユーザーは理解して利用しているので、そこはそこでポジティブにということなのかなと思います。今後の発展に注目かなと思います。
ユージ：誰も傷つかないSNSについて、塚越さんはどう受け止めていますか？
塚越さん：どういう風に使われているのか、自分の言葉を考えるきっかけになります。有名なところでは、アメリカのアプリ「ReThink」が少し前に出ました。当時13歳の女性が作成したのですが、ひどい言葉を使用してXに投稿しようとすると「本当にそれ、投稿します？」と表示が出るだけのアプリです。こうした機械から一言確認がくるだけで、「あ、よくないな」と気づくためだけのアプリになります。こうやって変換された言葉で「大丈夫？」と画面に表示されることで自分の気持ちに気付くことが大事になります。そう考えると。このアプリは、言葉を変換することでどういうコミュニケーションをしようとしていたか理解する意味では重要かなと思います。DYSTOPIA、ユージさんは使ってみたいと思いますか？
ユージ：僕の場合は、変換されると分かると逆に変なことを書きたくなりますね。そして、考えた言葉をどう変換されるのか楽しむアプリになりそうです。さらに言うと、本気で誹謗中傷しようとしている場合、DYSTOPIAにわざわざ書かないと思います。全部のSNSでこのシステムが普及すればいいのになと思います。
塚越さん：こういうアプリを利用してみて自分がどうなっていくのかチェックするきっかけになりますね。
そして、今日の #ユジコメ はこちら。
#リポビタンD TREND NET#ユジコメ①
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 4, 2023
『誰も傷つかないSNS『DYSTOPIA』が登場 その背景は？』について
特徴は、誹謗中傷が含まれた文章をAIが自動で検閲して、適切な表現に変換されて投稿されるSNSで、悪い表現があっても、そのことを連想させない、異なる言葉に置き換えられます。#ワンモ
#ユジコメ②
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 4, 2023
ふと思ったのは、誹謗中傷する人は その相手に対して傷付けたいのか、吐き出したいのか、何かの理由があるため、AIが変換をすると分かってて使用するのか？と疑問を感じました。#ワンモ
#ユジコメ③
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) October 4, 2023
誹謗中傷が減る一方で、変換されることを面白がって、変なことを投稿する人が増えていく危険性もあります。今後どういった動きで生まれてくるのか、注目していきたいと思います。#ワンモ
