26.06.03

“すぐ通報”を促すChatGPTの仕組みからAIリテラシーを考える

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。

情報社会学がご専門の学習院大学 非常勤講師の塚越健司さんにお話を伺います。
塚越さんに取り上げていただく話題はこちら！

『“すぐ通報”を促すChatGPTの仕組み「ガードレール」からAIリテラシーを考える』

吉田：プロ野球・巨人の前監督、阿部慎之助さんの退任をめぐる騒動で、『ChatGPT』の利用が注目されました。阿部さんの長女の手紙によりますと、長女はChatGPTに相談した後、児童相談所に連絡したということです。これについて、日経新聞は、ChatGPTは利用者に早めの通報を促す仕組み『ガードレール』を採用している、と伝えています。塚越さん、この『ガードレール』について詳しく教えてください。

塚越さん：今回は、阿部さんの娘さんの対応そのものではなく、AIに着目してみたいと思います。まず、ChatGPTをはじめとした対話型AIは、暴力や自死に関する話題が出てくると、早い段階で専門家がいる窓口などに誘導するように設計されています。他にも差別発言を抑制するなど、AIの危険な利用を防ぐ安全対策全般が『ガードレール』と呼ばれる仕組みで、車道に設置されているあのガードレールとコンセプトは同じです。このガードレールですが、やはり、AIは万能ではないということを前提に、人命に関わるような相談があった場合に対応が遅れるのを避けるために作られているというところです。今回の件でいうと、対話型AIの対応としては一般的なものでして、競合のGeminiやClaudeといった主要なAI各社も同じような安全対策を導入しています。他にも似たものとして、Google検索やSNSで、例えば、自死などに関するワードを検索すると、画面のトップに窓口の連絡先なども表示されるようになっています。

吉田：『ガードレール』は、どのような背景があって採用されたんでしょうか？

塚越さん：背景としては、人間とAIが対話する中で、ユーザーの利用実態を踏まえて企業が判断してきたという経緯があります。というのも、まずChatGPTのような対話型AIが生まれてから、AIに孤立感や家庭問題、いじめなどいろんな問題を相談してカウンセラーのように利用する人は世界的に増えています。一方で、AIの判断で取り返しのつかない問題が生じてしまうことも問題になっているんですね。例えば、ChatGPTを運営するOpenAIに対しては、自ら命を絶った未成年者の親がChatGPTとの会話によって子どもが自死の方向に促されたといった内容の訴えを行っており、現在もアメリカで裁判が行われています。決着はまだしていませんが、企業にとっては、やはりセンシティブな相談をどう扱うかというのが大きな社会的・法的な責任問題になります。なので、企業としても一定のセンシティブな相談については、AIの判断よりも専門家や公的機関につなぐ方向に設計が変わってきています。また、企業としては、悪い言い方にはなりますが、一定のことはしたという説明ができて、責任を負わないためにも最終判断は専門家につなげることにしようとするというわけです。ちなみに今年の2月にカナダで銃乱射事件が起きたのですが、容疑者がChatGPTと事件に関わる内容の会話をしていたのに当局に通報しなかったとして、OpenAIが遺族に訴えられているんですね。これも裁判は進行中ですが、OpenAIはこうした事例を受けて基準を見直し、他者に危害を加える著しいリスクを把握した場合は、専門チームに情報が回り、問題があると人間が判断した場合は、OpenAIが自ら警察等と情報共有する可能性もあると説明しています。ただし、これは他者への危害が懸念される場合だけで、自傷行為などのケースではプライバシーの観点から、通報ではなく専門機関への誘導にとどめるということですので、特定のワードを入れたらすぐに通報されるというわけではありません。チャットの内容がむやみに外部に出るのはセキュリティ的にいろいろ課題があるんですけれども、他人に害をなす緊急の場合の例外的な処置ということになると思います。

ユージ：ChatGPTの『ガードレール』。塚越さんは、どうご覧になっていますか？

塚越さん：私は『ガードレール』は必要だと思います。というのも、若者を中心にAIに相談する人は増えていて、去年の電通の調査によると、よく使っている人の中には、AIに感情を共有できると答えた人は6割を超えて、母親や親友に並ぶ存在になっています。なので、皆さんがたくさん相談をするわけですが、AIは専門家の資格を持っていないので、対応を間違えてしまうこともあります。あと、AIへの相談もいいんですけど、やはり、身近な人にも相談できる、相談をいくつか分散できるようにしておくことが、大人か子どもかに関わらず、現在のAIリテラシーなのかなというところです。なので、そのへんも人間を使っていくということですよね。あとはですね、AIは専門家への適切な『繋ぎ手』になることが期待されています。そこから、今度はつながった先の人間の組織が適切に判断する必要があり、そこにこそ人間の判断と責任が求められているのではないかなと思います。

ユージ：僕もこの『ガードレール』機能はいいと思いました。先ほどもおっしゃっていた、誰かに危害を加える可能性があるときは、専門家の判断によって行動を変える、それ以外は促すということでしたけど、これがあるだけで全然違うのかなと思います。僕はこれはあっていい機能だと思いましたね。