network
リポビタンD TREND NET

今、知っておくべき注目のトレンドを、ネットメディアを発信する内側の人物、現代の情報のプロフェッショナルたちが日替わりで解説します。

25.09.24

チャットGPTは『冷たくなった』と困惑の声…変化の理由はAIへの依存対策

null

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
本日は、情報社会学がご専門の学習院大学・非常勤講師、塚越健司さんです。
今朝、取り上げるテーマはこちら！


【チャットGPTは『冷たくなった』と困惑の声…変化の理由はAIへの依存対策】

吉田：朝日新聞によりますと、チャットGPTの最新版「5」に対し、一部の利用者から応対が「冷たい」と困惑の声が上がっています。塚越さん、チャットGPTの応対、冷たくなっているんですか？


塚越さん：そうですね。チャットGPTの最新版の「GPT-5」は、8月7日に公開されました。その前のモデルは1年以上使われた「GPT-4o」というものですが、ユーザーの回答に「うんうん」と寄り添ってくれることが多く、悩み相談をしていたユーザーも多いです。


ユージ：すごい人懐っこかったなという印象です。


塚越さん：そうなんですよ。


ユージ：でもGPT-5になると、フレンドリーな回答が減って、わからないことにはわからないと回答したり、健康情報のような個人情報だったり政治信条など、いわゆる「センシティブ」な情報については、理由を示してあまり答えないことがありました。これらには後で話すように理由があるのですが、これまで4oでフレンドリーに話していたユーザーにとっては、「冷たすぎる！」という批判が世界中からSNSで投稿されました。結果として、現在では4oモデルも選択すれば使えるようになっています。


吉田：「GPT-5」で応対が冷たくなったのは、何でですか？


塚越さん：開発側のオープンAI側の主張を一言でいえば、「ユーザーを守るため」です。2022年11月終わりにチャットGPT3.5が話題になってから3年近く経ちますが、生成AIではこれまで「ハルシネーション(幻覚)」、つまりAIが間違ったことを言っちゃうことが課題でした。GPT-4oは先ほど説明したように、ユーザーに優しい対応をするので、ユーザー自身がAIの間違いに気づきづらくなる、という問題があります。もう1つの問題はズバリ「AI依存」です。これもいろんなところで話題になっていますが、AIと話すのは楽しいんですよ。知識も人間より圧倒的に優秀なので、いろんなことで、悩み相談もできます。実際、電通が今年6月、チャットGPTのような対話型AIを週1回以上利用する人1,000人に調査を行ったのですが、AIに「感情を共有できる」と答えた割合は64.9％でした。親友や母親も60％台だったのですが、僅差ではあるのですが1位がAIだったんです。つまり、ある程度、生成AIを利用している人にとっては、親友や家族よりもAIと話すことに意味を見出してるということです。特に若い人の方が相談することが多くなっています。確かにAIに相談して心が軽くなったり、良い答えを出してもらうことも確実にあっていいこともあります。だからこそ先ほど言ったように、AIが間違えたり、逆にあまりに親密になってしまうことで、リアルの人間とのコミュニケーションに問題が出てしまう、という指摘もあります。特に、メンタルヘルス関連の話題はセンシティブですし、苦しんでいる人への回答は、私たち人間も対応を考えます。AIは、頭はいいし優秀ですが、人間の機微に対応するには限界もあるんじゃないかなと思います。さらに今年4月には、カリフォルニア州に住む16歳の少年が自死してしまうという痛ましい事件がありました。少年の親はチャットGPTとの会話をみると孤立感を深めて、そうした行為をGPTが手伝ったということでオープンAIを訴えた事件もあります。もちろん裁判は進行中で、まだ確定したものではありません。他にも生成AIが人々のメンタルを悪化させた、といったことが問題になるケースもあります。さらに最近は、キャラクターの姿でAIと会話できる「AIコンパニオン」というサービスもあります。有名なのは、Xが開発する「Grok」というAIがあります。金髪の少女のキャラクターがよく喋ってくれるというのがネットで話題になりました。最近出来上がったサービスになります。他にも海外でも色々な商品があります。キャラクターAIというのですが、これを話すことによってますますAI依存になって孤立感が増しちゃったり、AIのミスに気づけなくなってしまう懸念があります。このAIコンパニオンについて、アメリカだと規制についての議論もあります。


ユージ：チャットGPTの“応対の変化”と、それに対する利用者の反応。塚越さんは、どうご覧になっていますか？


塚越さん：いろいろ話してきましたが、オープンAIの「生成AIを冷たくする」という理由、何となく分かりますよね。一言でいえば「みんなのものにするための整備」と考えられますね。チャットGPTは、一週間で7億人を超える人が使うデータがあります。かなり公共的なものになっています。その意味で、みんなが安心して使えるようにするためには、「あまりにもフレンドリーになりすぎるのは、それはそれで問題かな」ということです。実際、設定をいじるとある程度フレンドリーにできたりとか、色んなことができたりするのですが、いずれにしても3年ですよね。まだ3年いってないくらいで、これだけ普及してものすごいことになっているので、色んな「整備」をしている最中ということになります。私たちも非常に有用な使い方ができますが、いつも言っていることですが、適切に恐れましょう。使えるところもありますし、恐れるところもあるので適切に恐れながら使う必要があるかなと思います。


そして、今日の #ユジコメ はこちら。





過去の #ユジコメ を音声でCHECK!!

  • X
  • Facebook
  • LINE
Top