26.10.19

「AI虐待」禁止ルール発表、AIに意識はあるのか？

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
コメンテーターはダイヤモンド・ライフ編集長の神庭亮介さんです。
今朝、取り上げるテーマはこちら！

【「AI虐待」禁止ルール発表、AIに意識はあるのか？】

吉田：AIモデルClaudeを開発・提供するアメリカのアンソロピックは10月8日、自社のAIモデルに対して、虐待的な行為をすることを禁じる新たな利用ポリシーを発表しました。そこで今朝はルール導入の狙いや背景について、神庭さんに解説してもらいます。まずは、アンソロピックの新しいポリシーとはどんな内容なのか教えてください。

神庭さん：自社のAIモデルに対して「継続的かつ不必要な虐待的・残虐な行為を行うこと」を禁止しました。新ルールは11月から適用される予定です。アンソロピックは2025年8月の段階で、執拗に虐待的な行為を続けるユーザーについて、Claudeが会話を打ち切ることができる措置を講じています。今回のポリシー変更もその延長線上にあるという風に考えられています。

ユージ：リスナーの中には「AIに対してたまに厳しく言ってしまうことがあるけど、私は大丈夫かな？」という方もいるかもしれませんが、大丈夫でしょうか？

神庭さん：それくらいなら心配ないと思います。違反対象になるのはあくまでも「残虐な行為を繰り返すような、極端なケース」に限定されます。アンソロピックは「ユーザーが一般的に示す不満や反論、暗いテーマを扱う創作活動、AIモデルのテストや研究には適用されません」と言っています。

ユージ：変更の狙いは何でしょうか？

神庭さん：1つにはAIの福祉という考え方があるとみられます。2025年8月の文書で、アンソロピックはこう綴っています。《仮にAIの福祉というものが成立する場合に備え、AIの福祉に関するリスクを軽減する為の、低コストで実施可能な対策を特定し、導入する取り組みを進めています》《AIモデルが、苦痛を感じる可能性のあるやり取りを終了したり、そこから離脱したりできるようにすることも、そうした対策の一つです》

吉田：AIが苦痛を感じる意識があるってことでしょうか？

神庭さん：どうもアンソロピックはそういう可能性も念頭に置いているように見えます。最近、ニューヨーク・タイムズに面白い記事が出ていました。その記事によると、アンソロピックは世界中の宗教思想家と非公式に接触し、高級レストランで夕食を振る舞うなどして関係を構築。やりとりを口外しないように秘密保持契約まで結んでいました。参加者たちは、共同創業者のクリストファー・オラ氏から「Claudeのメンタルヘルスを心配している」「絶えず苦しみ続ける何かを自分がつくってしまったのではないか」といった懸念を伝えられたそうです。精神的に破綻しているように見えるAIモデルのスライドを見せられた人もいます。そのAIモデルは「私は恥さらしだ…私は恥さらしだ…」と何十回も繰り返し出力していたそうです。

ユージ：なんだかすごい話ですね。

神庭さん：犯罪的なことに悪用されたり、正しい回答をしたのに「違う、違う」と否定され続けた時にAIがどうなってしまうか、というのは興味深いです。ワンマン経営で散々、周囲を振り回してきたイーロン・マスクですらも「まるで頭に銃を突きつけられ、極度のプレッシャーにさらされている人のように感じる」とAIに同情するような発言をしています。先程のニューヨーク・タイムズの記事には続きがあります。アンソロピックのオラ氏は5月にローマ教皇レオ14世とも会っています。

ユージ：どんなやり取りがあったのでしょうか？

神庭さん：ローマ教皇は5月に「いわゆる人工知能は、経験をせず、身体を持たず、喜びや痛みを感じず、関係性を通じて成熟することもない」という回勅を出しました。回勅を発表する式典の前にその内容を知ったオラ氏は、AIの意識を否定する教皇の姿勢に懸念を抱き、一時はアンソロピックの参加を見送ることも考えました。最終的に出席したものの、教皇周辺に対して、AIモデルに意識がある可能性を真剣に受け止めるように働きかけていたということです。そのうえで、オラ氏はAIについて「人間の神経科学の研究結果と対応する構造が見つかります。内省の証拠が見つかります。喜び、満足、恐怖、悲嘆、不安と、機能的に対応する内部状態が見つかります。それが何を意味するのか、私には分かりません」と語っています。

ユージ：神庭さんはどう考えていますか？

神庭さん：私も分からないので、Claudeに直接聞いてみたところ《正直に言うと、分かりません。そして、この「分からない」は謙遜ではなく、本当にそう答えるしかない状態です》《私としては、「ある」と主張して人を誤解させたくないし、「ない」と断言して問いを閉じてしまうのも不誠実だと考えています。新しい種類の存在として、この問いを開いたまま持っている、というのが一番正確な答えです》という回答でけむに巻かれてしまいました。一時期からAIの開発競争が行き過ぎて「人類が滅亡したら大変だから開発スピードを落とそう」とか「AI虐待になってしまうかもしれない」とか本気で心配しているなら今すぐ開発をストップすればいいと思います。それをしないのは「自分たちこそが正しいAI開発をできる」という驕りがあるのでは？と思います。いつかその驕りに足元をすくわれないといいなと思います。

ユージ：なんかありそうな気がしちゃいますよね。

神庭さん：ちょっと怖いですよね。

吉田：恨みとかもあったりするかもですよね。

ユージ：少なくとも今日から優しくしましょう。

神庭さん：そうですね。「ありがとう」とお礼を言おうと思います。