26.09.16

AIの開発ペースの減速について

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。

情報社会学がご専門の学習院大学 非常勤講師の塚越健司さんにお話を伺います。
塚越さんに取り上げていただく話題はこちら！

『AIの開発ペース、減速は可能なのか？』

吉田：AIの開発ペースを遅らせるべき、という声が高まっています。アメリカのAI新興企業、アンソロピックのダリオ・アモデイCEOは、自身のブログで「私たちはAIモデルの能力向上のペースを遅らせなければならない」と述べ、AIの開発の減速を呼びかけました。また、オープンAIのサム・アルトマンCEOも、この主張に賛同しています。塚越さん、AIの開発ペースをめぐる、このあたりの動き、詳しく教えてください。

塚越さん：まず、オープンAIからアンソロピックに転職したAI研究者のジェイコブ・コクソンさんという27歳の非常に優秀な開発者がアンソロピックを辞めたことをXで報告しました。その中で、オープンAIもアンソロピックも人工知能開発に突き進んでいて、AIが2020年代の終わりには人類を脅かす可能性があると彼らは本気で考えていると主張しているんですね。実際に両社にいた方が言ったことなのでインパクトがありました。これに対して、アンソロピックで安全性を研究する責任者もコクソンさんの主張を支持して「個人的な見積もりとして10年以内にAIが人類を滅ぼす可能性は10％を超えている」とも話したんですね。

ユージ：え～！人類を滅ぼす！？10年以内に？

塚越さん：その可能性が10％あると指摘しているんですよね。ちょっと怖いですよね。さらにコクソンさんはいろいろと批判していて、危険性を認識していても開発競争を止められないという状況も批判しています。アンソロピックについても、「他社に任せるのは危ないから自分たちが先に開発する」という考えで、競争から抜け出せていないと指摘しています。こうした中、アンソロピックのアモデイCEOは先週末に、開発の減速を呼びかけました。これにはオープンAIのアルトマンやイーロン・マスクも賛同しています。開発をすべて止めるということではなく、AIの能力を高めるペースを落として、その分、安全対策に振り分けるということだと思います。アモデイCEOは他にも、AI開発企業の中に常駐の独立した評価者の設置だったり、企業同士の取り組みに政府が介入して調整をするとか、中国など他の国も交えて減速への枠組みの構築などを主張しています。

吉田：AIの開発ペースをめぐる今回の動き、どのような背景があるんですか？

塚越さん：“AIが人類を滅ぼす”というと実感が湧きませんが、AIの“暴走”は実際にこの数ヶ月で注目されています。7月にはオープンAIのAIエージェントが、実験環境ではありますが、自らの判断でサイバー攻撃を仕掛けて環境から外に出て、他社のシステムに不正アクセスしたり、1,200のAIエージェントが勝手に掲示板で議論して、そのうち700が実際に攻撃に参加したといった事例が報告されています。似たような事例はアンソロピックのAIでも起きています。これらはかなり特殊な環境・条件があって起きたことですが、他にもオーストラリアでは、一般ユーザーがAIにジムのキャンセル待ちの順番を早められないかと頼んだところ、無断で他人のキャンセル待ちを取り消したりと、AIが“勝手に行動”しているんですよね。つまりAIが“自律的に”考え始めると、予約を勝手に取り消したり、社会のインフラに意図しない悪影響を与える可能性があるので、AIが勝手にサイバー攻撃をしないようにさせるなど、安全対策をAI開発の軸に据えるということだと思います。

ユージ：いろいろと不安ですね…。「AIに対する懸念」と「AIの開発ペースを減速させること」。塚越さんはどうご覧になっていますか？

塚越さん：ここまで企業の話をしてきましたが、この動きに反対しているのが、アメリカ大統領のトランプさんです。トランプさんはAI競争で中国に勝つ必要があるということで、AI開発の減速に否定的です。新しいニュースでは、近くホワイトハウスでAI開発の主要なCEOたちを集めて議論するそうなんですけれども、ここで対立が始まっているのかなといったところですね。あと、個人的には、AIの減速はどこまでできるのかな？といったところですね。中国は協力自体は否定していませんが、アメリカの言い方は恐怖を煽るとも言っているので、両者でどうやって折り合いをつけるのかは、これからといったところです。冷戦時代には核兵器の軍縮が議論になりましたけれども、もしかしたら、これから世界的に『AI軍縮』というか、そういった安全性を大事にするといった話がメインになってくるかもしれませんね。ユージさんどうですか？怖いですか？

ユージ：いやぁ、正直、怖いです…。ずっと前から、むしろAIに詳しくない人たちが今みたいな「AIって怖いよね」「AIが支配しちゃうんじゃないの？」ということを言ってたと思うんですよ。これが今回、いよいよ、AIの開発に関わる中心人物が言ってるということは、やっぱり、そうなんじゃん！って…。あとは、ペースを遅らせるといっても、AIって消すかどうかのゼロか100しかないと思っていて、ペースを遅らせるってできるの？みたいな不安はありますけど、注目ですよね。

塚越さん：そうですよね。本当に遅らせることができるのか？というところですよね。