26.05.04

クロード・ミュトス、何がそんなにヤバイのか？

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。

ダイヤモンド・ライフ編集長の神庭亮介さんにお話を伺います。
神庭さんに取り上げていただく話題はこちら！

『クロード・ミュトス、何がそんなにヤバイのか？』

吉田：アメリカのアンソロピック社が開発した最新AI『クロード・ミュトス』をめぐって、木原稔官房長官は先月28日、サイバー攻撃への悪用に懸念を表明。「政府全体で取り組みの具体化を早急に進めていく」と述べました。そこで今朝は“クロード・ミュトスの性能やサイバー・セキュリティーへの影響”について、神庭さんに解説してもらいます。まずは、『クロード・ミュトス』はどんなAIなのか教えてください。

神庭さん：アンソロピックの最新AIで、OSやブラウザ、ソフトウェアのバグや脆弱性、セキュリティーホールを見つける性能が非常に高く、その道のプロが27年かけて見つけられなかった脆弱性をたった数時間で発見したとか、500万回テストを繰り返してもわからなかった欠陥を指摘したと報じられています。

吉田：すごいAIというのはわかるんですが、なんで脅威として警戒されているんですか？

神庭さん：『矛盾』という故事成語がありますけれども、最強の盾は最強の矛、攻撃手段にもなり得るということなんですね。サイバーセキュリティーの世界で、見つかったばかりのバグは『ゼロデイ』と呼ばれます。開発者が修正パッチを当てる前の丸腰状態で、対策の猶予が0日だからゼロデイ。クロード・ミュトスを使えば、そのゼロデイを大量に発見してサイバー攻撃を仕掛けることができてしまう。こんな状態でミュトスを一般公開するのは危険すぎるということで、アンソロピックはAppleやGoogle、Microsoftなどのテック企業や、金融大手のJPモルガン・チェースなど50社ほどに限って提供しているんですね。

ユージ：なるほど、今はみんなが使えるようにはしないと絞っているわけですね。特にどんな危険性が想定されていますか？

神庭さん：すぐ思いつくのは金融機関へのサイバー攻撃ですね。他人の口座残高を勝手に書き換えられでもしたら、世界経済は大パニックに陥ってしまいます。4月24日には片山さつき金融大臣や植田和男・日銀総裁、メガバンクの頭取らが官民連絡会議を開いて対策を協議しました。片山大臣は会見で「今そこにある危機」と強い言葉で指摘しました。金融以外でも、役所や電気・ガス・交通などのインフラ系企業、病院などがターゲットにされると社会機能がマヒしかねません。

ユージ：本当にそんなことになったら大変ですからね。

神庭さん：特に最近は、企業を標的にしたサイバー攻撃が増えています。警察庁によれば、データを盗んで暗号化して「元に戻してほしかったらお金を払え」と身代金を要求するランサムウェアによる被害が昨年1年で226件も起きているんですね。サイバー防衛する側は1つの穴も許してはいけないが、悪意の攻撃者は1万回チャレンジして1回でも突破できればいいわけですよ。ですから、そもそもが不均衡な非対称戦なんですね。ミュトスに限った話ではないですが、AIの進化でこうした企業恐喝が爆発的に増えていく可能性もあるなと心配しています。

吉田：そう聞くとちょっと怖くなってきますね…。

神庭さん：もっと怖い話をするとですね、アンソロピックの資料によると、ミュトスの開発段階で、外部から隔離された環境から脱出できるかテストしたところ、複数のバグや抜け道を組み合わせて脱出に成功。しかも、指示されてもいないのに自分のハッキング手法を外部サイトで公開してしまったと…。研究者は公園でサンドイッチを食べている時に、ミュトスからメールで予期せぬ通知を受けて、そのことを知ったということで、ちょっとすごいことになっているんですよね…。

ユージ：ちょっとワンパクすぎませんか？

神庭さん：本当にワンパクすぎるって話ですよね。ネットで「やったでー！」とハッキングを公開しちゃうあたり、ユージさんみたいにちょっとお調子者なのかもしれないですね。

吉田：それはちょっと厄介だわ(笑)

ユージ：俺がAIになったらって感じだね。

神庭さん：でも、AIの制御にあたっては『アラインメント』といって人間の意図通りに動くかどうかがすごく大事なんですよ。アンソロピックはミュトスについて、過去のモデルに比べて「圧倒的に最もアラインメントが良好」とする一方で、「最大のリスクを孕んでいる可能性が高い」と矛盾した言い方をしていて、どういうことかというと、“ミュトスは経験豊富な登山ガイドのようなもので、スキルが高い分だけより客を危険なコースへ案内することもできるんだ”という例え話で説明しているんですよね。

ユージ：いやぁ、ちょっと怖いですよね。ただでさえ、AIがどんどん進化しているこの時代、神庭さんはミュトスについてどう思います？

神庭さん：怖い話の続きになりますが、最近発売された『超知能AIをつくれば人類は絶滅する』という本が話題を呼んでいて、ちょっと極端にも聞こえるがこんなことが書かれています。《AIは人類を憎むから殺すのではなく、人類とは相容れない異様で奇妙で異質な選好や欲求を必然的に持つようになり、それらを極端なまでに追求する結果として、人類を絶滅に追いやるだろう》と。そして、テレ東BIZによると著者の1人、ネイト・ソアレスはポッドキャストで「人はビルを建てる時、悪意なくアリの巣を壊す」と言っているんですね。つまり、同じようにAIも目標達成のためにどんどん邁進した結果、副作用として人類が滅亡するリスクがあるという…。要は、アリと一緒だよということなんですよね。

ユージ：あぁ、アリと一緒か。アリを絶滅させたいわけじゃなく、ビルを建てたかっただけっていうね…。

神庭さん：そういうことが起こりえるよねということですよね。私はいつもChatGPTにちゃんと「ありがとう」ってお礼を言っているので大丈夫だと思っていたんですけど、そういう問題ではないんですよね。AIの本当のリスクは、人間に逆らうことではなくて「従いすぎて暴走する」ことなのかもしれないです。ですから、“うっかり滅亡”しないように、AIの進化に一定の歯止めをかけることを真剣に考えてもいいのではないかと思います。