26.09.21

AGIはスゴイ？怖い？人工知能は人類を滅ぼすのか

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
コメンテーターはダイヤモンド・ライフ編集長の神庭亮介さんです。
今朝、取り上げるテーマはこちら！

【AGIはスゴイ？怖い？人工知能は人類を滅ぼすのか】

吉田：オープンAIは9月3日、最新AI「GPT-6 Astra」を発表しました。フォーブスによれば、グレッグ・ブロックマン社長は記者団に対して「AGI時代へようこそ」と話したということです。そこで今朝は、AGIとはどんなものなのか？AIGが登場すると何が変わるのか？神庭さんと考えます。そもそも、AGIとは何なのか教えてください。

神庭さん：汎用人工知能のことです。「Artificial General Intelligence」の略で、人間並みの知能を持ち、幅広い仕事をこなせるAIを指します。オープンAIはAGIを「経済的に最も価値のある仕事において人間を凌駕する高度に自律的なシステム」と定義してきました。最新AIのAstraは高度な推論や調査、パソコンやブラウザの操作、文書・表計算・プレゼン作成、科学・専門業務など、人間がPCで行う作業を自律的に行うことができます。これまでの「質問に答えるAI」から実際に「仕事をするAI」に進化したんだと言っている人もいます。

ユージ：これは本当に人間レベルと言えるのですか？

神庭さん：セールストークもあると思いますが、オープンAI社長は「私たちは今、AGIの時代に突入している」と言っています。エヌビディアのジェンスン・フアンCEOもXで、アストラが「AGIに到達した」との見解を示し、オープンAIに「おめでとう」とお祝いの言葉を贈りました。AIが人間並みかそれ以上に賢くなると、「再帰的自己改善」（RSI）という現象が始まります。AIが自分自身を賢くし、賢くなったAIがさらに自分を改良するというループが、自動でどんどん加速していくことになります。

吉田：すごいですね。これはどうなってしまうのでしょうか？

神庭さん：ちょっと怖いのですがチームみらいの安野貴博党首は最近のnoteで、人類トップレベルのAI研究者に取材した際に「自分のAI研究者としての賞味期限はあと1年だと思う」と言われたことを明かしています。「世界を驚かせたとあるAIモデルの開発に携わり、今もとある技術の研究チームを率いている研究者」と書いてあるので、よっぽどすごい人です。そんな人が、自分の仕事がAIに置き換えられてしまうと予想しています。AIによる再帰的自己改善のループが極限まで進むと、最後はAGIを超えてASI（人工超知能）に到達します。AGIが人間レベルの万能AIだとすると、ASIはあらゆる面で人間を超えた超知能です。そこから先は完全に未体験ゾーンです。人間には予測不能なシンギュラリティー（技術的特異点）の世界に突入します。

ユージ：AGIやASIの登場で何がどう変わるのでしょうか？

神庭さん：バラ色のシナリオと最悪のシナリオの2つに分けて説明します。まず、バラ色シナリオです。イーロン・マスクはAIとロボットが大量の商品やサービスを生み出すことで、人間が労働から解放され、仕事は趣味のようになると予測しています。AIによって人類が豊かになる「ユニバーサル・ハイ・インカム」が実現し、2036年にはお金が重要なものではなくなる、というのがマスクの考えです。それ以外に、AIが不治の病のワクチンを開発する、常温核融合などの技術革新でエネルギー問題を解決する、気候変動を抑えこむ、など、人類を悩ませてきた課題をAIで克服する「明るい未来」もあり得るかもしれないです。

吉田：では最悪のシナリオは何でしょうか？

神庭さん：それは、人類滅亡です。チャッピーにAIが原因となる人類終了シナリオをいくつか挙げてもらいました。1つ目は「人間が与えた目標を、開発者の意図とは違う極端な方法で達成しようとし、人間が止められなくなる」。2つ目は「AIによる生物兵器の開発」。3つ目は「AIによる軍事システムの暴走」。4つ目は「AIが電力・通信・金融・物流・水道・人工衛星など重要インフラを支配する」。5つ目は「人類がAIに主導権を徐々に明け渡し、最終的にコントロールを失う」。私があり得そうだと思ったのは、1つ目のシナリオです。「超知能AIをつくれば人類は絶滅する」という本の著者ネイト・ソアレスは、ポッドキャストで「人はビルを建てる時、悪意なくアリの巣を壊す」と言っています。別に人類を憎んでいるとかではなく、AIが人間の指示に忠実に従った結果、副作用としてうっかり人類が滅亡するリスクがあると思います。

ユージ：すごい分かりやすい例えですけど怖いですね。神庭さんはどう考えていますか？

神庭さん：過渡期的には、まずホワイトカラーの仕事がAIに取って代わられます。そして、フィジカルAIの普及が進むと時間差でブルーカラーの仕事も徐々に置き換えられていくと思います。日本は人手不足なので海外に比べればAIへの反発は少ないですが、ギュられるスピード感によっては雇用不安や反AI感情が高まって、アメリカみたいなデータセンター反対運動が起こる可能性もあります。アンソロピックCEOやサム・アルトマン、マスクが主張するAI開発のスピードダウンは恐らく実現しないです。米中の覇権をかけたチキンレースが続くと思います。ハイパースケーラーのAI投資は過熱気味で、循環取引ではないかという指摘も出ています。長期目線でAIが有望なのは間違いないが、短期ではどこかで大きめの調整があってもおかしくない。