24.05.27
世界で進むAI規制
ネットニュースの内側にいるプロフェッショナルが、注目のニュースを読み解きます。
今日はダイヤモンド・ライフ副編集長の神庭亮介さんにお話を伺いました。神庭さんが注目した話題はこちらです。
「世界で進むAI規制」
吉田：EU加盟国で構成する理事会は21日、対話型人工知能チャットGPTなど生成AIを含む世界初の包括的なAI規制法案を承認、この法案が成立しました。
ユージ：このニュース、話題になっていましたよね。こうした動きの中、日本でもAIの法規制の検討に乗り出しているんですよね。
吉田：まずは、EUのAI規制法について改めてどんな内容か教えてください。
神庭さん：AIのリスクを「容認できないリスク」「高リスク」「限定的なリスク」「最小限のリスク」の4段階に分類し、その分類ごとに規制に強弱をつけています。1番厳しい「容認できないリスク」は法律で禁止するのですが、人の潜在意識に働きかけて意思決定を歪めるサブリミナル技術。特定の集団を差別排除し、不当な扱いをする格付け、スコアリングサービス。犯罪捜査などの目的で、生体認証技術を使って公共空間を常時遠隔で監視するAI。ネットなどから顔画像を無制限に読み込んで顔認識データベースを作成するAI。これらは、一部例外を除いて原則的に禁止ということです。
ユージ：2番目の「高リスク」のAIは何ですか？
神庭さん：例えば、試験中の生徒のカンニングを監視するAIや企業の採用選考の昇進などを決めるため人を監視評価するAI、給付金や医療サービス、社会保障などに活用するAIがあります。こういったAIは人の生活や一生を左右する大きな影響があるため「高リスク」と定義して、人間が適切に監視することや記録の保存などを事業者に義務付けています。
ユージ：容認できないリスク、高リスク、3番目の「限定的なリスク」は何でしょうか？
神庭さん：消費者の問い合わせに対応するチャットボットや動画や文章を生成するAIなどが該当します。これらは、人間ではなくAIによって生成されたことが分かるように明示しなければいけません。4番目、もっとも軽微な「最小限のリスク」は迷惑メールのフィルタリングなど使い道が限定されたAIで特に義務はありません。そして、AI事業者が規制法に違反した場合、日本円にして約60億円か前年度の全世界売上高の7%のうち、どちらか高い方が罰金として科されます。2026年には全面適用される見通しで、意外に時間がありません。EU圏内に展開する日本企業も今から準備する必要があるということです。
ユージ：なるほど。
吉田：そんななか日本政府も先日「AI戦略会議」を開き、法規制の検討に着手することを決めました。
神庭さん：日本は今年4月に「AI事業者ガイドライン」を策定したばかりです。たった1カ月で新たなルールづくりの話が出てきています。背景には、AIが日々進化していることもありますし、EUの例のように世界的にAI規制をめぐる議論が活発化していることもあります。日本はこれまで、事業者向けガイドラインなど基本的には自主規制で対応する方針でやってきました。アメリカも基本は自主規制ですが、昨年10月に大統領令を出して大規模AIモデルの開発企業に報告を求めるようになりました。徐々に規制を強めています。日本やアメリカのように、自主規制ガイドラインや規格に多くを委ねるやり方を「ソフトロー」（柔らかい法律）といいます。法律でガチガチに縛るのではなく、努力義務的な感じで緩やかに誘導するようなやり方です。これに対して、強制力のある形で法律を縛るやり方を「ハードロー」といって、EUのAI規制法がまさにそれに該当するかなと思います。
ユージ：ソフトローとハードロー、2つのアプローチがあるんですね。
神庭さん：日本は基本的にはAIの開発、イノベーションを重視するスタンスなので、縛りの弱いソフトローでやってきました。それだけだと限界もあるので、国民への影響が大きい高リスクなAI開発者に対しては、ソフトローを補う形でハードローによる法規制が必要になってくるのではないか？というのがAI戦略会議の議論です。影響力が小さく、リスクも低いAIに関しては引き続き、ガイドラインなどソフトローで対応することが検討されています。今後の焦点としては、AIの悪用や犯罪利用をどう防ぐか。そうしたリスクが高い場合には、政府が改善命令や実名公表をすべきではないか？ハイリスクなAIとそうでないAIの境界線をどう引くかということです。次々に新しいAIが登場して勢力図が塗り替わる世界なので、それに応じた柔軟な対応が必要になりそうです。
ユージ：僕が聞いた話だとAIは、どんどん学習していって賢くなっていくところで、この間までは境界線を引いたところのOKラインだったAIが成長を重ねて境界線を越えてくる可能性があってそこの判断って難しいですよね。この課題はどういうところですか？
神庭さん：EUの規制法は、かなり広範に網をかけているのですが、ルール作りによる覇権争いの側面もあります。これまでにもEVなどに関して「先進的」なルールをつくって、アメリカや日本などの企業を牽制してきました。「ルール商売」が上手ですよね。日本もEUの強かさに見習うべきところはありますが、一方で規制一辺倒だとイノベーションが死んでしまうジレンマもあります。また、西側諸国が民主的なAIルールを作って、その枠内で大人しくやっているうちに中国が治外法権のようになって、プライバシーもガン無視で国民監視スコアリング何でもありのヤバイAIをどんどん開発してしまうリスクもあります。中国の1人勝ちにならないように、国際的なルールづくりの場に中国を巻き込んでいくことも重要じゃないかなと思います。
そして、今日の #ユジコメ はこちら。
#リポビタンDTREND NET #ユジコメ①
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) May 27, 2024
テーマは「世界で進むAI規制 」
人が使う以上はAIにも規制をかける必要が出てきます。
しかし、規制をかけ過ぎてしまうことによってAIの成長を止めてしまうのではという心配点もあります。#ワンモ
#ユジコメ②
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) May 27, 2024
今回のテーマでは特に「世界」がキーワードだと思っています。
国ごとで規制がバラバラだとルールが曖昧になってしまい法整備が正しく整わないので、ルールを明確化する必要があり、世界基準での法規制を作ることが課題となっています。#ワンモ
#ユジコメ③
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) May 27, 2024
また、1度決まった法律を変えるのは難しいです。
AIは成長を続けていくので、適切なタイミングで柔軟に変えることができる法整備も必要だと思います。
そうすることによってAIの成長を止めすぎずに今後にもつながるのではないでしょうか。#ワンモ
