network
リポビタンD TREND NET

今、知っておくべき注目のトレンドを、ネットメディアを発信する内側の人物、現代の情報のプロフェッショナルたちが日替わりで解説します。

25.04.24

補助金交付や保育園の入園審査にAIを活用

null

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
本日は、情報社会学がご専門の学習院大学・非常勤講師、塚越健司さんです。
今朝、取り上げるテーマはこちら！


「補助金交付や保育園の入園審査にAIを活用」

吉田：政府は各省庁や自治体で、AIが作業の効率化にとどまらず補助金交付や保育園の入園審査に使われる可能性を想定し、説明責任のあり方や決定を不服とする人の救済策など、必要なルール整備に着手しました。そこで、行政判断にAIを使うことについて、塚越さんと考えていきたいと思います。


ユージ：塚越さん、補助金交付や保育園の入園審査のような、行政が何かを決定する際にAIを導入する自治体が出てきているようですね。


塚越さん：まず東京都は、都民や事業者からの補助金申請の手続きをAIを使って迅速化します。今年度中に3つの事業の補助金審査にAIを試験導入します。2028年度をめどに、希望する都庁内の各局で本格的な運用をするということです。実際に東京都武蔵村山市は、保育所の選考に関する事務にAIを活用しています。保護者からの申請書をもとに、AIで施設を割り当てます。この選考事務にかかる時間ですが、従来は約107時間ほどかかっていたのが1時間に激減したということで、保護者への通知も2週間以上早まったということです。他にも兵庫県神戸市では、市営住宅の入居者の選考にAIを導入しています。申込書の内容をAIが自動で読み取って順位付けを行うことで、業務の効率化と公平性の向上を実現するということです。やはり自治体も人員不足の問題がありますし、人が選ぶとバイアス(偏り)が発生することもあるので、AIの方が適していることもあります。


吉田：行政判断へのAIの導入、これから進んでいきそうですが、ルール整備はどうなるでしょうか？


塚越さん：人の場合は、偏りがあると話したのですがAIの偏りはどうするのか？が問題です。まず、AIの判定は順位付けの基準だったりプロセスが明確ではありません。AIは何やっているのか分からない、ブラックボックスと言われています。海外のAIでよく言われるのが、例えば、白人男性に関する認識は精度が高いのに、女性や黒人の方については精度が低く、誤って犯罪者とAIが認識してしまうことも多くて、いわゆる「マイノリティ」の問題があります。人間の偏見がAIにも反映されてしまうのが問題になっています。AIの基準は不明確なので、市民にとっては納得がいかないこともあります。なので、透明性や説明責任の問題が出ています。私がよく言っているのが、AIにできないのは「責任を取ること」ですが、例えば保育園の入園の可否をAIが決める場合、理由をどこまで人間が説明するかなど、ルールをつくっておく必要があります。


ユージ：自分が何かに落ちた時の説明が「すみません、AIが決めたので」だと、確かに納得いかないかなと思います。


塚越さん：人間が出てくれという話ですよね。その点でいうと、不服申立ての制度も必要です。AIの判断に不服がある場合は、従来通りの不服申立てや救済策の仕組みを強化する必要があります。また行政はできる限り、市民に損害が生じた場合の責任救済方法も検討しなければなりません。さらにいうと、人間の関与を残すことも必要です。AIにすべてを任せるのではなく、個別の事情がある場合や前例がないものに関して、あるいは通常の判断に関しても最終的には人間が行う必要があります。行政としても、どこまでがAIでどこからは人間が判断するかについて、一定の基準をつくっておくことが重要です。実際問題として、オランダでは2010年代に育児手当の給付にAIを活用していたら、移民や低所得者の方を中心に間違って返還要求していた、という事例もあり結構問題になっています。こうしたこともあって、フィンランドでは2023年に法改正をして、AIの行政判断にルールをつくり、人間と同じように理由の提示も義務付けました。こういった動きを各国で行っています。


ユージ：塚越さんは、行政判断へのAIの導入、どう思いますか？


塚越さん：いろいろ懸念も話しましたが、今後絶対に必要になるだろうと思います。人間も減っていきますし。AIの解析が進めば、例えば住民が申請していなくても、「あなたは“補助金交付”に該当してますよ」と、教えてくれてAIが円滑にやってくれることもあります。なかなか時間がつくれない方や高齢の方、子育て世代にはAIは良いのかなと思います。先ほど話した問題もありますし、ちょっと大きな話になりますが、アメリカでは2010年代にロサンゼルスやシカゴの警察で、犯罪が起こりそうな場所を予測したり、将来的に犯罪を起こしたり被害に遭う人をリスト化するなどSF映画であるようなことを実際にやりました。これも人種に対する差別的なデータの偏りがあるとのことで、廃止になりました。行政がAIを使うというのは、警察等ものすごい力のあるものが使って、そこにデータの偏りがあると取り返しのつかないことがあります。それは事実です。少しずつAIを使いながら、実績を作っていって積み上げていくところから始めていくのが重要じゃないかなと思います。


そして、今日の #ユジコメ はこちら。






過去の #ユジコメ を音声でCHECK!!


  • X
  • Facebook
  • LINE