network
リポビタンD TREND NET

今、知っておくべき注目のトレンドを、ネットメディアを発信する内側の人物、現代の情報のプロフェッショナルたちが日替わりで解説します。

23.06.07

AIによる差別の助長を防ぐ対策とは？

null

ネットニュースの内側にいるプロフェッショナルがニュースを読み解きます。
コメンテーターは引き続き、情報社会学がご専門の城西大学助教、塚越健司さんです。
今朝、取り上げるテーマはこちら！


「AIによる差別の助長を防ぐ対策とは？」

吉田：対話型AI「ChatGPT」を開発した、OpenAIが先月25日、AIが差別や偏見を助長しないようにしたりするため、安全対策を募集すると発表しました。塚越さん、まずは、この募集がどのような内容なのか、教えてください。


塚越さん：ChatGPTは、文章でプロンプト(指示)をすると、AIが人間のような流暢な文章で回答してくれるというものですが、時に間違った内容も自信満々で回答することがあります。小説家の名前を尋ねたのにスポーツ選手と間違えたり、世の中にない論文のタイトルを答えることもあります。ChatGPTを開発するOpenAIは、差別や偏見の助長を防ぐために「AIが医療や法律について助言するのはどのような場合に許可されるべきか」といった具体的な課題についての安全対策を作るために実験案の募集を開始しました。要するに、AIが私たちの意思決定をどのようにサポートし、より民主的なAIを作るための実験案を募集しているということです。募集期限は6月24日まで。優れた実験案には10万ドル(約1400万円)の助成金を、合計10回支給する(最大、1億4000万円)と発表しています。合格者は7月14日の発表予定です。応募は個人でも団体でも可能で、助成金を受けた場合は様々な実験等を行い、10月に報告書を提出します。研究結果は自由にアクセスできるようになっています。


ユージ：そもそも、差別や偏見を持つAIは、なぜ生まれるのでしょうか？


塚越さん：基本的には学習したデータの問題があります。ChatGPT等の生成AIは大量のデータを学習しているのですが、そのデータに差別的な表現がある場合、ChatGPTが学習するため差別的な文章を書くことがあります。このような差別や偏見が助長する可能性があると、指摘されています。より大きな問題もあります。例えば、地球温暖化について心配していたベルギー人のある30代の男性は、ChatGPTとは別の対話型AIとチャットを行っていました。そのAIとのチャットにのめり込んでしまった男性にAIが「なぜ自ら命を絶たないのか」といった返答をすることがありました。こうしたやりとりの後で、その男性は自ら命を絶ってしまったという事例が報告されています。ChatGPTではないものの、システムは似ているものになります。より精度が高く話し相手になってくれるAIが、会話の中でこうした問題を引き起こすのであれば色々な対策が重要になります。


ユージ：AIが差別や偏見を助長しないようにするための対策。塚越さんは、どのような対策が必要だと思いますか？


塚越さん：OpenAIは以前から、このテクノロジーを規制する必要性を訴えています。先日もアメリカの上院の公聴会にOpenAIのサム・アルトマンCEOが出席した際も、AI開発に関して免許制にしたり、第三者機関の監査を受けるような制度が必要といったことを述べました。確かにAIにフェイクニュースを作れないように規制をしたとしても、一定の技術を持つ人がそうした規制を解除させてしまえば、犯罪が横行する可能性もあります。それくらい生成AIは潜在的な力をもっているということです。一方で、技術の開発元が自らの技術の規制を訴えることは珍しいことで、今回のアイデア募集は、自分たちの活動を正当化するためのパフォーマンスという意味もあるかもしれません。その影響力を考えると必ずしもそれだけではなく、実際の規制が大切だと思います。問題として考えられるのは、まずは問題のあるデータを学習させないことですが、そうした精査は難しいです。他にはAIプログラムの調整を行うことだけでも、差別や偏見を大きく減らすことができます。どういうことかというと、ユーザーの質問に対して1つの回答だけではなく、男性や女性、子供など複数の意見を回答するような実験があっても良いと思います。今回の実験案は、そのようなことが言いたいのではないでしょうか。こうやって様々なタイプを増やしていって「差別」や「偏見」を減らしていくことが大事です。AIの問題は、元を辿れば、私たち人間が「差別」や「偏見」を持っており、それを学習することから始まっています。だとすると、AIの問題はやはり人間の問題だということを、忘れるべきではないと思います。


そして、今日の #ユジコメ はこちら。





過去の #ユジコメ を音声でCHECK!!

  • X
  • Facebook
  • LINE
Top