ブラックボックス化する AI をどう規制するか？
海外論文サーベイ(経済セミナー)｜ 2024.11.28
Blattner, L., Nelson, S. and Spiess, J.（2024） “Unpacking the Black Box: Regulating Algorithmic Decisions,” arXiv:2110.03443.
$\def\t#1{\text{#1}}\def\dfrac#1#2{\displaystyle\frac{#1}{#2}}\def\bb#1{\mathbb{#1}}$
奥村恭平
1 複雑化する AI、難化する規制
アルゴリズムによる意思決定が、ますます盛んになっている。雇用・融資・医療・大学入試・司法といった重要度の高い場面におけるアルゴリズムの利用が増える中で、機械学習技術の発展に伴い個々のアルゴリズムはより複雑性を増しており、規制当局による適切な制度設計を難しくしている。例として、融資の問題を考えてみよう。借り手が債務不履行を起こす確率をアルゴリズムで予測し、その予測結果をもとに融資をするか否かを決定している金融機関を考える。金融機関は債務不履行が起こる確率がなるべく小さくなるように融資の決定を下したいと考える一方、規制当局は予測アルゴリズムの公平性 (少数派の人々に対する予測が、多数派の人々に対する予測と比べて著しく不正確にならない) を担保したいと考えている。しかし、金融機関の予測アルゴリズムはとても複雑であり、その詳細をすべて理解したうえで規制を行うことは不可能である。規制当局は複雑なアルゴリズムによる意思決定をどのように規制すべきであろうか？