コンピューターサイエンスの分野の記事を、時々斜め読みするのですが、私のような文系の人間には何かと哲学と結びつけたくなるというのは、よくありがちなのではないかと思います。
特に、「アルゴリズムの公平性」などという単語を聴くと、う～んと呻きたくなるほどです。
コンピューターサイエンスでは、日常生活の様々な場面で使われる予測アルゴリズムをどのようにして公平に、そして正確にするかが研究されているようです。
私たちの生活には、さまざまな場面で予測アルゴリズムが使われています。
例えば、インターネットで動画をおすすめされるのは、身近な例ですね。
でも、こうした予測アルゴリズムが全ての人に対して公平に働いているかどうかは大きな問題です。
そこで「マルチキャリブレーション」という考え方が重要になってきます。
マルチキャリブレーションは、予測アルゴリズムが異なるグループに対しても公平で正確な予測をすることを目指す方法です。
例えば、ある診断アルゴリズムが異なる年齢や性別の人たちに対しても同じように正確に病気を診断できるようにすることです。
この方法を使うことで、どのグループでも同じように信頼できる結果を得ることができます。
もう一つ関連する考え方に「マルチアキュラシー」があります。
これは、アルゴリズムの予測誤差がある範囲内に収まることを保証するものです。
マルチキャリブレーションとマルチアキュラシーを組み合わせることで、アルゴリズムがどの条件下でも安定した性能を発揮することができるのだそうです。
つまりは、「公平性」や「平等」を求めるのには、それなりの技術が必要であり、それだけ困難だということなんですね。
私たち一般人が手にするときには、その仕組みはすでにブラックボックスで、せいぜいそれを提供するUIにしか注意を払わないものですが。
参考文献：
Casacuberta, S., Dwork, C., & Vadhan, S. (2023). Complexity-Theoretic Implications of Multicalibration. Harvard University.
