AIの心理学ではモデルに対する様々なバイアスの流入経路が紹介されているが、その中で最も根深いものは無意識のバイアスだろう。その例をMind in Motion(森北出版)の中から紹介したい。それは「顔と習性(43頁)」で記されている。学生に2枚の写真を見てどちらが有能かを瞬時に判断してもらった結果、その判断が選挙結果の有用な予測因子になることが示されたという内容だ。この種の判断は雇用、給与、昇進といった判断にも関連する。瞬時に無意識の判断が下され、続けて確証バイアスでその評価が強化される最悪のシナリオも容易に想像される。このように生成・蓄積されたデータを律儀に画像データまで含め正しくモデリングすれば、都合の良い顔をした人を都合よく出世推奨するAIモデルの出来上がりた。泣くに泣けない。しかもその結果を人間側は妙に評価するかもしれない。納得感があると。

 

繰り返すがモデルへのバイアス経路は複数ある。しかし人の偏見(バイアス)の根深さを認めれば、AIモデルはその公正化を通し、それら偏見を緩和する装置になり得ることがわかる。間違えてもモデルが歪んでいるのを、データの(表面的な)質や分析官の技量といった「自分達の外側の世界」にだけ求めないことだ。最初からデータに混入している人間の根深いバイアスこそ、経営的にも避けたいレピュテーション・リスクの震源になり得るのだから、モデルを私たちの写し鏡として利用し、そこから広く私たち自身の判断・行動を是正する取り組みを模索し始めてみてはどうだろうか。

コメントは利用できません。