昨日「External Validation」でデータドリフトについて書いたためか、AIの心理学(13頁)の奇異性効果(bizarreness effect)に反応する。人は珍しいものを記憶に残すように進化し、その妙な感覚を利用しその後の行動を変えることができる。こういった珍しさの感覚は、統計学ではマハラノビス距離や主成分スコア等で定量化できるし、機械学習ならisolationforestなどでanomaly scoreとして取得可能だ。データドリフトに絡めて言えば、妙なサンプルの学習時の重みを敢えて大きくすることで、大規模な標準的データの影響を軽減したモデリングが可能で、その重さを先に挙げたアルゴリズムなどで表現するものよいだろう（しかしこれは表面の精度指標を悪くするだろうから大人の選択肢である）。意思決定プロセスに絡めると、例えば「診断推論の普遍モデルの改良版」(ABC of 臨床推論、52頁、羊土社)の図4.1。Type1のパターン認識に違和感を感じたらType2の遅い思考で仮説を生成し評価するよう説いている。自然界で生きる専門家の原始人に当てはめれば、ジャングルでいつも使っている道であっても違和感を感じたら引き返すといった行動を奇異性効果は支えてくれる。もちろんこの場合の原始人は医者とは違って遅い思考は許されない。多数のMLモデルをビジネスの意思決定プロセスに組み込んだ場合のリスクは、従来現場では吸収できていたであろう奇異性効果に支えられたリスク回避行動が取れなくなることとも言えそうだ。MLモデルを意思決定プロセスに組み込むということは単なる工学的問題ではなく、心理学的・意思決定科学的な検討を要することも意識されたい。

---