ZOZO Researchとの共同研究の成果をJSAI2024で発表しました

2024年度人工知能学会全国大会 (JSAI2024)で、以下の内容を発表しました。 こちらは、ZOZO Researchの皆さんとの共同研究の成果です。 フルバージョンは、ArXivに掲載されています。

タイトル

Instance AttributionとFeature Attributionの一貫性制約を満たす集合関数の局所説明法

著者

吉川友也, 木村 正成（ZOZO Research）, 清水 良太郎（ZOZO Research）, 斎藤 侑輝（ZOZO Research）

概要

集合関数に対する局所説明では、集合の要素（インスタンス）がどのように寄与するかのInstance attribution (IA)と、各要素の特徴量がどのように寄与するかのFeature attribution (FA)の2つが考えられる。IAはそのインスタンスを構成する特徴のFAの合計と一致すると考えるのが自然であり、説明の一貫性の観点でも重要なことであるが、既存説明法を用いた場合、その一致性を達成することは困難である。本研究では、IAとFAの一貫性制約の下でこれらを同時に推定するモデル非依存の局所説明法を提案する。実験では、提案法を用いることでIAとFAが一貫した説明が可能になることを示すとともに、より少数の集合関数の実行回数で高精度な説明が得られることを示す。