説明ベース最適化の論文がAISTATS2024に採択されました

NTT岩田具治さんと行った研究がAISTATS2024に採択されました。 説明の忠実性評価尺度であるInsertion MetricとDeletion Metricを直接最適化できるように微分可能にし、これを正則化として予測モデルの学習に用いることを提案した論文です。 この方法を使うと、予測モデルの振る舞いに忠実な説明が出せないことがあるGradCAMやLIME等の事後説明器が、安定して忠実な説明を出せるようになります。 Preprintはこちらです。