複数の局所的説明の比較による分類モデル解釈支援のための可視化手法
機械学習モデルはさまざまな分野で高い性能を発揮しており，実世界での利用も進んでいます．その一方で，特に医療や金融といった意思決定の影響が重大な分野では，モデルやその出力に対する透明性や解釈性が求められています．本研究では …
ニューロンを活性化させるテキストに基づく ニューラル自然言語処理モデルの解析手法
ニューラルネットワークベースの自然言語処理モデルは，目的タスクに最適化された内部ベクトル表現またはニューロンを学習する能力によって，様々な自然言語タスクで成功を収めています．しかし，モデルが実際にどのような言語現象を学習 …