CNNによる画像分類の判断根拠を解析するためのアルゴリズム．畳み込みにより圧縮された空間情報のうちどの要素が分類に大きく寄与するのかを視覚的に解析できる．具体的には，画像の中のどの領域がどのぐらい重要であるかを示すヒートマップが出力として得られる．例えば入力画像が犬か猫かを判定するCNNモデルを考えてみよう．このモデルが縞模様の猫の写真を「猫の画像」と正しく判定した場合にGrad-CAM解析を行うと，画像の中の猫の体の部分がハイライト表示されるような出力結果が期待される．この結果から，猫にありがちな「縞模様のパターン」が判定根拠として重要ではないかと推察することもできる（このモデルにパンダやシマウマの写真を見せるとどのような結果になるか検証するとおもしろいだろう）．（実験医学増刊3820より）

機械学習を生命科学に使う！

シークエンスや画像データをどう解析し、新たな生物学的発見につなげるか？

小林徹也，杉村　薫，舟橋　啓／編