１９３０年代半ばに始まった日本陸軍の近代化計画は１９３８年８月、欧米の最新機とくらべても遜色のない爆撃機キ－２１が配備されたときに絶頂期に達した。　１９４１年１２月以降東南アジア方面の爆撃任務には本機の姿があった。　英米の戦闘機の前には旧式化が覆いがたかったが終戦まで使われたのである。　 　キ－２１は従来の９３式重爆を置きかえるべく１９３６年２月に出された航空本部仕様に基づき設計された。　全金属製、中翼型で流麗な曲線を持っていた。　主脚は前方に引き込まれるようになっていた。　試作第一号機の初飛行は１９３６年１２月である。　角型の機首を持ち胴体後方上部と胴体下部にそれぞれ銃座を備えていた。　２号機からは胴体後部に銃手を収容するための長い風防が設けられ、機首はスムーズな曲面になった。　当初は三菱で社内テストが行われていたが、１９３７年３月、海軍の手によって中島飛行機のキ－１９との比較テストが始められた。　もうひとつの競合相手である川崎キ－２２は設計段階で脱落している。　キ－２１は一般的な性能では中島キー１９より優れていたが、海軍は信頼性の高い中島ハー５エンジンを搭載することと縦方向の安定性の改良を命じた。　この改良でキー２１は完全に優位に立ち陸軍９７式重爆として採用されたのである。　生産は１９３８年春から始まったが中島飛行機にも本機の生産の指示が出された。 　最初の量産型は９７式重爆撃機として中国北部と満州方面に配備され弱体の中国空軍相手に好成績をおさめたが、将来の強敵に備えるべく日本陸軍はもっと速度と上昇限度の向上を要求した。　これに対して三菱は大型の三菱ハ－１０１エンジン（1,500馬力）の搭載を計画、エンジンナセルを大型化し同時に主脚が完全に引き込まれるようにした。　このキ－２１II型の飛行テストは１９４０年３月から始まり、９７重爆II型としてその年の１２月から配備が始まり、太平洋戦争が開始された時点ではほとんどの部隊がII型に入れ替えられていた。　戦争開始直後は連合軍も旧式機しか持っておらずキー２１は日本陸軍の主力爆撃機としてマレー、シンガポール方面で大活躍したが、英米がハリケーン、カーチスＰ－４０などを投入してくるにしたがい損害が急増する結果となった。　 　連合軍のコードネームは最初マッカーサー将軍の奥さんの名前をとってジェ－ンとつけられたが、マッカーサーがこのアイデアに気に入らなかったのですぐにサリーに替えられた。　１９４３年にいたっても９７式重爆は陸軍の主力爆撃機として配備される数は新型のキー４９の倍もあった。　しかし基本的な弱点である防御火力の弱さ、セルフシーリング燃料タンクの欠如などで敵戦闘機の攻撃に対して弱く損害は甚大であった。　その後ようやく新型機に置き換えが行われ、終戦の時点ではひとつの戦隊だけがキー２１を爆撃機として使っていたほかは後方任務についていた。　 キー２１は日本陸軍機を世界と同等レベルに引き上げた功績機であったが、後継機種の開発が遅れ能力以上に長期間使用されたのが不運であった。　戦争後半になっても前線の搭乗員は新型の中島キー４９呑龍爆撃機よりもキー２１を好んだといわれている。