南岳忠烈祠位于南岳衡山香炉峰下，松柏掩映，翠峦环抱，建造宏伟，威严肃穆。此祠不仅为纪念壮烈的衡阳保卫战，更是为七七事变以来牺牲的全体抗日阵亡将士。忠烈祠于1938年筹建，1943年落成，是我国大陆唯一纪念抗日阵亡将士的大型烈士陵园。

整座祠宇坐北朝南，中轴线上，按前低后高地形布局，依次为牌坊、七七纪念碑、纪念堂、纪念亭和享堂，除纪念碑、纪念亭为纯石结构外，其余皆为石墙碧瓦，单檐翘角。

纪念堂中央，立有汉白玉石碑，平铺着的十二角花岗岩石台上，正背两面原刻有纪念抗日阵亡将士碑文。纪念堂后面，沿山势建有二百七十六级石磴，分两侧而上，石磴呈台阶式，共九层，代表牺牲的276名中高级军官，以致敬碑为界，下面六层，上面三层。

两侧石磴中间的斜坡上，是一块绿茵草地，台阶中间点缀着四季常青的花草灌木。石磴两侧是高大绿树，把石磴掩盖得严严实实，致敬碑在石磴台阶中间，有四条柱拱托着平面石板，上面是一个大型球冠，两旁各有翠柏一株，象征着烈士永垂青史。

路旁有一石碑，正背面刻着“游人到此，脱帽致敬”八个字，提醒游人到此肃立，缅怀英烈。

七七事变，日寇侵略中国，中国军民奋起抵抗，无数爱国将士鲜血染红了中华大地。1938年蒋介石主持召开“第一次南岳军事会议”，当时还邀请了中共中央副主席周恩来和八路军参谋长叶剑英。两党以民族大义为重，携手抗日。在这个会议上，许多将领提到阵亡官兵多“暴尸战场”，不能掩埋，言者伤心，听者敛容。蒋介石听后对此非常痛心，会后把陈诚、薛岳两位将军叫来，郑重安排了修公墓的事。后陈诚调任四川，而薛岳兼任湖南省政府主席，所以建公墓的事基本上由薛岳在主持。

1940年9月10日，南岳忠烈祠第一期工程正式破土动工。第二期于次年11月5日兴工，至1943年6月全部竣工。7月7日，南岳忠烈祠举行了隆重的落成大典，主持者薛岳在忠烈神位前恭读祭文，郑重宣布“抗战以来，各忠烈将士，即日入祠，岁时奉祀”。

1944年，南岳沦陷，遭日军破坏；1949后，祠内许多民国军政要人题写的碑刻匾额大都在1953年到1956年被湖南省人民政府下令凿毁；1966年文化大革命开始后，南岳忠烈祠遭到红卫兵严重破坏，几乎所有的烈士墓都被挖掘殆尽，骨灰抛撒。

1984年，胡耀邦到此瞻仰，1987年全国政协提出修复意见。1992年，由当地政府全面修复。1996年成为全国重点文物保护单位。