上个世纪三十年代，在南阳城区发现了不少散存画像石并受到了当地文化教育界一些知名人士的极大关注。
1935年10月10日，在“保护国粹，光我祖国”的呼声中，为了保护珍贵的汉画像石，南阳地方政府拨款在市民众教育馆内建成了全国第一座汉画像石陈列馆并取名“汉画馆”，开创了汉画像石专题博物馆之先河。
1956年12月，时任中国戏剧家协会主席的田汉先生在莅宛考察地方曲艺工作期间，提出了改造魏公桥和七孔桥、抢救画像石的意见，向河南省政府建议拨专款重建一座汉画馆。1959年，新的汉画馆在卧龙岗武侯祠东北边建成开放，时任中国科学院院长的郭沫若先生欣然为新馆题写了馆名，此馆名一直沿用至今。
1979年1月，南阳市政府筹资再次重建的汉画馆新馆竣工开馆，占地面积2750平方米。
1985年10月，南阳汉画馆从南阳市博物馆分离出来，独立建制。国家、省、市各级政府累计共投入一千四百余万元专项资金，在南阳市卧龙岗南端的龙首处建成了一座建筑面积共6000平方米的陈展大楼，1999年12月竣工开放。
