商丘五帝时代曾在此建都，因地势低洼多丘墟，故得名商丘，金元明清历代都曾在此建有名城，保存最为完整的就是商丘古城，也就是明归德古城。归德府城被美誉为“八卦城”，古城拥有城墙、城湖、城郭三位一体的建筑格局，建筑风格独特。古城城墙周长3.6公里，有四个城楼，北城楼于南城门楼遥相呼应，东西两门相错一条街，据说由此可逢凶化吉。
应天书院，属于北宋四大书院之一，范仲淹年轻时在书院求学，终成大器，把家安在了商丘，书院培育了众多的名人学士，如秦淮名艳李香君，她曾执手相伴《桃花扇》中主人公侯方域。古城内保存有侯方域故居。古城有刘邦在商丘斩蛇而建的斩蛇碑，纪念孔子祖籍夏邑祭祖而建的还乡祠，齐桓公与诸国结盟的葵兵台遗址，西汉萧何定法的“造律台”遗址，纪念阏伯的阏伯台等等。