汝南是一座有二千多年历史的县城，古时因其被汝河三面环绕，很像一棵长藤上结的葫芦，被称为悬瓠。据《禹贡》记载：“禹分天下为九州，豫为九州之中，汝为豫州之中，故为天中。”所以，汝南又称为“天中”。
西周初年，周武王的弟弟周公旦辅佐幼年的成王治理天下，在他率军平定东方夷族十七国叛乱后，觉得陕西地理位置太偏，就想把国都从陕西迁到九州之中的豫州洛阳，以成为名副其实的中央之国。
据说周公旦曾梦见一白胡子仙人，对他说：“天中不定难定天下，洛阳并非天下之中，大周有难啊！”周公旦忙问：“何处为天下之中？”白胡子仙人说：“豫为中，蔡为中，无日无影为正中。”说罢，化作一道金光飘然而去。后来周公旦就按照神人指点的方向，终于在蔡地的汝水之滨测到了无日影的地方，就命名为天下之最中的地方，并用土石修筑了一座小山，命名为“天中山”。“豫州为九州之中，汝南尤在豫州之中”（重修汝南县志》）。
这个“天中山”，我过去经常去玩，就是一个一人多高的大土堆，如果称之为山，恐怕也天下最小的山了。那时山下还有一个唐代大书法家颜真卿亲书的“天中山”碑。那么，颜真卿当时贵为唐朝的太子太师，怎么会来到这偏僻的汝南小县呢？
原来唐朝时，颜真卿因刚直不阿，在朝中屡受排挤，大奸臣卢杞任宰相后，更是对颜真卿的直言不讳深感厌恶，总是打压颜真卿。有次，颜真卿在与卢杞争辩时斥责他道：“你先父卢中丞（指卢奕）被安禄山杀害时，贼人把他满是血污的头颅送到我任太守的平原郡，我感动他的忠义坚贞，亲自捧着他的头用舌头将他的脸舔干净，现在您就忍心这样对待我吗？”卢杞听后，立刻惊惶地哭拜于地，但内心却更对颜真卿恨之入骨。
这卢杞的父亲虽是英雄，他身上可一点也没有父亲的影子，不但相貌丑陋，而且心术不正，是个睚眦必报的小人。据记载，唐朝大将郭子仪患病时，百官都前去慰问，他身边满是侍妾。但听到卢杞要来时，郭子仪连忙叫侍妾都退下，自己一人坐起来接待他。等卢杞走后，家里人询问为什么要这样做？郭子仪说：卢杞相貌丑陋而心底险恶，我的侍妾都是女儿心态，见了他的样子必定会发笑，卢杞也会因此记恨我，那以后如果他得到大权，必然要祸害我们宗族。
唐德宗时，淮西节度使李希烈发动叛乱，率军攻陷汝州等地。卢杞趁机建议派忠勇刚直、名重海内的三朝重臣颜真卿前往李希烈军中，传达朝廷旨意。不明就里的唐德宗立即同意了卢杞的提议。当时朝廷大臣听说后都大惊失色，认为这等于是让颜真卿去送死，纷纷劝他不要去，颜真卿坦然地说：“怎能不去？为臣的岂能逃避圣旨？”
颜真卿自己也知道此去凶多吉少，但为了国家的安定大业，还是毅然辞别众人，前往李希烈的老巢许州去宣谕朝廷旨意。
那叛贼头子李希烈一心想称帝，怎么会轻易接受朝廷的宣谕？暗地里就让一群部将围着颜真卿挥刀谩骂。颜真卿正气凛然，毫不畏惧。李希烈看威吓不能使颜真卿屈服，便换了一副嘴脸，让部下退出，上前致歉。在招待李另外四个叛乱镇守的使者时，也请颜真卿参加，并让这四位使者轮番劝说：“太师德高望重，今都统（指李希烈）将要称帝，恰好太师又来到这里，这真是天赐宰相给都统呀！”颜真卿听到叛贼妄图以宰相高位来诱惑自己，不禁拍案而起，怒声喝叱道：“你们知道那个因骂安禄山而被杀的颜杲卿吗？他就是我哥哥！我已年近八十，也会像哥哥那样忠贞守节，死而后已，怎能接受你们的胁迫呢？”说罢拂袖离席而去。
知道劝降无效后，唐德宗诏令各路兵马讨伐李希烈。李希烈连连失利，士气低落，就带兵退回了蔡州（今汝南），并将颜真卿软禁在蔡州的龙兴寺里。后来李希烈在唐朝的围剿下，惶惶不可终日，为了坚定叛军的信心，断绝他们投降的念头，决定杀唐朝重臣颜真卿以振军威。当李希烈派的太监到蔡州执行死刑时对颜真卿说：“皇上有旨，赐你速死。”颜真卿立即跪下接旨说：“老臣无罪，何以赐死！不知使者何时从长安出发？”太监说：“我们从大梁来。”大梁就是开封，是李希烈称帝后的临时都城。颜真卿听是从大梁来的后，马上站起来怒骂：“原来是乱臣贼子的人，你这算什么诏书？”太监大怒，就将颜真卿缢死于龙兴寺，死时76岁。
淮西叛乱平定以后，颜真卿的儿子颜頵、颜硕二人护着父亲的灵柩回到京城，唐德宗废朝五日以示哀悼，并追赠颜真卿为司徒，谥曰：“文忠。”蔡州百姓怀念颜真卿，也在汝南城内修建了颜鲁公祠，并常年祭祀。后来当地的官员又把颜真卿题书的墨宝“天中山”三字制成碑碣，放置于天中山下，于是这里就成了历代官吏和士大夫拜谒和游览的场所。
“天中山，三尺三，来到天中山，一步可登天。”汝南民间过去有这样歌谣，很传神地反映了小小天中山能与天地通灵的神秘。据说唐代大诗人刘禹锡在登天中山、游南海寺后就写下过：“山不在高，有仙则名：水不在深，有龙则灵。”的不朽名句。
如今的天中山，被改建为“天中文化生态园”，园内有湖，有岛，有山，山顶立有写着“天中山”三个大字的铜质雕塑，山下是林木葱茏、鸟语花香的植物园，已成了汝南人民修闲游玩的主要场所。