宋武帝在南方建立了宋朝，十九年后，也就是公元４３９年，北魏太武帝拓跋焘（ｔàｏ）灭掉了十六国中的最后一个小国北凉，统一了北方.从东晋灭亡后的一百七十年时间里，中国历史上出现了南北两个政权对峙的局面.南朝先后经历了宋、齐、梁、陈四个王朝；北朝的北魏后来分裂成东魏、西魏，东魏、西魏又分别被北齐、北周所取代.历史上把这段时期称为南北朝.
宋武帝当了两年皇帝，就生病死了.宋武帝的儿子即位，就是宋文帝.北魏趁着宋朝的政局变动，派大军渡过黄河，进攻宋朝，占领了黄河以南的大片土地.宋文帝便派檀道济率军抵抗.
在宋朝的众多将领中，檀道济是最出色的一个.
晋安帝末年，檀道济跟随刘裕加入了北府兵名将刘牢之的军队，从此开始了他的军旅生涯.他作战勇敢，机智灵活，在平定桓玄叛乱等一系列战斗中立下赫赫战功，是东晋后期的重要将领.
公元４１６年，刘裕出师北伐、攻打后秦的时候，命檀道济率军沿淮河向洛阳进发.檀道济率军一路过关斩将，先后攻克新蔡(今河南新蔡)、许昌(今河南许昌东)、荥阳(今河南郑州西)，一直打到成皋(今河南荥阳一带)，并在成皋击败秦军主力，迫使洛阳守将投降，军威大振.当时由于俘虏太多，有的将领怕他们闹事，主张杀掉，檀道济却不同意.他说：“我们晋军北伐是为了讨伐罪逆，保护百姓，怎么可以乱杀人?”
檀道济下令把俘虏都放了.这些俘虏回去后，到处宣传晋军的宽大，起到了瓦解后秦军心的作用.接着晋军乘胜前进，攻克长安，灭掉了后秦.檀道济威名远扬.
这一次，檀道济奉宋文帝之命，去抗击魏军.在二十几天里，宋军连打三十多仗，节节胜利，一路追击，打到历城(在今山东济南).这时，檀道济骄傲起来了，防备也有点松懈了.魏军抓住机会，派骑兵绕到宋军后方，烧了宋军的辎重粮草.宋军形势非常危急.檀道济明白，如果这时匆忙撤退，魏军就会怀疑宋军已无军粮而大举进攻，宋军很可能全军覆没.檀道济觉得，目前最紧要的就是要让魏军相信宋军还有充足的粮草.
一天晚上，宋军军营里灯火通明，檀道济亲自带领一批管粮的士兵在一个营寨里查点粮食.士兵们一边用斗子量米，一边拿着竹筹高唱着计数.有人偷偷地向营里望了一下，只见一个个米袋里都是雪白的大米.许多宋军将士也以为是后方送来了军粮，军心大振.
魏军的探子把这个消息告诉了魏将，魏将信以为真，果然不敢贸然追击宋军了.檀道济就这样率领宋军安全撤退.其实檀道济在军营里量的并不是白米，而是一斗斗的沙土，只是在沙土上覆盖着少量白米罢了.
檀道济是宋武帝、宋文帝两朝的名将，战功赫赫，威望越来越高，引起了朝廷的猜疑.当时，宋文帝生了一场大病，掌管朝政的彭城王刘义康及将军刘湛担心文帝死后，难以控制檀道济，便在文帝面前说了很多坏话，劝他尽早除掉檀道济，以免留下后患.
公元４３６年，檀道济奉诏回京.刘湛与刘义康认为时机来了，便用宋文帝的名义下了一道诏书，以收买人心、图谋不轨的罪名将檀道济杀害，同时被杀害的还有他的十一个儿子及薛彤、高进之等大将.临刑前，檀道济愤怒地将头巾扔在地上，喊道：“你们这是在自己毁坏长城啊!”
公元４５０年，刘宋王朝再次北伐，连吃了好几个败仗，结果魏军一路南下，攻到了长江边上的瓜步(今江苏六合东南).宋文帝登上建康的石头城，望着远处的敌军，长叹一声：“檀道济如果还活着，怎么会让魏军攻到这里!”
可这时檀道济屈死已有十四年了.