刘宋建国之初，北方除北魏外，还有北凉、西凉、西秦、夏、北燕五国;此外，阴山以北，还有强大的柔然部落。其中夏和柔然都是魏的劲敌。刘宋虽只有半壁江山，对外却可专注，形势比较有利。其时，宋在河南还占有洛阳、虎牢、滑台、碻礅(今山东茌平西南)四个重镇，往东包括今山东省的大部分，济南、酒博、青州等城市都在宋的境内，建康离北方边境较远，所以比起东晋初年，它的局势要安稳得多。
南朝宋永初三年(422年)刘裕死后，魏明元帝(拓跋嗣)便命奚斤等攻陷滑台，进逼虎牢;另遣叔孙建等从平原(今山东平原西南)渡河，攻陷泰山(治今山东泰安东)、高平(治今巨野南)、金乡(治今山东嘉祥南)等郡，东进青州境内，东阳(今青州东)危急。
景平元年(423年)正月，魏于栗磾攻陷洛阳金墉城;叔孙建陷临淄。在魏军的攻勢下，宋只有东阳、虎牢两地的抵抗比较有效。在东阳，青州刺史丝夔动员居民尽量迁人东阳城，又使不进城的依山据险，实行坚壁清野。魏军攻城不下，又筹不到粮食，困难很大。
但是叔孙建车有三万之众，城中却只有一千五百人，又四重壕沟，已被魏军填没了三重，城墙也被冲年撞毁了多处，形勢很是危急。虎牢方面，毛德祖也领兵死守，他在城内掘地挖地道，直达魏军背后，用四百名敢死队掩袭魏军后方，焚毁攻城车具。然而，魏军毕竟勢大，尽管一时溃乱，很快又重新集合，攻打得更急。
宋檀道济从彭城(今江苏徐州)率军北上。他一支人马无法兼顾司、青二州(指虎牢方面和东阳方面)，两准之下，遂因青州路近，东阳兵弱，便决定先救东阳。四月初，檀道济军进至临朐(今属山东)，已距东阳不远。
其时，叔孙建因军中疾疫流行，病号占了半数以上，便主动烧营撤走。檀道济到了东阳，因粮食接济不上，不能追击。竺也因东阳城垣损坏得太厉害，就移屯至不其城(今山东青岛)。虎牢却没有得救。闰四月下旬，它在苦战两百天后终于陷落，守将毛德祖被俘。但魏军也付出了惨重的代价，损失了十之二三的兵力。
战争结束后，南朝宋丧失了湖陆(今山东鱼台东南)、项城(今河南沈丘南)以北的土地。然须提及的是:在虎牢失守的前夕，湖陆的檀道济军、项城的刘粹军、高桥(今地不详)的沈叔狸军都不敢救援，可见此时刘宋的力量，与刘裕北伐时相比，已经差得多。
这年十一月，魏明元帝死，太子拓跋焘(字佛狸)嗣位，是为世祖太武帝。太武帝初年(即宋元嘉初年)，魏与夏、与柔然的战争连绵不断，宋文帝利用这时机，于元嘉六年(魏神癌二年，429年)向魏要求归还河南各地，声称否则要用武力夺取。太武帝听了，付之一笑而已。
元嘉七年，宋文帝果然命到彦之率军北伐。四月，到彦之率五万之众，走水路由淮河人泗水，至七月オ到须昌(今山东东平东)，然后溯黄河西进。魏因碎礅、滑台、虎牢、金墉四镇兵少，主动撤出。到彦之军不费吹灰之力，便轻易收复四镇，又进屯灵昌津(在今河南延津县北)的南岸，使先头部队西进直抵潼关。宋军将土皆大欢喜，只有曾从檀道济作战的旧将王仲德不以为然，他料定魏军有计，一定是在等待冬季河上冰冻时反攻。
魏崔浩更看穿到彦之的弱点;把几万人排成东西二千里的一字长蛇阵，每一处只有几千人，力量非常薄弱。到彦之沿河布防后，就带着王仲德回东平须昌的大本营去了。到了冬天，十月，魏军渡河反攻，攻下洛阳、虎牢。
十ー月，宋文帝命檀道济率兵伐魏。但是到彦之失了洛阳、虎牢，先已胆怯，引军从水路撤退，到了历城(今山东济南)，便烧掉船只，丢掉铠甲，徒步退往彭城。魏兵追到历城。济南太守萧承之只有几百个兵，他命部下大开城门，做出毫无戒备的样子。
魏军大队人马到了城下，见了这等模样，估计必有伏兵，不敢进城而去。这是真正的空城计。后来讲三国故事的人，说不定就是从这件实事得到启发，再拿去装在诸葛孔明身上的。宋车这次冬季失败，损失惨重，府武库为之一空。
檀道济略为挽回了一点颓势。元嘉八年(431年)正、二月间，他北上救滑台，进至历城，二十多天中，打了三十多仗，重创敌军。魏叔孙建用骑兵小部队袭击他的运输线，焚烧草谷。檀部缺粮，不能前进，滑台终于失守，守将朱翛之被俘。
檀道济粮尽退兵，部下有人叛逃，把虚实告诉魏军，魏再发兵追击，宋军恐惧，随时可能溃散。檀道济在夜间宿营时，唱筹量沙(筹是记数字和计算的工具)，把剩下来的一点米铺在沙上，装出存粮极多的模样。魏军探知，以为降兵骗人，把他杀了。道济又故作镇静，命军土披甲，自己只穿便服，坐了轿子，慢乔吞地行走。
魏军见了，以为是诱敌之计，不敢再追，檀道济方得全军而归。宋军北伐至此完全失败。这次，魏同时还在与夏交战，仍绰有余力。宋的实力比魏弱得多，是非常明显的事实。以后宋魏之间平静无事了多年。到了宋元嘉二十六年(魏太平真君十年，49年)，其时已在魏统一北方之后的好几年，
宋文帝却又想要北取中原。古人说得好，“上有好者，下必有甚也者”，于是，自有那些既不知彼、又不知己的群臣纷纷献计，其中最起劲的是王玄漠。王玄谟字彦德，出身著名大族太原祁县王氏。他倒并不是少不更事之流，当时年龄已在六十以上，可就是喜欢空谈兵事。
他喜欢谈，宋文帝喜欢听，听得人神时还对左右说:“听玄谟所陈，令人有封狼居胥意(汉霍去病大破匈奴军，封狼居胥山而还)。”御史中丞袁淑会拍马屁，便说:“陛下席卷赵魏之后，定要封禅泰山，臣逢千秋难得的机会，愿意写上一篇《封禅书》。”文帝听了大为高兴，似乎中原已经回到了宋朝的版图。
魏太武帝倒是给过宋文帝醒悟机会的。元嘉二十七年(魏太平真君十ー年，450年)，从二月到四月，魏以十万之众，对南方发动了一次规模不大的战争。魏军围攻悬瓠(今河南汝南)四十二天，守将陈宪兵不满千，杀伤敌军在一万人以上，城池始终没有陷落。然而此外好几个地方的守臣都弃城逃走。宋人多有畏魏情绪，是显而易见的事实。
宋文帝在这种情况下，还是一心一意要大举北伐。丹杨尹徐湛之、吏部尚书江湛、彭城太守王玄谟支持文帝最积极。富有军事经验的太子步兵校尉沈庆之反对得最坚決。他说步兵难以抵敌骑兵，引檀道济无功、到彦之失利的先例为证。文帝却认为两将失利，各有原因，檀道济是不肯尽力，到彦之是中途患病。
今年夏季水大，河道畅通，便于用兵。沈庆之再三强调不可，文帝即命徐、江二臣和他辯论。庆之说:“治国譬如治家，种田该河家奴，织布该问婢女。现在陛下要出兵打仗，却和白面书生商议，如何办得好事情!”徐湛之是刘裕的外孙，是个生活奢华的文士，饮食服佈都极讲究，在建康很有名气。江湛家贫，生活俭约，为人公正，长于文辞。两人情况不同，然而都是文土，对军事窍不通，所以沈庆之说他们是自面书生。文帝不认真思考沈庆之说得是否有道理，见老将军(沈庆之时年六十五岁)讲得气咻咻的样子，倒哈哈大笑，不想再同他争辩。
七月，宋文帝下诏大举北伐。王玄谟率沈庆之、申坦等水军人黄河，受青冀二州刺史萧斌指挥。这一路是主力，也是最东面的一路。行军路线就是元嘉七年到彦之走的路。当年因水浅，通航困难，一天只能走十里路。二十七年水量充足，航行不会发生困难，进入黄河，可以直取碻礅。
雍州刺史随王刘诞(文帝子)指挥西面的一路，使柳元景等从襄阳北上，取弘农(今河南灵宝北)。东西两路之间，大体上相当于今江苏省徐州以西到河南省中部京汉线两侧地区，另有几支向北进攻的军队。
这次北伐需要庞大的人力、财力，人民负担很重。北伐开头似乎很顺利。魏碻礅、乐安(今山东博兴东北)守将都弃城而走。萧斌留沈庆之守碻磁，使王玄谟进兵围滑台。这支军队兵力充足，器械精良，但王玄谟是个庸オ，误了大事。
滑台城中，茅屋极多。部将建议用火箭，他怕烧了房屋，攻城后缴获不到多少东西，不肯使用。城中发觉了自已的弱点后，就自行拆掉了茅屋。中原人民见宋军来到，自行纠合，带了武器来投军，每天都有上千人。王玄漠不用义兵的首领，把义兵队伍拆散了分配给自己的亲信，还要他们每家缴纳一匹布、八百只大梨。
中原人民大失所望。他围攻滑台几个月，还打不下来。九月，天气转凉，魏太武帝亲自领兵南下救滑台。王玄谟军的先锋将垣护之驻兵滑台西南一百二十里的石济(今河南延津县东北)，得到魏救兵将到的消息，急报王玄谟，劝他不惜代价，赶快拿下滑台。王玄漠大营里的众将也劝他赶紧建立车营，以作防御。王玄谟却一概不听。
十月，魏太武帝到达枋头(今河南浚县西南即石济对岸)，先派几个人利用夜色掩护，潜入滑台，安慰守军，并登城观察宋军营垒，然后回营报告。太武帝得报后，随即引兵渡河，来救滑台。魏军号称百万之众，击鼓之声震动天地。王玄漠急得六神无主，仓皇之中，只说得一个“走”字，顿时全军溃散。魏军追击，杀死将士一万余人，缴获的军资器械堆积如山。
王玄谟走后，魏军把缴获的船用三道铁锁联结起来，封锁河面，截断垣部退路。垣护之利用水大流急，行动迅速，每到铁锁面前，命兵上用长柄斧劈断通过。魏兵无法拦阻。他带的一百条船，只损失了一条，其余都安全撤回。
萧斌得到兵败消崽，派沈庆之带五千人去救王玄漠。沈庆之说:“玄谟所部已经疲劳，不堪战斗，敌军已近，没有几万人无法迎敌，派小部队去没有丝毫用处。”萧斌坚持要他去救，争执之间，王玄谟已经逃到碲。萧斌发火，要斩玄谟，沈庆之又劝他不必，说:“佛貍威震天下，岂是王玄谟所能抵敌，而且临阵新将，绝不是好办法。”
萧斌听谏，王玄谟才得保全性命。萧斌想坚守碚璈。沈庆之又劝他不要坐守穷城，以免蹈朱脩之守滑台的覆撤。萧斌想要依他，朝廷使者又到，传达文帝不准退兵的命令。萧斌再和众将商议。沈庆之说:“将在外，君命有所不受。将军有一个范增而不能用，空谈有何益处!”众将知道这个老头子是个文盲，见他引证史事，都笑起来说:“沈公现在大有学问!”
庆之厉声答道:“列位虽则通晓古今，其实还不如下官靠耳朵听来的有用!”萧斌接受他的意见，只留王玄漠守嘀，申坦、垣护之扼守清口(在今山东梁山县东南)，自己率军还历城，以防魏军东进青州。后来因高做的位置过于突出，无法防守，又命王玄谟撤出 西面战斗中，雍州诸将打得有声有色，比王玄漠强多了。有个七十多岁的老将庞季明，出身关中土豪，他主动提出到关中去发动各族人民起兵。他从襄阳北上，穿过今豫西山区到卢氏县(今属河南)。卢氏人赵难起兵响应。安都等军利用这条件，通过卢氏以东的熊耳山北上，柳元景等军跟踪前进。十月，柳元景、庞法起等都到了卢氏。
接着，庞法起等进兵攻克弘农，留薛安都守弘农，法起等进攻潼关。十ー月，诸军攻陕城(今河南陕县西南)，与魏授军激战。薛安都是员猛将，他打得性起，丢掉头盔，脱去铠甲，马也去掉护身的具装，怒目挺矛，单骑冲杀。矛断了，换根再打。两军恶战两天，宋军大胜，新援军主将洛州刺史张是连提等三千余人，俘降二千余人。柳元景到后，宣布:“今王旗北指，当使仁声先路。”
把俘降的兵士全部释放。宋军随即攻克陕城，又攻克潼关。关中豪杰闻风而起，山区的差、胡各族也派人与宋军接洽，愿意归降。在西路军的东面，宋梁坦、刘康祖等也攻克长社(今河南长葛东)，进通虎牢，他们也打得很不错。然而王玄谟败了，魏兵南下，宋文帝认为柳元景等不宜单独进军，下诏班师。他们只得放弃所得各地，退回襄阳。
北伐失败了。魏太武帝大举南侵。魏军分成好几路，其中永昌王拓跋仁的一路从洛阳向寿阳进军，很快就攻占悬瓠、项城。宋文帝怕寿阳有失，赶紧召刘康祖军回寿阳。刘康祖军只有八千人，走到离寿阳只有几十里的尉武(在今安微寿县西)，被拓跋仁军追上。拓跋仁有八万骑兵，人数为十与一之比，又有以骑兵对步兵的优势。
刘康祖的副将胡盛之主张绕道，走山路回寿阳。康祖不肯，还结车营前进，并下令:“回头看的斩首，改变走路方向的斩脚。”＇魏军追到，四面围攻。刘部殊死苦战，杀敌一万余人，康祖身受十伤，仍坚持战斗。
魏军人多，一分为三，轮番作战。战斗打了整一天，最后，康祖颂部中箭，落马而死。其余部溃散，儿乎全被魏军所杀。这是异常惨烈的一战。拓跋仁军进抵寿阳，宋豫州刺史南平王刘铄(文帝子)关上城门，不敢出战。魏兵也只在周围各地烧杀掳掠。魏太武帝亲自统率的主力军进迫彭城(今江苏徐州)。朱江夏王刘义恭(文帝弟)、武废王列骏(文帝子，即后来的孝武帝)都在城里。
刘义恭听见魏兵将到，想弃城逃走。长史张畅说一动脚军民便各自逃散，决不可行。刘骏也说叔父要走，只能听便自己决心与此城共存亡，义恭オ息了逃走一念。魏军打彭城，久攻不下，太武帝便主动歇手，于十二月初，引兵南下。宋文帝命臧质领兵一万人救彭城。他到旴(今江苏盱眙东北)时，魏军已经渡过了淮河，两军相遇，他这一万人怎能抵敌北魏大军，一交战即被歼灭，臧质只带了残部七百人进得旴哈城。盱眙太守沈璞是个有主见的人。
王玄谟在滑台时，他就修缮城垣，浚深壕沟，积储粮食矢石。魏兵南下时，地方官多弃城逃走。有人动他回建康，他却说:“敌人如果以为城小犯不着攻，当然不须忧虑，如果来攻，这是我报国之秋，诸君立封侯之功的机会，为什么要走?诸君见过几十万人聚在小城之下而不败的事例吗?昆阳(刘秀破王莽军)、合肥(张辽破孙权军)的战例可为明证。”
大家听了这一席话，情绪才比较稳定。他集结了两千精兵，威质来后，力量更加充实。臧质见城中粮食器械都很充足，大喜过望，便和沈璞词心协力，守卫城池。魏太武帝果然不攻盱眙，只留儿千人马监视，引大军继续南下。十二月十五日，到达瓜步(今江苏六合东南，当时在江边)，他下令拆民房，结筏子，扬音要渡长江。
建康顿时陷入空前紧张的状态，在丹杨尹管辖区域内征发全部丁男，王公以下的子弟一律不得免役，沿江水陆布防、宋文帝登石头城，对江叹道:“檀道济若在，怎么会使胡马到此!”
半个月很快过去了。元嘉二十八年正月初二，魏军烧毁房屋撤走，居民也尽被掳去。魏军转回到旴眙，太武帝向质索取美酒，质封了一瓶人尿给他。太武帝大怒，下令攻城。魏军从附近的山上运来泥土石块填塞壕沟，造浮桥截断水陆通道。太武帝为了泄怒，不惜断送大量兵士的生命，他在威吓臧质的信中说:“我用的兵不全是我国人(按指鲜卑人)，城东北是丁零人和匈奴人，南面是氏和羌。丁零人死了，正可减常山、赵郡贼;匈奴人死了，可减并州贼;氏、羌人死了，可减关中贼。你杀他们，对我并无不利!”
踱质绝不示弱，回信痛骂，并把朝廷所出赏格货给他看，内容是:“斩佛狸首，封万户侯，赐布、绢各一万匹。”魏太武帝更怒，令将土猛攻。魏军用钩车把钩子抛到城上，钓住城楼，想把它坂倒。守军用又粗又长的绳子缚住钩子，几百人用力把它往里面拉。钩车扳不倒城楼，也无法后退。
到了晚上，守车用绳子把木桶吊将下去，桶内藏人，到了下面，截断钩上的索子，让钩子落到城里。绳子一拉，藏人的木桶又到了城上。魏军又用冲车撞城。因城墙的垒土夯得坚实，撞击的力量虽大每一下只能撞落不多一点土。魏军不惜代价，驱使兵士禁登城墙，把死人的尸体当台阶，到了后来，尸体堆积得同城墙一般高低。到正月底，差不多一个月了，还是打不下来。太武帝说得嘴硬，不怕死人，但是死伤越来越多、病号也越来越多，加之彭城还在宋军手里，他不能不担心。
二月初一，他下令烧掉攻城器械解围撤走。盱眙保卫战是宋军大获全胜的战役。魏军经过彭城时，刘义恭不敢出击。等到建康使者赶到，送交追击的命令，魏军已经觉察，把走得慢的掳来的一万多人杀掉后，长驱而去。彭城的追兵白赶一阵，连敌兵的影子也没有见到。
战争完全结束了。刘宋军民死伤被掳的不知有多少，魏军的人马也损失了一半以上，南朝和北朝其实都是输家。然而，南北对比，南朝宋愈弱也是不可否认的事实。南宋词人辛弃疾的名句“元嘉草草，封狼居胥，贏得仓皇北顾”(《永遇乐?京口北固亭怀古》)，说的正是这段史事。
