王玄谟久攻滑台而不克，当初宋军刚刚围困滑台的时候，因为滑台城内多是茅草屋，手下参军就向王玄谟献计，建议用火箭朝城中射击，到时城内茅屋燃烧，百姓军卒慌乱，正好可以乘势攻城。可是王玄谟却认为城内房屋燃烧，滑台将成为焦土，自己即使得了也不是大功一件，于是不准。

　　但魏军很快也意识到这点，于是加紧拆除茅草屋，将军民转入安全处，甚至在城中挖穴而居，王玄谟失去战机。

　　当宋军兵进河南的时候，黄河两岸的百姓争相投奔，并纷纷带来军粮武器，但王玄谟却不信任他们，将他们分割看管，又要求附近百姓为大军缴纳物资。当时天气炎热，河南产梨，王玄谟就让士卒向民户索取供大军食用，甚至要求一匹布换千金梨。王玄谟的所作所为大失民心，河南地区的居民纷纷希望北魏早日南下，并为他们提供情报。

　　秋十月，天气转寒，黄河开始结冰，拓跋焘调集四十万大军，号称百万开始南下反攻。拓跋焘驻军枋头，先派先锋猛将陆真率军突入滑台城中，安抚滑台守将。已经坚守三个月，形将崩溃的北魏滑台守军因此精神大振。

　　接着魏国援军大至，向滑台挺近。将领们都知道北魏骑兵的恐怖，于是建言王玄谟赶紧用战车结阵抵挡魏骑，谁知王玄谟知道北魏反攻后，心里十分恐惧，唯一想的就是逃跑，于是不理会将领们的建议。

　　王玄谟麾下钟离太守垣护之此时正在滑台西南一百二十里的石济，听说魏军即将南下的消息，立刻遣人送信给王玄谟，建议道“往年武帝攻打广固，战死的人也很多。况且目前情况和往日不一样，怎么能光是考虑士兵的伤亡疲劳呢，希望将军把攻克滑台作为最迫切的任务，然后凭城坚守。”。

　　数日后，拓跋焘受到陆真传回的消息，立即派殿中尚书孙真率骑兵五千渡过黄河，切断王玄谟退路。次日，拓跋焘亲率四十万大军渡河，直逼宋军。魏军号称百万，旌旗蔽日，战鼓声震天动地，军势极为强盛。王玄谟遥遥望见，吓得肝胆俱裂，便没有通知部属，仅带数百亲兵，丢下大军向东逃走。魏军来攻，宋军一时间找不到主帅，无法调度，阵势大乱，士气崩溃，一战下来几乎全军覆没。而王玄谟所携带宋军最好的军资弃械全部归于魏军所有。

　　王玄谟仓皇逃命，连自己围攻滑台的大军都没有通知，更不要说远在石济的垣护之了。拓跋焘把缴获的王玄谟水军战舰横在河面上，再用三层铁链连接，打算断绝西边宋军沿河的归路。

　　垣护之在石济得知围攻滑台宋军全军覆没后，急忙率军东撤。正当他所乘的百余艘小舰来到滑台附近时，就看见了河面上密密麻麻全是连在一起被缴获的宋军战舰。垣护之所率的水军大为惊慌，但垣护之知道魏军不善水战，船舰上防御的魏军也不会有多少战斗力，而岸边距离又太远，弓箭对自己不会造成威胁。于是下令水军乘着迅急的河水全速前进，遇到铁链就用大斧砍断。船上的魏军在颠簸中果然不能作战，当垣护之攻破连船撤到碻磝时仅损失了一艘小舰，这是王玄谟先锋大军唯一保存下来的一支队伍。

　　在垣护之退到碻磝之前，王玄谟早已逃到此城了。东路军主帅，辅国将军萧斌见他弃军而走导致全军覆没，怒不可遏，下令将其斩首。但被太子步兵校尉沈庆之劝阻，沈庆之认为王玄谟深得天子宠幸，应当将他送回建康后，交由天子发落。但战事紧急，后来王玄谟又被要求镇守碻磝，北伐失败后，并未受到处罚。此后王玄谟却在文帝去世数次平定宗室叛乱有功，一路升迁，官居左光禄大夫，护军将军，开府仪同三司，最后受命辅政。

　　萧斌见前锋已败，准备亲率主力固守碻磝。沈庆之劝他说：“夫深入敌境，刚逢大败，敌兵将要大至，如何能久守呢。现在青、冀二州空虚，而坐守孤城，若敌兵绕过碻磝东过，青州以东非国家有也。”。

　　正在这时，宋文帝诏书至，不许萧斌后退。沈庆之仍坚持退军，言道：“古人云：将在外君命有所不受，再说诏令从远方传来，耗时良久，局势已经发生变化了。”。于是萧斌重新部署诸军，以王玄谟守碻磝，申坦、垣护之守清口，自己率诸军还驻历城。尽管如此，东路军的失败，已成定局。此后，统帅北伐军事的太尉刘义恭以碻磝孤城，必不可守，召令王玄谟退军，碻磝再次落入魏军手中。

　　而此时北魏大军的攻势才正式开始，魏帝拓跋焘把大军分为五路，一路由征西大将军、永昌王拓跋仁自洛阳向寿阳；一路由尚书长孙真向马头；一路由楚王拓跋建向钟离；一路由高凉王拓跋那自青州向下邳；自己亲率主力自驻地东平向邹山进发。

　　十一月初，拓跋焘亲率的中路大军进攻邹山，宋军主将、鲁阳、阳平二郡太守崔邪利投降，魏军进驻邹山。拓跋焘在进军路上看到了秦始皇当初刻石记功的石碑，拓跋焘冷笑道：“功绩不是自己给自己加的！”于是让人推到石碑。进驻邹山后，他又让臣下用太牢礼祭奠孔子，意图收拢天下士子之心。

　　与此同时，北魏楚王拓跋建所率领的魏军进驻彭城门户萧城，并派步兵进屯彭城另一门户留城。镇守彭城的刘宋武陵王、徐兖二州刺史刘骏与驻军在彭城节度北伐诸军的江夏王、太尉刘义恭派参军马文恭、行军司马嵇玄敬率军分别进至萧城、留城，防卫魏军，并监视他们的动向。马文恭、嵇玄敬二军出发后各自与魏军遭遇，宋军大败，马文恭只身逃回。嵇玄敬军却由于当地百姓的协助，取得胜利，魏军遭到失败。当时，萧城魏军距彭城仅十里之隔，彭城守军虽多，但军粮匮乏，形势十分危急。刘义恭欲弃城南逃，安北长史、沛郡太守张畅力谏道：“今城内乏食，百姓们都有逃走的意愿，只因关防严厉，所以不敢逃走。若殿下一旦离开，百姓则会不顾一切各自散走，阻拦也阻拦不住。现在虽然粮草紧张，但一时之间还能坚持，如果就这样撤走，不但彭城不保，大军在路上也可能遇到追兵，岂有舍万安的方法，而行危亡道理呢？”。刘骏认为张畅所言有理，也劝刘义恭留镇彭城。刘义恭无奈才决意坚守彭城。数日后，魏帝拓跋焘亲率大军进至彭城，宋军据城固守，彭城坚固魏军始终不能攻克。

　　北魏永昌王拓跋仁所率领的八万骑兵，自洛阳南进，连克宋悬瓠城、项城，直趋寿阳。可惜年初陈宪以不足一千守军面对十万魏军所坚守的悬瓠城，如今轻易就这样被攻下了。

　　宋文帝刘义隆担心镇守寿阳的豫州剌史、南平王刘铄被围，遂急令身在虎牢的安蛮司马刘康祖返回寿阳。刘康祖得令后火速回师，在寿阳北数十里处，遭遇拓拔仁的大军。刘康祖此时仅有士卒八千之众，副将胡盛之建议傍山依险，从小路返回寿阳。康祖大怒。说道：“贼寇今日自己送上门来了，不用我王师远征，犬羊虽多，实易摧灭。我军虽然人少，但都是精兵，此去寿阳只有数十里，一旦交战，援军很快就到，有什么好担心的呢！”，遂命将士结车营沿大道向寿阳进发。

　　魏军仗恃人多，四面夹攻宋军，刘康祖率军奋战一天一夜，杀敌万余人。魏军又分为三批，轮番进攻，，并以马匹运柴草火烧宋军车营，刘康祖激励将士，拼死决战，两军激战整整一日，战场上流血没踵，仍不见寿阳援兵。刘康祖身被十多处创伤，仍奋勇作战。

　　傍晚，激战一日的刘康祖骑在战马上，手拿长矛，大声呼喊道：“将士们，为国尽忠的时候到了！”，就在这时，不知何处射来的一支利箭射中刘康祖的脖颈，刘康祖惨叫一声坠马而死，主将一死，不久宋军也全军覆没。拓跋仁乘胜围攻寿阳，并分兵袭扰刘宋马头、钟离等地。刘宋南平王刘铄命将士烧掉寿阳四周庐舍，坚壁清野、凭坚城固守。

　　当初魏军反攻之时，魏帝拓跋焘就命令各军不要刻意攻打城池，碰到顽抗的城池就绕道而行。这一方面是年初悬瓤城血战不下的教训，更是因为当年其父明元皇帝拓跋嗣南侵时，崔浩献上的策略，崔浩认为南人善于守城，北人善于平原作战，如果强力攻城于己军不利，所以献上“略地为上，攻城为下”之策。当初，朝堂之上，群臣纷纷献计拓跋嗣之时，身为太子的拓跋焘也在当场。如今想起当年崔浩力排众议的风采，拓跋焘不禁哀伤起来，因为崔浩已经在数年之前因为牵扯国史之狱，被自己冤杀灭族了。

　　面对北魏的攻势，宋文帝刘义隆认为东路军败退，魏兵深入南境，西路柳元景等军不宜独进，遂令其撤退。于是西路军拼死攻克的弘农、陕城、潼关又得而复失，遂为北魏占有，西路军所取得的辉煌成果，也付之东流。

　　此时战争的主动权已经完全掌握在北魏的手中了，北魏军队一路烧杀抢掠，所过之处赤地千里，魏军军锋指向淮河。

　　十二月初一日，北魏诸军渡淮南进，高凉王拓跋那出山阳、永昌王拓跋仁出横江、中书郎鲁秀出广陵，太武帝自率大军直趋瓜步。魏军迅速南下，因此未带军粮，大军沿途就以抄掠为食。

　　稍早前，得知彭城被围，文帝刘义隆急令臧质率兵一万援救。臧质乃是臧熹的儿子，刘裕爱妻臧爱亲的侄子。当年其父臧熹西征谯蜀时，突然病故，因为刘裕和臧爱亲在京口时就很疼爱这个内弟，为此刘裕大感悲伤，特令其子臧质袭爵，臧质那时候只有十三岁。成年后，臧质入朝为将，但是他行为轻佻，不为表兄刘义隆喜爱，遂被免官。因为臧质从小生长在京口，与刘裕长女刘兴娣亲善，于是因会稽公主刘兴娣说情而被外放，后来立有功勋，开始被刘义隆接受。一路官至宁远将军，徐兖二州刺史。但是元嘉二十七年初，臧质因为援救汝南陈宪后，在镇压当地虏乱时，枉杀大臣而被罢官。所以次北伐仅以白衣的身份，担任中路军先锋，而如今他刚刚被授予辅国将军，率军援救彭城。

　　谁知臧质大军刚刚行至盱眙附近就迎头遇见拓跋焘亲率的魏军，原来拓跋焘见彭城难克，便率军南下。臧质沿路建立营寨拒守，并向建康报信。很快宋将胡崇之等人便率众二万援盱眙。

　　臧质担心魏军占据盱眙城东的高山，遂在盱眙城东扎营，另外命令胡崇之、臧澄之、毛熙祚分率三营屯兵山上。魏军先攻灭胡崇之、臧澄之两部兵马，又攻击毛熙祚部。毛熙祚率部奋战，虽一度击退魏军，但自己也因伤重而死，所部随即溃败。臧质因魏军攻势甚猛，一直按兵不敢救援，以致于三营二万人全军覆没。

　　当晚，臧质所部亦被魏军击溃，只得丢弃辎重器甲，率七百残兵败投盱眙城。

　　幸好盱眙太守沈璞早已作好守城的准备，盱眙城防加固、粮草、军械、守城器械十分充足。沈璞的部下们因城内守备完善而不愿接纳臧质。但沈璞不欲专功，遂接纳臧质入城。臧质入城后，见城防阻固，人情辑和，鲑米丰盛，器械山积，因此大喜，遂与沈璞一同坚守城池。

　　魏军几番攻城皆无功而返。当时，魏军是以抢掠补充给养，但因淮南一带坚壁清野，已是无处劫掠。拓跋焘得知盱眙囤有大量粮食，遂打算在日后北撤时再夺作军粮，故此攻城一受挫便即绕城而过。他命将领韩元兴领数千兵马守在盱眙城外，自率魏军主力继续南攻。臧质连忙趁机继续完善城防工事，魏军主力虽然离开，但是臧质与拓跋焘的“缘分”还远远没有结束！

　　魏军继续南进，沿路烧杀抢掠，刘宋许多城邑守将望风奔逃。十二月十五日，拓跋焘军抵达瓜步，与建康隔江而对。

　　拓跋焘策马来到江边，遥望江对面的建康城，顿感豪情万丈，便对属下将领言道：“当年苻坚率百万大军南下，却止马淝水，而朕兵威所至，饮马长江，卿等纵观古今，有及得上朕的吗？”，众将拜服，纷纷山呼万岁。的确，自古夷狄之君，拓跋焘是第一个兵临长江者。

　　魏军到达长江北岸后，开始大肆拆除民房，建造船只，做出要渡江的样子，建康因此震动，宋廷上下一片恐慌，朝廷百官甚至有了迁都以避锋芒的呼声。

　　然而，面对江对面来势汹汹的魏军，文帝刘义隆却没有因为恐惧而慌了手脚，他当廷驳斥迁都之说，并力主坚守。

　　刘义隆命令建康内外戒严，悉发建康附近地区的丁壮为兵，王公以下子弟皆从役。领军将军刘遵考等将兵分守建康津要，派水军沿江巡弋，史称宋舰“上接于湖，下至蔡州，陈舰列营，周亘江畔，自采石至于暨阳，六七百里，船舰盖江，旗甲星烛”。同时刘义隆仍感不足，他急令荆州水军浮江来援，他又命太子刘劭总领水军，出镇石头城，丹阳尹徐湛之守石头的仓城，吏部尚书江湛兼领军，总领军事。

　　同时文帝向江北发布悬赏令，悬重赏购拓跋焘君臣首级，悬赏令上写“斩佛狸伐首级者，封八千户开国县公，赏布绢各万匹，金银各百斤。”，佛狸伐正是拓跋焘的小名。文帝又募人将毒酒置江北空村中，魏兵不知，饮用后中毒身死者不少。

　　一日晚间，宋文帝刘义隆登上石头城向江北遥望，只见对岸魏营首尾相连，营内火把点点，竟然绵延数十里。刘义隆面有忧色，想到北伐不成，反而遭此危局，一时间懊悔异常，良久后长吁道：“如果檀道济还在，怎么会到这个地步！”，是啊，如果檀道济还在，曾经的北府名将们还在，北虏能嚣张至此吗？原本刘义隆想着先可以收复河南失地，再北跨黄河、西克关中，统一天下，然后封禅泰山！如今却导致魏军离自己仅咫尺之遥，社稷危在旦夕。刘义隆思及于此，忍不住潸然泪下！