柔然的侵扰牵制了北魏力量，使其无力进一步征服其他割据政权，更无力南进，与刘宋王朝争强。拓跋焘也清楚地认识到这一点，提出如果不先征服柔然，就会腹背受敌，让整个国家陷于困境。他不顾太后和众多大臣的反对，在崔浩等支持下，决定北征柔然。

然而，拓跋焘还没有行动，柔然抢先一步发动了进攻。

在当时，柔然的统治者是柔然历史上的第十位老板大檀。大檀自号纥升盖可汗，意为制胜之王。

大檀老板野心勃勃，对于北魏的多次打击，纥升盖可汗与北燕联盟，一直寻找机会报仇。大檀老板得知魏明元帝拓跋嗣病卒，一个嘴上没毛的小屁孩即位，觉得有机可乘。在南朝宋元嘉元年（公元424年）八月，秋高马肥之际，纥升盖可汗即乘机率步骑六万攻入云中（今内蒙托克托一带），擒获魏军东白道（今呼和浩特北）守将段进。

柔然军队十分野蛮，杀掠吏民，攻陷了魏国皇帝避暑的盛乐宫，大肆劫掠人民和财富。

边境警报传来，魏国振动。拓跋焘亲自率轻骑救援，经过三天两夜的不停奔跑，终于到达了云中。拓跋焘率领中军跑得太快，脱离了大队人马，一不留神进入了柔然军队的埋伏圈。

柔然老板大檀看到魏军人少，打算抓活的，率领优势骑兵将拓跋焘团团围住，层层围困达到五十多层，紧紧压迫，以至于双方的马头对着马头。这样的情况亘古未见，汉高祖白登山被围也没有如此凶险，魏军将士大惧，军队不可避免的一片混乱。

面对如此危局，拓跋焘颜色自若，“同在矢石之间，左右死伤者相继，而帝神色自若。”命令将士下手，魏军将士闻风而动，奋勇突击，张弓射杀纥升盖的大将于陟斤。柔然军队折了锐气，陷入了一片惊慌，魏军士气大振，抡刀闯进柔然阵营，杀得柔然军队血流成河。

军队遭到了毁灭性的打击，纥升盖可汗的骄傲没了，吓得胆战心惊，不敢继续交锋，拨马就逃。

柔然大军消失在远方，跑得无影无踪，尚书令刘絜对拓跋焘说：“敌人遭受了挫折，必将复来。现在我们要做的是赶快收割田野的庄稼，储藏军粮，然后将增援而来的军队分成两队，东西并进以讨之”。

拓跋焘认为很对，决定按这个计划部署。

当年十二月，北方已经进入了最为寒冷的季节，大草原上冷风劲吹，白雪遮盖了山岗。这是一个北方的棕熊都要休眠的季节，一切的生命都要休息，但拓跋焘准备行动了，他命令安集将军长孙翰、安北将军尉眷分成东西二路大军，北击柔然。拓跋焘亲自率兵驻扎于柞山（今内蒙古土默恃左旗北），为战略后备。

听说了北魏大军长途奔袭，柔然大汗惊慌失措，率领主力仓皇北逃，一竿子逃到了更为遥远而寒冷的漠北。北魏大军那肯轻易地放掉猎物，紧迫其后，如影随形，接连血战击破了柔然主力，斩杀无数，“大获而还。”

南朝宋元嘉二年（公元425年）十月，又是一个秋季，拓跋焘为报柔然去年伐丧之恨，治兵于西郊，大举北伐，亲率大军控制中道，分兵五路进攻柔然。诸军将领分头进至漠南，舍弃了辎重，军队皆为行走如风的轻骑，携带十五日军粮，然后越过大沙漠进击柔然军队。

这时节，北方已经进入了冬季，寒冷异常，不适合人类活动。柔然各部躲到了大沙漠的深处，以为安全了，绝对没有料到魏军竟敢远离后方作战，而且来得如此神速。在震惊之余，柔然各部惊慌失措，无人愿做出头鸟，纷纷北逃，因为逃跑的匆忙，逃跑的时候免不了丢盔弃甲。拓跋焘亲率大军分东西路会兵柔然汗庭，至栗水（今蒙古南翁金河），大檀无备，率众西走，部落四散，人、畜、车庐损失数百万，仅马匹被掠去百万余，所属高车各部乘此倒戈，三十余万落归降魏。魏军经此大胜，缴获了大量的军械物资，获得了战斗的绝对胜利。魏军四处掳掠，拼命搜刮柔然各部的财产，在退兵的时刻，实行了野蛮的三光政策，破坏了柔然的城郭，然后胜利回军。

经过连续不断的失败，柔然受到了沉重打击，实力严重受损。这样的大亏谁受得了，柔然可汗大檀一气之下大病一场。柔然赔了夫人又折兵，再也不敢面对魏国的铁骑，大檀老板率领军队和人民开始了苦难行军，远离水草丰美的漠南，躲在山高皇帝远的漠北（今外蒙），不敢随意的进犯北魏的边境。

拓跋焘取得了上任以来的第一场大规模胜利，解除了北方最大的威胁，具备了对其他方向动兵的有利战略态势。