周师大举南征之际，辽人乘机屡屡南侵，柴荣当时就打定了主意，一旦平定江北，他将置西蜀于不顾，先全力北伐辽国。此时，南唐既已归附，柴荣便已南顾无忧了，便大举征发徐、宿、宋、单、滑、亳、郓、魏等州丁壮数万人，浚通运河航道。
不久，河道即告浚通，柴荣遂决意御驾亲征，收回燕云十六州！随后，柴荣便以韩通为陆路元帅，以赵匡胤为水路元帅，分命诸将水陆俱进，他自己则乘坐龙舟沿河北上。一时间，数百艘战舰扬帆而进，首尾相连达数十里之长，实乃黄河南北之人从未见过的状景，皆蜂拥在两岸围观、喝彩，一路上到处都能听到“万岁、万万岁”的欢呼声。四月十七日，大军抵达乾宁，辽宁州刺史王洪闻听周天子御驾亲临，当即举城投降了。
大军行至独流口，逆流西进，一直抵达益津关。辽守将佟廷晖见周军势大，也举城投降。自益津关向西，水路越来越窄，巨舰已无法行走，大军只好弃舰登陆，继续西行。
当晚，柴荣率五百侍卫骑军露宿于野外。此时，大军尚远在十余里之外，而辽骑军却不时地出没于营地周围，羊角号声此起彼伏。随从的朝官皆异常恐惧，吃不下，睡不着，唯有柴荣却视而不见，听而不闻，从容地用餐、入睡。说来也怪，整整一夜，辽骑军却始终不敢逼近柴荣营地。
赵匡胤率前军抵达瓦桥关后，辽守将姚内斌即举关投降了。柴荣随后就进入了瓦桥关，次日，辽莫州刺史刘楚信也举城投降了。李重进率大队后军赶到后，辽瀛州刺史高彦晖见周军势大，也举城归降了。
至此，数万周军，未放一箭，未伤一卒，就将瓦桥关以南诸州悉数平定了，周军共得三座大州、十七个县、一万八千三百六十户。
当晚，柴荣大宴诸将，并商议进取幽州之事。诸将皆认为：“陛下离京四十二日，兵不血刃，已尽取燕南之地，这已经是不世之功了，如今，辽骑军皆聚集在幽州之北，不宜再深入了。”柴荣闻言，大为不悦。
次日，柴荣以刘重进为先锋，命其先行进发，占据固安。刘重进发军之后，柴荣亲自率军抵达永定河边，命军士建造河桥。傍晚，他又驰回瓦桥关过夜。半路之上，路过一处高台，柴荣见有一百多父老百姓带着牛酒前来慰问，便问道：“此地何名？”
一老者答道：“历代相传，都称之为病龙台。”
柴荣闻言，默然不语。当夜，就突然感到身体不适，宰相、近臣听说后，又劝他尽早回军。柴荣无奈，只好命全军暂停北上，传令大军回师。
柴荣在回军的路上，颁布诏命：以瓦桥关为雄州，以滑州节度留后陈思让为雄州都部署，将容城、归义二县划归雄州；以益津关为霸州，以侍卫马步都指挥使韩令坤为霸州都部署，将文安、大城二县划归霸州，并命韩通从滨、棣二州调发数千壮丁修筑霸州城。不久，孙行友送来捷报，易州被攻陷，生擒辽国刺史李在钦。当日，李重进大败北汉兵于百井关，斩首二千多级。
柴荣回军至澶州，又有些犹豫了：眼见得三关已定，燕云诸州即可指日而下，此时渡河回京，实在心有不甘！于是传令大军原地驻军，想等他的身体好转后，再返军北伐。不想，他越是着急，病情却越是不见好转。故而，整日里郁郁不乐，一个人都不想见，即便是宰相、近臣甚至于太医，他都一概不见。将吏、军士们尽皆人心惶惶，皆预感到将有大事发生。
此时，柴荣只允许一个人可以自由出入于他的卧室，此人便是张永德！于是，群臣们只好让张永德带话给柴荣。大军抵达澶州的第四天清晨，张永德像往常一样去探望柴荣，只见柴荣坐在床头，两眼直勾勾地望着窗外。他叫了数声“陛下”，柴荣才回过头来，平静地对他说道：“朕将不久于人世了！”
张永德大惊，说道：“陛下正当英年，偶染小恙，实在是再平常不过了，不日即可痊愈，陛下却为何出此不祥之言？”
柴荣叹道：“卿有所不知，当年朕在民间之时，曾经梦到神人赠我金色大伞一顶和《道经》一卷。昨夜，我又梦见神人前来，向我索走了金伞和经书，这不是天命将去了吗？”
张永德劝道：“梦乃心生，陛下北征染恙，宏愿一时未能实现，心中有所不甘，故而才有此梦。如今天下未定，根本尚还空虚，四方诸侯皆希望京师有变。眼下，我们距大梁已经很近了，陛下须快快回京，以安定人心，万不可再逗留于此，万一有不测之事，宗庙该怎么办呢？”
柴荣一听，突然问道：“是谁让你说这些话的？”
张永德大为惊慌，答道：“众臣皆有此意。”
柴荣不语，低头沉思了半晌，方才叹道：“我知道一定是有人教你这样说的，但是你却不明白我的心意啊！唉，你为人忠厚，肯定是被人利用了！”
张永德低头不语，柴荣说道：“好吧，咱们回京吧。朕还真的担心，朕还能不能再回到大梁？还能不能再看到朕的皇后皇子？”
张永德愕然，但却不知说什么才好……
柴荣终于又回到了大梁，他刚刚入宫，潞州节度使李筠就送来了捷报，说是将北汉辽州攻陷，其刺史张丕被擒。柴荣大喜，精神略有好转。
南唐泉州节度使留从效遣别驾王禹锡假冒商人到大梁进贡，并请求在京师建置进奏院，以脱离南唐，直接隶属于朝廷。柴荣不但没有答应他，而且还在赐给留从效的诏书中说道：“江南刚刚归附，正在安抚，爱卿一直称臣于金陵，不宜改图。假若泉州在大梁设置邸馆，金陵必会心疑，若是如此，其罪就在于朕了。爱卿遣使者长途跋涉尽职进贡，已足以表达忠心，卿当一如既往地勉力事奉旧君。若能如此，对于爱卿，则是有始有终，顾全了君臣之义；对于朕，则是顾全了安抚天下的一片苦心。”
南唐主李璟听说此事后，大为慨叹，深为柴荣的一番苦心所折服，连忙遣其子纪公李从善随周使钟谟至大梁请安。
柴荣问李从善道：“江南有没有治兵修备？”
李从善大为心惊，忙答道：“江南既已向大国称臣，又怎敢再治甲兵？”
柴荣道：“不然，过去是仇敌，如今则是一家，我与江南大义既然已经确定，就必须保其无忧。然而，人生难料，后世之事，更难以预料。回去之后，告诉你主：趁着朕在的时候，赶快修筑城郭，修缮甲兵，防守要害之地，以为子孙后代考虑。”