承平兴国四年（公元979年）正月,南方全数回顺。宋太宗召集大臣筹议讨伐北汉之策。宰相薛居正等许多朝臣反对讨伐北汉。薛居正说:“当初,周世宗举兵进攻,北汉依靠辽的援助,坚守城池按兵不动,周只得撤兵。后来,太祖在雁门以南打败辽人,将其苍生都安设在黄河洛水之间。北汉已经没有多鼎力量,得到它也不克不及增加几疆土。请阱下慎重考虑事。”“周世宗时,在石岭关失利,军心摆荡,不能不凯旅回朝;太祖时，因兵士多患腹病才不能不退回,并非北汉的城防坚不成摧。”宋太宗问:“那么我如今收兵北伐,你认为若何呢?”曹彬答复道:“现在国度兵精将勇,人心同一,铲平太原,易如反掌。”宋太宗于是下定了讨伐北汉的决心。
十日,宣徽南院使潘美为北路都招讨造置使,桂州看察使曹翰攻城西,河阳节度使崔彦进攻太原城东,彰德节度使李汉琼攻太原城南,彰信节度使刘遇攻城北,构成对太原的包抄之势。最难攻的是城西,因为那里是北汉主的宫城所在,曹翰道:“我只是个小小的看察使,官位低于节度使刘遇,应该让刘遇攻打西。”刘遇不愿,曹翰执意要换,难以决定,后来太宗给了曹喻一顶“智勇双全”的高帽子,并说城西非卿不成攻破,曹翰才牵强容许。
十一日,命云州看察使郭进为石岭关都摆设,负责切断契丹援兵。派田仁朗、刘绪负责侦查太原城及其四周的军事设备,并购置攻城器材，戎行摆设完毕,十五日潘美辞行,太宗在长春殿设席,面授讨北汉机宜,要他依计行事。
二月十五日,宋太宗御驾亲征分开汴京,前去太原,宋对北汉二度大规模伐起头了,十八日,车驾抵达澶州(今河南县),太仆寺的官员宋捷在路边驱逐。宋太到那人的名字,兴高摘烈地说:“此使必胜了。”于是封宋捷为将做监丞。
四月二十二日,赵光义率军抵达太原城下,驻扎在汾水东岸。二十四日破晓前,赵光义亲到城西督军攻城,战斗十分惨烈。蒲月一日,城外的羊马城被攻破。北汉宣徽使范超出城投降,宋军认为他出城迎战,将其生擒问斩。三日,北汉马军都批示使郭万超又出城投降。
四日,赵光义到城南巡视督战,慰问世人说:“明天端阳节,我们到刘继元的宫殿食粽子庆祝节日,怎么样?”将士一齐欢唤道:“好!”如斯一来,士气愈加高涨。第二天,赵光义又到城南督战,将士抢先夺攻,伤亡惨重。赵光义见土兵红了眼,晓得攻破后,他们必然会残杀苍生,那与“圣天子”的德性相违犯。因为太祖死的突然，他当皇帝也不合传统,朝野间对此议论颇多。在那当口若发作屠城的事,其实倒霉于本身的威名。因而,眼看即将破城,便命将上退回,传命城中:“更好主动投降!”
北汉将士仍要固守,退休宰相马峰正卧病在床,闻讯,命人抬着他往见北汉主，含泪劝导刘继元投降，北汉主刘继元见大势过去，到次日凌晨,率领官属,向宋太宗投降。赵光义按例赦宥了他的罪恶，而且好生安抚了一番，并封刘继元为右卫上将军,彭城郡公,其他投降的北汉臣僚也都的到了晋封。北汉自刘崇称帝割据了二十十九年后消亡。
北汉消亡后，赵光义命令毁掉了太原城，并将城内的僧道富户迁进洛阳。蒲月十八日，赵光义登上太原城北的沙河门楼，派人分片驱逐城内居民迁移，并纵火烧屋，许多老弱之人被烧死在城中。太原苍生为同一付出了繁重的代价。另一方面，北宋攻灭北汉，完毕了唐末以来的军阀割据场面，为南北经济文化交换创造了前提，也使得人民脱节了军阀混战的悲苦生活，总体来说，功仍是大于过的。