在潞州之战中大败后梁后，李存勖携胜势返回晋阳，大赏有功将士，并开始整顿内政。在治国方面，他显然做得比其父李克用和后梁太祖朱温更好。
他采取王道治国，一边严肃军纪、惩治贪腐、打击盗贼，一边任用贤才、抚恤孤寡，宽缓刑罚，晋国民俗为之大变，国内百姓归心。
公元910年，朱温遣后梁大军进犯河北成德、义武两镇。成德节度使王镕、义武节度使王处直先后遣使求援，打算与晋国结成同盟，并推李存勖为盟主。
李存勖亲自领兵出征，一战斩敌二万余，使梁军伏尸数十里，血流成河。成德、义武两镇从此成为李存勖强援。
打退后梁来犯之敌后，李存勖将攻略目标瞄向了继任幽州节度使的燕王刘守光。公元911年8月，刘守光在幽州称帝，国号大燕，史称桀燕。
这年冬天，李存勖兵出飞狐口（今河北蔚县），与成德、义武两镇联军共同征讨刘守光。经过两年征战，李存勖俘获并杀死刘仁恭、刘守光父子，完成李克用的第一个遗愿。
这一年，李存勖应王镕、王处直之请，在太原开设霸府，建立行台，自任尚书令，并以唐朝皇帝的名义任命各级官吏。
公元917年，当年李克用的结拜兄弟、契丹皇帝耶律阿保机率五十万大军南下进犯幽州。这是耶律阿保机对中原发动的第一次大规模战争。
幽州守将周德威坚守孤城两百余天，终于等来了援军。经过一番激战，晋军大破契丹，斩敌数以万计，缴获牛羊、辎重无数。
五年之后，成德、义武两镇背叛，邀请耶律阿保机共同对付李存勖。契丹大军再度入居庸关，在沙河及望都（今河北定县东北）与李存勖激战。李存勖以千骑亲军突破契丹大军重围后，会同本部大军一路追逐百余里，使契丹人马死伤惨重。
两次大胜，逼迫契丹人转向，计划先攻略北方广袤草原中的诸游牧部落和“海东盛国”渤海国。
而李存勖则在吞并河北，击败契丹，确保北疆无忧后，将兵锋推至黄河北岸，与后梁军队隔河对峙。
梁晋争霸进入最后决胜阶段。