此后，卢质虽然有时放肆，但李存勖总是能容得下他，一直没有借故加害。
不久，李存勖开始遍访唐朝旧臣，打算准备朝廷百官。前礼部尚书苏循到了魏州。进入牙城，看到官府就拱手弯腰行礼，叫做拜殿。见了李存勖连声高呼万岁，手舞足蹈。边哭边自称臣下。
第二天，苏循又献给李存勖三十支大笔，叫做“画日笔”。李存勖十分高兴，马上恢复苏循官复原职，并任命他为河东节度副使。
四月二十五日。李存勖登上祭坛，祭告上天，随即登皇帝大宝，国号大唐。
尊其母晋国太夫人曹氏为皇太后，其父的正妻秦国夫人刘氏为皇太妃。追尊曾祖父李执宜为懿祖昭烈皇帝，祖父李国昌为献祖文皇帝，父亲李克用为太祖武皇帝。在晋阳建立宗庙，从高祖、太宗、懿宗、昭宗至懿祖以下，共七个庙宇。
又任命豆卢革为门下侍郎，卢程为中书侍郎。郭崇韬、张居翰为枢密使，卢质、冯道为翰林学士，张宪为工部侍郎、租庸使，李德休为御史中丞。然后把魏州升为兴唐府，建东京，又在太原府建西京，同时把镇州升为真定府，建北都。任命魏博节度判官王正言为礼部尚书，兼任兴唐尹。
太原马步都虞候孟知祥为太原尹，充西京副留守。潞州观察判官任圜为工部尚书。兼真定尹，充北京副留守。皇子李继岌为北都留守、兴圣宫使，判六军诸卫事。当时的唐国共有十三个节度、五十个州。
接下：四月，李嗣源攻克郓州；六月。李存勖率军南下，击败梁军，梁军退守德胜；九月，李嗣源击败王彦章部；十月二日，唐军攻克中都，俘获王彦章；十月三日。李嗣源率军夜袭梁都大梁，后梁末帝朱友贞自杀，唐军攻占大梁，后梁灭亡。不久李存勖迁都洛阳。
经过十多年的交战，李存勖终于基本上完成了父亲的遗命。
这里还要提到前面的一个老朋友--李茂贞。
朱温称帝后，李茂贞没有出兵讨伐朱温，也没有称帝，却关其门来做起了事实上的皇帝：开设岐王府，设置百官，以其所居为宫殿，其妻称皇后，各种仪仗都跟皇帝一样。
然而因实力大不如前，之后的十余年间，李茂贞屡为河东、梁朝和前蜀所败。到后梁末年，他的领地只剩下了七个州，成了一个独立的袖珍王国。
李存勖灭掉梁朝后，李茂贞以叔父的名义给李存勖写了封信，祝贺他攻占开封。
等李存勖定都洛阳后，他心里很是不安，于是上表称臣，让儿子去朝见李存勖，归附后唐，李存勖因他是旧朝元老，对他很尊敬，仍让他担任原职，还改封他为秦王。
李茂贞病时，李存勖派人去给他送药慰问，不久，李茂贞与世长辞了，终年六十九岁，谥曰忠敬王。
灿烂人生
郭崇韬，字安时，今山西代县人，最初在李克用的弟弟李克修手下效力，李克修死后，他又回到李克用身边，此后一直是李克用的贴身近臣。
郭崇韬为官清廉、做事干练、遇事机警，到李存勖继位后，中门使孟知祥极力举荐他，说他才堪大用，能够管理难度更大的事情，于是李存勖任命他为中门副使，和孟知祥、李绍宏一起参与机要。
不久，李绍宏到幽州任职，在此之前，中门使吴珪、张虔厚两人先后都因不能得到李存勖的欢心而被治罪，到了李绍宏出镇幽州以后，孟知祥害怕步了他们的后尘，于是称病辞官。
李存勖让他推举来接替他的人，孟知祥便推荐了郭崇韬，郭崇韬没有认为这是个火坑，于是屁颠屁颠地走马上任了。
从此，郭崇韬典管国家机密，跟从李存勖鞍前马后，南征北战，勤勤恳恳，毫无怨言。
922年，郭崇韬随李存勖征讨镇州张文礼，契丹借口援救镇州，出兵进犯。
到了新乐，晋军将士见契丹大兵压境，非常恐慌，纷纷要求退还魏州，李存勖正在犹豫不定，郭崇韬对他说：“阿保机这次领兵南下，并非为了解救镇州，而是冲着财物来的，如果前锋被打败，他肯定会退兵的。
何况我们刚刚战胜梁军，威震北方。士气也正旺盛，应该趁此良机驱逐契丹，必将大捷！”李存勖听从了他的意见，挥师北上与契丹军交锋。果然获得大胜。
梁晋杨刘之战时，郭崇韬为兵部尚书兼枢密使。
当时，李存勖正跟梁军对阵黄河两岸，卫州刚被梁军夺取，形势对晋军非常不利。
王彦章在攻克德胜南城后。又顺着黄河东进直取李存勖坚守的杨刘城。
这时，众将都十分悲观，以为天不祐唐，这次灭梁之战又要无功而返了。郭崇韬向李存勖献计说：“敌人攻打杨刘，为的是攻取郓州，如果我们再不突围南下救援李嗣源的话，胜负就很难预料了。
请允许臣领兵到南岸再建一个渡口，以通兵援救郓州。
但王彦章得知后肯定会前来阻止，所以请陛下招募敢死之士，每日向梁军挑战。牵制敌人，如果十天不受干扰，则新城必成，到那时两面夹击，就胜利在望了。”李存勖深以为然，于是命郭崇韬率领上万军队于夜间渡河南下。
郭崇韬亲临指挥，夜以继日，修筑工事，六天之后，梁军果然前来攻打。当时城池因为刚刚建成，还不稳固，王彦章督阵猛攻不止，郭崇韬身先士卒。