李渊恼怒之下，又记起了与李靖的旧恨，他要新帐旧帐一起算，遂发一道密诏，要许绍将李靖处决，幸运的是，许绍是个惜才之人，他恳求李渊赦免李靖，李靖又一次死里逃生。
没过多久，唐高祖就不再记恨李靖了，因为李靖带着几百士兵突袭冉肇则的大营，又在冉肇则的退路上设置伏兵，李靖枪挑冉肇则，唐军俘敌五千人，而唐军只有区区八百人。
唐高祖告诉李靖，“勿忧富贵”，要他再接再厉。还写了一道敕令，“既往不咎，以前的事，我早就忘了”。
武德四年（公元621年），李靖向唐高祖献上平灭萧铣的十条计策，唐高祖当即采纳，任命李孝恭为夔州总管，李靖为行军总管，兼任李孝恭长史，实际上全权负责军队的指挥。李靖招来巴蜀酋长的子弟，
授以官职，实际上把他们押作人质。有子弟在唐军手上，巴蜀酋长们帮助萧铣时就不得不十二分的谨慎。九月，江水猛涨，波涛险恶，
李靖偏挑这个时候顺江而下。诸将建议水势减缓后再行进兵，李靖老谋深算，“兵贵神速，现在我军集结，萧铣还未察觉，我们出其不意，萧铣猝不及防，一定会被我们抓住”。
唐军二千多艘战船出发了，一路顺利，很快攻克了荆门，而荆门正是梁国首都江陵的门户。
萧铣不知脑袋里转得是那根筋，在此之前，竟把主力部队解散，送到各地去屯田，现在唐军进攻，别无他法，
他只有临时拼凑了几万军队，全部交给名将文士弘，让文士弘驻防清江，与唐军决一死战。
梁国的救兵纷纷赶往都城，时间紧迫，李孝恭决定马上出战。他亲自带兵攻击文士弘，却被打得大败。文士弘的部队趁机抢夺战利品，阵势混乱。
李靖眼看机不可失，马上投入了驻守大营的全部兵力，奋力杀敌，李孝恭也率部回身再战，唐军反败为胜，直抵江陵城下。
萧铣手中无兵，只能收缩战线，放弃了江陵的外城和水城，唐军一下子缴获了水城中的大批舰船，兴高采烈。
此时，李靖要求大家把梁军舰船统统放进长江里，令所有的人大吃一惊。
李靖告诉大家，“江陵一时半刻难以攻下，而梁国的救兵马上就要赶到，那时唐军腹背受敌，处境就十分危险，想逃走都不容易。
我们让梁军的战船在长江里顺流而下，下游来的梁国援兵看见这么多无人的空船，一定以为江陵已被攻下，萧铣已经完蛋，马上就会丧失斗志，这时招降他们，就是顺理成章的事情了”。众人击节赞叹，马上依计而行。
萧铣的援军看见大批的无人舰船后果然上当，放慢了急驰如飞的脚步，唐军加紧围攻江陵，萧铣的末日来临了。
江陵的求援使者没能冲出唐军的包围圈，无法向外界传递消息，萧铣盼不来援军，终于绝望了，开城向唐军投降。
萧铣被送到长安，最终无法逃脱斩首的命运。胜利之后，唐军将士渴望大肆劫掠，想要没收梁军将士的家产，被李孝恭和李靖坚决阻止，“王者之师，是仁义之师，双方各为其主，梁军将士不是罪人，不能这样对待他们。
现在还有很多地区尚未归附，我们如果不能宽大为怀，梁军就会放下投降的念头，与我们死战到底，这可不是什么好事”。
在李靖的严格约束下，唐军纪律严明，秋毫无犯，江陵的人心安定了，梁军余部纷纷归降，唐军兵不血刃，控制了梁国的全部领地。李靖成就大功，被封为上柱国和永康郡公，任命为岭南抚慰大使，拥有“承制拜封”的特权。
他采用怀柔政策，尽力招抚，共得岭南九十六州，六十余万户，岭南地区归入了大唐帝国的版图。李靖成为检校桂州（今广西桂林）总管，为朝廷镇守岭南地区。
武德六年（公元623年），江淮地区的农民军领袖辅公祏再次反唐，自封为宋国皇帝，以丹阳（今江苏南京）为都城，举兵直指海州、寿阳。李渊再度任命李孝恭为元帅，李靖为副元帅，
发兵围剿辅公祏的江淮军。辅公祏自守丹阳，辅公祏的部将冯慧亮、陈正通驻守博望山和青林山，占据有利地形，坚守不战。
唐军诸将提议，绕道进攻丹阳，只要丹阳城破，冯慧亮等人必然不战自溃。李靖否决了这一提议，
“丹阳城防坚固，如果我们不能一举拿下，冯慧亮等人再从背后进攻我们，唐军腹背受敌就很危险了”，李靖说出了破敌之策，马上被李孝恭采纳。唐军派出老弱士卒上门挑战，被江淮军打得抱头鼠窜。
江淮军眼见唐军如此没用，大喜过望，赶紧发兵追赶，很快落入了唐军的埋伏，
江淮军损失惨重，一败涂地，博望、青林相继失陷。李靖乘胜进攻丹阳，辅公祏弃城而逃，路上被属下出卖，在浙江武康镇被献给了唐军。
辅公祏在丹阳被斩首，江淮平定了，唐朝基本上统一了中国，这中间，长江流域归入大唐版图，
李靖居功至伟。他被唐高宗升为兵部尚书，担任扬州都督府长史，和李孝恭一起出镇江南，这时，他已经成为李渊父子眼中的战神。
武德八年（公元265年），突厥进攻太原，李靖率领一万江淮精兵北上，驻守太谷，与突厥人展开血战。
此次参战的其它唐军部队损兵折将，唯独李靖所部得胜而还，以后，得以全面参加反击突厥的战争。武德九年，突厥进攻灵州