李靖原名李药师，后被封为卫国公，人称李卫公。他的先祖从后魏到隋朝，都是高官显贵，隋朝的名将韩擒虎是李靖的舅舅。
李靖青年时代参加科举，担任地方官。他最喜欢的却是钻研兵法，经常和韩擒虎讨论兵法，受到韩擒虎和杨素的重视。
当隋炀帝的****引起天下大乱的时候，群雄趁机兴兵，李靖仍然忠于隋朝。在李靖担任马邑郡丞时，他看到上司太原留守李渊想谋反，于是决定向巡游江都的隋炀帝告密。李靖受到李渊的控制，无法逃脱。他把自己混成囚犯，让部下送往江都。不幸的是，走到半路的李靖被李渊抓回去。就在将要被斩的时候，李靖大喊："你起兵为天下百姓过上好日子，想成就霸王之业，为什么用私家的恩怨来杀忠臣呢？"
李渊欣赏李靖的话，李世民求父亲别杀李靖。李靖从此投靠了李世民，成为李世民的猛将。
李靖追随李世民东征西讨，依次铲除了隋末的群豪，就剩下南方的萧铣占领长江中下游，号称梁帝，经常和唐朝为敌。铲除萧铣是统一天下的关键。这个重任落在李靖的头上。
公元620年，梁朝内部出现了****，君臣决裂，是灭梁的大好时机。李靖马上向唐高祖李渊禀告灭梁十策，建议率水军，从四川顺江直下，袭击梁都江陵，另遣部队假装进攻汉水，吸引梁军，再四路进军江陵。李渊采纳了他的十策，命他和赵郡王李孝恭共同承担灭梁大任，实际上由李靖指挥。
公元621年，李靖奉命采取军事行动。唐军偏师占领了安襄两州，吸引梁军向北集结。四川两地唐军乘江水大涨的机会，乘战舰二千多艘顺流直下，占领了扼守长江要道荆门山的宜都，又占领了清江，歼敌一万，主将文士弘败逃。李靖率军来到江陵城下，打败了梁守将杨君茂、郑文秀，俘虏了四千敌军。其他三路唐军也赶到了，把江陵重重包围。
由于唐军行动太快，梁军大部分都散在江南和岭南，结果江陵的兵力很少。但萧铣是久经沙场的猛将，虽然大兵压境，但是他凭借城高沟深，水军精锐，仍然全力抵抗，率领水军迎战靠近江陵的李靖军。李孝恭刚要率军开战。李靖劝说，梁军士气太旺，不宜和他们决一死战，如果等一天，他们就会分兵守城，到时候再攻打他们。李孝恭没有接受，仍然率军出战，被梁军打败，逃到南岸。梁军战胜以后，掠夺了唐军的军资，结果行动缓慢。李靖率军反击，打败了梁军，梁军水军覆灭，萧铣只能固守江陵了。
李靖命令把缴获的舟舰全都散弃在江中，让它们漂流而下。众将大惊。李靖说："萧铣地广兵众，我们最怕的是各地的梁军前来援救。如果江陵攻不下，敌军援军纷纷赶来，那我们就回不去了。现在我把舟舰丢弃，让它们顺江而下，梁军看见了会怀疑江陵失守，吓得不敢援救，等他们前来察看情况时，来回一趟需要十天至一个月，我们趁机攻下江陵，捉住萧铣。"
下游梁军见弃舰流来，吓得不敢向江陵进发，萧铣苦盼援军不来，已经箭尽粮绝，被迫出城投降。李靖率军进入江陵，安抚梁军将士。梁朝的各路援军看到江陵失守，唐军宽大，于是纷纷归降。李靖又奉命安抚岭南，抄了梁朝的所有财产。