李存进，是振武军朔州（今山西朔县）人，原本姓孙，名叫重进，是单于府小吏孙之子。他初仕岚州刺史汤群为部校。乾符五年（878年）冬天，李克用攻破朔州，得之于军中，爱其沉稳骁勇，遂留在身边，做了一名军校。李克用奉命围剿黄巢，他亦随之入关。及李克用镇守河东，他随之到达太原，掌管府衙事务。景福年中，接替李存璋做了义儿军使，被李克用赐姓李，改名存进。
乾宁二年（895年）六月，李存进随李克用入关讨伐王行瑜，论功授检校常侍。不久，又与李嗣昭一起兴师河中府，大破王珙，立王珂为河中节度使。光化三年（900年），契丹入侵边塞，进攻云州，李克用任命他担任永安军使、雁门以北都知兵马使，率军抵抗契丹的入侵。天复初年，汴军大举入侵河东，分兵五路进犯晋阳，李存进率军迎战，在洞涡大破汴军大将氏叔琮。天复三年（903年），改任石州刺史。李克用死后，李存勖继立为王，将他征入太原，授予步军右都检校司空。李存勖率晋军出井陉，进攻魏博方镇（治所在魏州，今河北大名东北），授他行营马步军都虞侯一职，参预军事，在柏乡大破梁军，论功授州刺史，转检校司徒，不久又兼都巡按使。
当时魏博镇刚刚归附于晋，人心不服，很多魏博将士桀骜难训，动辄违犯军令，有的还阴谋发动暴乱。李存进闻讯，沉着冷静，果断地将违法乱纪和图谋不轨的将士全部逮捕归案，枭首示众，以儆效尤。魏博诸军无不胆颤心惊，从此收敛野性，不再滋生事端。
天十四年（916年），李存进升任蕃汉马步副总管，跟从存勖进攻杨刘，参加胡柳之战。周德威父子阵亡，存勖意欲退兵，幸亏他和李嗣昭极力劝阻，才转败为胜，取得了胡柳大捷。
天十六年（918年），李存进从李存勖渡河进攻汴军，因功又以本职兼领振武节度使。当时，晋军占领德胜渡，隔河建立营栅，以遥相呼应。汴军则占据了上游的杨村渡，顺流而下攻打晋军。为了两岸调军方便，梁军从洛阳运来了竹木等物，在黄河上搭建了浮桥，十分方便。晋军依靠船只来回运送军队，风大浪急，既不方便，又常发生险情，缓急之际难以济事，与汴军相斗总是处于下风。李存勖十分焦急，号令全军想办法解决这个问题。
李存进思虑良久，也没有想出一个好计策。他信步出营，来到黄河岸边查看。时值五月，草木茁壮，岸边浅滩上的芦苇生机勃勃，繁密茂盛，随着河风婆娑起舞，发出“哗啦哗啦”的声响。他眼睛一亮，想到一计，兴冲冲来见李存勖。李存勖看到他眉开眼笑的模样，猜到他想出了好主意，连忙问道：“瞧你高兴的样子，可是想出了好主意。”李存进说：“我想搭造一个浮桥。”李存勖顿觉失望，原以为李存进有什么新鲜办法，原来不过是老生常谈，心想：这也叫个办法？如果像梁军一样有竹有木，我还用这么发愁吗？
李存进见状，知道存勖并没有理解自己的意思，进一步说道：“我军虽无竹木，但可以利用岸边的芦苇。我们先将芦苇编成又厚又结实的苇席，再将大船连结起来，在岸边堆土成山，树以巨木，用以固定铁链，然后把船和芦苇串连起来不就行了吗？”李存勖疑惑地问：“这、这能行得通吗？”李存进满有把握地回答：“放心吧，大王。我一定会成功的。”李存勖想，反正也没有其他办法，不妨让他试试，于是点头答应。
李存进召集了数千士兵，让他们分头去割芦苇，堆土山，准备铁链。十天以后，工程完毕，一座由战船和芦苇搭成的浮桥已横跨黄河之上。李存勖及众将士都来观看，只见八条铁链由岸边人工堆成的土山上的巨木伸出，横跨过江，几十条船分别用铁环固定在铁链上，每两条船之间又铺上厚厚的苇席，紧紧地固定在铁索上。士兵们在上来来往往，跑来跑去，竟十分平稳。李存勖大喜，夸奖李存进道：“存进，你真是我的杜预呀！”一高兴，赐给他骏马一匹，御衣一件，进位检校太保、兼魏博马步都将，让他与李存审一同驻守德胜。
天十九年（921年），汴将王瓒率众进逼德胜北城。他们挖掘地道，从地道推入堆放柴草的车子进入晋营，然后放火烧营。北军主将正是李存进，他随机应变，在营中挖了一条宽一米深三米的壕沟，火车一入营，立即往下倒水，好在黄河之水取之不尽用之不绝，滔滔的黄河水流入沟中，不但浇灭了梁军的火车，而且顺着地道往外流，将地道中的梁兵淹了个半死。王瓒碰了一鼻子灰，带着残兵败将狼狈而退。李存进因功晋封太傅。
天二十年（922年）七月，镇州讨伐张文礼反叛，李存勖兴师讨伐，战事不利，大将李嗣昭于九月战死。李存勖任命李存进接替李嗣昭担任招讨使，率军进驻东垣渡，夹滹沱河扎下军营。滹沱河岸，沙土干燥，不适于堆造墙垣，李存进遂命军士到林间伐木来建造营栅。这一日，晋兵尽出伐木，张文礼之子处球突率数千镇军前来劫营。李存进闻讯，立即率领不足一百人的队伍出营接战。双方在桥上展开混战。李存进这时已经66岁，须发皆白，但身板硬朗，精神不减当年。他挥舞宝剑拦在桥上，剑锋所及，镇军纷纷后退。不过镇军仗着人数众多，蜂拥着往上冲，李存进和他手下的士兵杀退一批，另一批很快又涌上来。李存进到底上了年纪，时间一长，便觉呼吸沉重，腿脚不便。百名晋军拚死搏斗，要保他冲出重围。李存进不许，说道：“大军就在附近，不久就会赶来。如果我们自顾逃命，营寨就会落入敌军手中，我军将要损失更多的人马。我们一定要坚持到底。”
晋兵在李存进的领导下继续苦战，人员不断伤亡，最后只剩下李存进等十余人，并且都挂了彩。李存进大腿挨了一刀，前胸中了一枪，鲜血如注，仍在咬牙苦战。忽然一支冷箭从镇军中射出，正中李存进的左胸。原来张处球在后督阵，见久战不下，心中焦急，拔出弓箭射了李存进一箭。李存进一个踉跄，差点跌倒在地。张处球大喜，指挥军队往桥上冲来。这时忽听一声炮响，从晋军营寨里冲出一股精兵，呐喊着往桥上杀来。跟着身后又传来一阵鼓角的鸣声，大批晋军越过河堤直冲过来。原来外出伐木的晋军接到讯息赶回增援来了。张处球吃了一惊，害怕前后受敌，急忙率军逃走。
李存进见大军回援，悬在嗓子的一颗心才放回了胸中，这才感到浑身剧痛，困乏到了极点，眼前一黑，栽倒在地上。众人急忙救治，哪里还来得及！张处球的那支箭刚好射中了他的心脏，他能当场未死全仗着一股心劲支持着。现在看到大军已返，敌军退走，营寨转危为安，这一口气泄了，人也就不行了。消息传到晋阳，李存勖大哭一场。同光初年，李存勖建立后唐，追赠他为太尉。