1901年11月8日生于中国山西省五台县永安村。原名徐象谦，字子敬。1911年在永安村读私塾，三年后再读高小两年。1917年因贫困失学，在河北省阜平县一家书店（后为杂货店）当学徒。1919年春，考入太原市山西省立国民师范学校速成班学习，在校期间受五四运动影响，参加进步活动。1923年毕业后，曾在阳曲县城太原第四小学和五台县河边村川至中学附属小学任教，因秉性刚直，向学生灌输进步思想，两次被辞退。1924年5月初，考入黄埔军校，编入第一期第一队。9月，被编入孙中山卫队前往韶关参加北伐誓师。11月底毕业后留校任第三期入伍生队第三队副排长、排长。1925年2月至6月，参加讨伐军阀陈炯明的第一次东征。同年夏天，被派到河南国民第二军第六混成旅任教导营教官、旅司令部参谋、第二团团副等职。1926年11月到武汉后，任南湖学兵团指导员。1927年3月，加入中国共产党。4月，任武汉中央军事政治学校少校队长。曾率学生队参加攻打叛军夏斗寅部，后被派往张发奎部任司令部参谋。7月底，随张发奎部开到九江。南昌起义后，几经波折，奔走武汉、上海找到党组织。9月，在上海被中共中央军委派赴广州，在工人赤卫队中任第六联队队长。12月，参加广州起义，率队苦战三昼夜。起义部队在花县改编为工农革命军第四师，任第十团党代表。
在转往海陆丰地区途中，升任第四师参谋长。1928年6月，任第四师师长，与彭湃等坚持武装斗争。1929年1月，根据东江特委决定，带部分人员撤出海陆丰地区。3月，由九龙到上海。6月11日，受中共中央军事委员会派遣前往鄂东北，先后任中国工农红军第三十一师副师长，中共鄂豫边特委委员，鄂豫边革命委员会军事委员会主席，指挥弱小的红军挫败国民党军队发动的三次“会剿”，歼灭大量地主武装，扩大了武装割据地区。在此期间，总结海陆丰武装斗争失败的教训和鄂豫边斗争的经验，与党代表戴克敏等共同起草《军事问题决议案》，提出领导边区武装斗争的方针，以及集中作战、分散游击，红军作战尽量号召群众参加，敌进我退、敌退我进等游击战术等七项原则，对鄂豫边红军的建设和游击战争的发展起了积极作用。1930年春，任第一军副军长兼第一师师长。乘军阀在中原地区混战之机，率部转战于平汉铁路南段，连克云梦、光山、罗田等县城。1931年初，第一军与第十五军合编为第四军，任军参谋长。协助军长旷继勋等指挥部队，在地方武装配合下，连续挫败国民党军对鄂豫皖苏区第一、第二次“围剿”。7月，任第四军军长，与政治委员曾中生率部南下，一个月内连克英山、罗田、浠水、广济四城，歼敌七个多团。11月，当选为中华苏维埃共和国中央革命军事委员会委员，任第四方面军总指挥兼第四军军长。采取集中兵力、围点打援、击敌一路、各个歼灭的方针，半年中组织指挥了黄安、商（城）潢（川）、苏家埠、潢（川）光（山）战役，歼敌正规部队近四十个团，使国民党军对鄂豫皖苏区的第三次“围剿”计划彻底破产，红军发展到四万余人。在此期间，对张国焘军事指导的错误和“肃反”的错误进行了抵制和斗争。
1932年10月，由于敌人的强大和张国焘战略指导的错误，鄂豫皖红军未能打破国民党军的第四次“围剿”，第四方面军主力两万多人被迫撤出鄂豫皖苏区。在向西转移中，他指挥部队连续击破了国民党军十万余人的围追堵截，翻秦岭，涉汉水，越过大巴山，历尽千辛万苦，行程一千五百余公里，胜利地进入四川通江、南江和巴中地区，开辟川陕革命根据地。
1933年2月起，根据川陕地区的特点，采取收紧阵地、节节抗击、伺机反攻、重点突破的作战方针，连续指挥了反“三路围攻”和仪（陇）南（部）、营（山）渠（县）、宣（汉）达（县）等战役，并与王维舟率领的川东游击军会合，使红军得到很大发展，川陕苏区进入鼎盛时期。1933年11月至1934年8月，指挥所部抗击国民党军二十多万人的“六路围攻”，以灵活多变的战术取得歼敌一万余人的重大胜利。1934年2月，被选为中华苏维埃共和国中央执行委员。1935年春，指挥广（元）昭（化）、陕南、强渡嘉陵江等战役后，率部长征。6月，第一、第四方面军会师后，被任命为红军前敌总指挥部总指挥。参加中共中央在毛儿盖召开的军事工作会议，积极拥护中共中央北上创建川陕甘根据地的战略方针。会议期间，被增补为第六届中央委员，并获中央革命军事委员会授予的金质红星奖章。会后率右路军北上，指挥包座战斗，全歼胡宗南部第五十九师，打开了进军甘南的通道。同年9月，与毛泽东、周恩来、陈昌浩等电促张国焘率左路军北进。在中共中央和第一、第三军北上后，积极维护党和红军的团结，和第四方面军广大指战员支持朱德、刘伯承等反对张国焘分裂活动的斗争，推动部队第二次北上。1936年7月，第四方面军与第二方面军会师后，任中共中央西北局委员。8月，再次率军北上，指挥了通（渭）庄（浪）静（宁）会（宁）战役。会宁会师后，奉中央军委命令，率第四方面军一部西渡黄河，执行宁夏战役计划。11月，任西路军军政委员会副主席兼西路军总指挥，率部继续西进，计划在河西走廊创建根据地，伺机打开到新疆的通路。西路军浴血奋战四个多月，歼敌二万余人，有力地策应了河东红军的战略行动，但终因敌众我寡、弹尽粮绝而失败。他历经艰险，于1937年6月到达延安。
抗日战争爆发后，出席了中共中央在洛川召开的政治局扩大会议，被选为中共中央革命军事委员会委员。会后同周恩来赴太原与阎锡山谈判，开展抗日民族统一战线工作。8月，任八路军第一二九师副师长，参与指挥广阳、神头岭、响堂铺等战斗和晋东南反“九路围攻”。1938年4月，率第一二九师和第一一五师各一部进入河北省南部，提出在平原地区依靠群众，开展游击战争的方针，领导扩大抗日武装，建立统一战线和抗日民主政权，创建冀南抗日根据地。1939年1月，参与组织和指挥冀南春季反“扫荡”。同年6月到达山东，任八路军第一纵队司令员，统一指挥山东和苏北、皖北八路军各部队，坚持抗日游击战争，并对国民党顽固派进行斗争。1940年底，返回延安。1941年7月，写出《敌寇在华北战略战术的演变及其特点》一文。10月，发起成立延安黄埔同学会，当选为理事。1942年5月13日，任陕甘宁晋绥联防军副司令员兼参谋长。1943年3月，任抗日军政大学校长，兼任中央处理委员会主任。8月，担任抗大总学习委员会书记，领导整风学习。1945年6月，被选为中共第七届中央委员。
解放战争时期，先后任晋冀鲁豫军区副司令员、华北军区副司令员兼第一兵团（后改为人民解放军第十八兵团）司令员兼政治委员。1948年3月至5月，指挥临汾战役，以大部分新组建之部队，攻克设防坚固的临汾城。6月至7月指挥晋中战役，以六万兵力歼国民党军十万余人，解放县城十四座。1948年10月至1949年4月初，带病组织指挥太原战役，任太原前线司令部司令员兼政治委员、中共太原前线总前委书记。1949年7月25日，当选为第十八兵团出席中国人民政治协商会议的代表。
中华人民共和国成立后，任人民解放军总参谋长。1954年起，任中央人民政府人民革命军事委员会副主席、国防委员会副主席。1955年被授予中华人民共和国元帅军衔和一级八一勋章、一级独立自由勋章、一级解放勋章。军委分工主管空军和国土防空工作。1965年起，任第三、第四届全国人大常委会副委员长。1966年至1987年任中共中央军委副主席。曾与刘伯承共同负责战略研究工作，并主管空军、防空军及民兵工作。参与领导军队革命化、现代化、正规化建设和国防建设。1967年1月12日，任全军“文化革命领导小组”组长。2月，与陈毅、叶剑英、谭震林等同林彪、江青两个反革命集团进行了激烈的斗争，被诬为“二月逆流”。4月，在军委扩大会议上受批判。之后，三次被抄家。9月，给毛泽东主席写报告，请求免除全军“文革组长”职务。1969年夏，受毛泽东、周恩来委托，在陈毅主持下，与叶剑英、聂荣臻一起，组成国际形势研究组，几次开会讨论，全面深入研究了国际形势，写出《国际战争形势的分析》等有重要价值的报告，为打开对外工作的新局面提出了战略性的意见和建议。1978年至1980年，任国务院副总理兼国防部部长。1979年2月，参与决策和指挥中越边境自卫还击作战。1983年6月至1988年4月任中华人民共和国中央军事委员会副主席。
是中共第八届至第十二届中央委员，第八届（十一中全会补选）、第十一届、第十二届中央政治局委员。
1990年9月21日，徐向前在北京逝世。享年八十九岁。临终留下遗嘱，骨灰撒到他战斗过的大别山、大巴山、太行山和河西走廊。