1897年4月28日生于中国广东省梅县雁洋堡下虎村一个小商人家庭。原名叶宜伟，字沧白。1902年入钟傲泉私塾读书，后进古玉泉私塾读书。1908年就学于丙村镇三堡学堂。1912年就学于梅县东山中学。1916年在梅县横山新群小学教书。后随父赴南洋谋生，到达马来西亚的怡堡。1917年夏回国，入云南陆军讲武堂学习。毕业后前往福建漳州，追随孙中山从事民主革命，加入“援闽”粤军。1920年8月参加粤军回粤驱逐桂系军阀之役。不久，任广东东路讨贼军司令部参谋。1921年10月，随中华民国非常大总统孙中山出巡广西，后任江防舰队海军陆战队营长。1922年夏，当投机革命的广东军阀陈炯明发动武装叛乱时，叶剑英率部参加护卫孙中山、反击叛军的作战。10月，前往福建，任东路讨贼军第八旅参谋长。1924年春，任建国粤军第二师参谋长，应廖仲恺之邀，参与筹办黄埔军校，任教授部副主任。1925年2月，陈炯明叛军再次来犯，奉调回第二师参与组织指挥作战，保卫广州，参加第一次东征。
10月，参加第二次东征，同月参加平定广州商团叛乱。先后兼任第二师独立营营长和新编团团长，设营于香州，配合黄埔军校培训军士。1926年任国民革命军第一军总预备队指挥部参谋长，参加北伐。攻克南昌后任新编第二师师长。1927年4月蒋介石发动反革命政变后，毅然通电反蒋，从吉安赴武汉，任国民革命军第二方面军第四军参谋长。同年7月，加入中国共产党。南昌起义前，在九江得知汪精卫阴谋加害叶挺、贺龙的消息，立即告知叶、贺，并商定对策，挫败了汪精卫的阴谋。南昌起义后，劝说第二方面军总指挥张发奎放弃尾追撤出南昌的起义军。后兼任第四军教导团团长，率部南下，进入广州，任中共广东省军委委员。根据中共广东省委的指示，积极扩充教导团、警卫团等革命武装，为起义创造条件。12月11日，参与领导广州起义，任工农红军副总指挥。1928年冬，赴苏联莫斯科，入中国劳动者共产主义大学学习。1930年回国，到达上海。1931年初，进入中央苏区，历任中华苏维埃共和国中央革命军事委员会委员兼总参谋部部长、中国工农红军第一方面军参谋长、中国工农红军学校校长、瑞金卫戍司令员、闽赣军区及福建军区司令员，参与反“围剿”作战的指挥。1934年，被选为中华苏维埃共和国中央执行委员。红军长征前，任军委第四局局长。10月，任军委第一纵队司令员兼政委，参加长征。11月，在西延、龙胜山区敌机的一次空袭中负伤。12月，任中央纵队副司令员兼军委第一局局长。第一、第四方面军会合后，任红军前敌总指挥部参谋长。与张国焘企图分裂和危害党中央的阴谋作了坚决斗争，保证了第一方面军主力胜利北上。到达陕北后，任西北革命军事委员会参谋长兼第一方面军参谋长。1936年2月，协助毛泽东、彭德怀指挥东征战役。同年7月起，到安塞、西安等地，联络东北军、西北军中的爱国力量，开展抗日民族统一战线工作。12月，任中央革命军事委员会副总参谋长。西安事变发生后，协助中共全权代表周恩来做了大量工作，推动事变的和平解决。
1937年抗日战争全面爆发后，与周恩来、朱德一起，作为中国共产党和红军的代表，到南京参加国防会议。8月，红军改编为国民革命军第八路军后，任八路军参谋长。同年底到达武汉，任中共中央长江局委员，在武汉、长沙、桂林等地，进行抗日民族统一战线工作。1939年1月，任中共中央南方局常务委员。2月，协助国民政府军事委员会创办南岳游击干部训练班，任副教育长，讲授游击战战略战术，宣传持久战思想。1940年3月，出席蒋介石召开的全国参谋长会议，发表《对日作战与摩擦问题》的讲话，驳斥了国民党顽固派的反共言论。同月，出版《叶剑英抗战言论集》。1941年2月，从重庆返回延安，任中共中央革命军事委员会参谋长，协助毛泽东、朱德等指挥作战。11月，兼任军事教育委员会委员和军事学院副院长。1945年，在延安多次接见中外记者参观团和美军观察组，介绍八路军、新四军抗战情况和战绩，扩大中国敌后抗战在世界上的影响。1945年6月，被选为中共第七届中央委员。
抗日战争胜利后，蒋介石积极准备内战，挑起军事冲突。叶剑英参加以周恩来为首的中共代表团，赴重庆出席政治协商会议，与国民党政府继续进行停战谈判。1946年1月，赴北平任军事调处执行部中共代表，与国民党代表、美国代表调处国共军事冲突和监督双方执行停战协议。蒋介石发动全面内战后，他于1947年2月返回延安，后任中国人民解放军参谋长。同年3月，中共中央主动撤离延安后，赴晋西北临县地区，任中共中央后方委员会书记，统筹后方工作。1948年，任华北军政大学校长兼政治委员。1949年1月，北平和平解放后，任北平市委副书记、市军管会主任、市长。8月中旬，离北平南下，任中共中央华南分局第一书记、广东军区司令员兼政委。10月上旬，参与指挥广东战役。
中华人民共和国成立后，历任中央人民政府委员、中南军政委员会副主席、华南军区司令员、广东省人民政府主席兼广州市市长、广东军区司令员兼政治委员，参与组织指挥海南岛登陆战役，领导华南军民剿灭国民党残余武装和土匪，实行土地改革。建立城乡人民政权，恢复和发展工农业生产。1952年后，任中南军区代司令员、中共中央中南局代理书记。1954年后，任人民革命军事委员会副主席、国防委员会副主席、人民解放军武装力量监察部部长、训练总监部代部长等职。1955年，被授予中华人民共和国元帅军衔和一级八一勋章、一级独立自由勋章、一级解放勋章。1958年起，任军事科学院院长兼政治委员，一度兼任高等军事学院院长。参与领导人民解放军革命化、现代化、正规化建设，为坚持和发展毛泽东军事思想作出了多方面的贡献。他主持全军院校和部队的军事训练，倡导郭兴福教学法，开展群众性的练兵活动，组织实战演习，参与领导制订人民解放军条令条例。指导全军开展军事科学研究，总结人民解放军建军和作战的经验，探讨现代条件下人民战争的指导规律，参与制订国防战略方针。1966年1月，任中共中央军委副主席兼秘书长。5月任中共中央书记处书记。“文化大革命”期间，同林彪、江青两个反革命集团进行了坚决斗争。1967年以后，实际上被解除了在党和军队中的领导工作。1969年夏，受毛泽东、周恩来委托，在陈毅主持下，与徐向前、聂荣臻一起，全面深入研究了国际形势，为打开对外工作的新局面提出了战略性的意见和建议。1971年，林彪叛逃事件发生后，重新以中央军委副主席的身份主持军委日常工作。1975年，任国防部部长。1976年10月，在粉碎江青反革命集团的斗争中起了决定性的作用。”1978年，当选为全国人大常委会委员长。1983年，在第六届全国人民代表大会第一次会议上，被任命为中华人民共和国中央军事委员会副主席，同时辞去全国人大常委会委员长职务。他是中共第八届至第十二届中央委员；第八届（十一中全会增选）、第九届中央政治局委员；第十届、第十一届中央政治局常务委员和中央副主席。1982年是中共第十二届中央政治局常务委员。
1986年10月22日，叶剑英在北京逝世，享年八十九岁。