刘锡五是河南孟州人，在家排行老五，故乡人都叫他刘老五。刘锡五出生于河南孟州（原孟县）堤北头村，这个村由9个小村联袂而成。他的父亲刘慎义，是当地一个小有名气的商业资本家，深诣商道，勤劳肯干，善置家业，在江苏、安徽、北平等地办有盐场、商号及药铺。刘家虽称不上富甲一方，也算本地少有的富户。在战事连绵、军阀混战的乱世岁月，为把儿子造就成支撑门庭、光大家业的栋梁，他把刘锡五送入开封圣安德烈中学读书。
刘慎义没有参加任何政治组织，但颇具正义感，思想开明，同情共产党，支持儿子刘锡五从事革命活动。抗日战争开始后，刘慎义非常赞同毛泽东、周恩来等共产党领导人提出的革命理论，鼓励和帮助进步青年赴革命圣地延安，经济上对刘锡五的革命活动给予大力支持。对此，安子文在世时曾经说过：“我们党内有两位同志是自己拿钱出来干革命的，一个是刘锡五，一个是黄敬。”刘锡五自己出钱干革命，与他父亲思想开明，肯出钱帮助有直接关系。由于父亲的大力资助，使他渡过艰苦岁月里的一道道难关。
刘锡五进入开封圣安德烈中学读书，正值伟大的“五四”爱国运动风起云涌，对刘锡五的思想产生了深刻影响。在校期间，他除了如饥似渴地学习文化知识以外，最喜爱阅读的就是《新青年》、《向导周报》等进步书刊。这些大量宣传进步思想的书刊，使刘锡五初步受到了马列主义的熏陶，帮助他打开了觉悟之窗。圣安德烈中学由教会创办，校长是英国人，在学校极力推行奴化教育。刘锡五与学校爱国学生对学校当局实行奴化教育、推行帝国主义文化侵略的行为进行了坚决斗争，被学校开除了学籍。
离开圣安德烈中学后，刘锡五辗转到北平，在这里加入了中国共产主义青年团，后到上海大学社会科学系读书，1925年10月转为中国共产党党员。
上海大学是中国共产党利用种种关系办起来的一所大学，当时正处于第一次国共合作时期，由国民党老党员于右任当校长，实际上学校完全处于共产党领导之下。1927年“4.12”之后即被蒋介石封闭，虽然该校存在时间不长，却为党培养了大批干部。刘锡五在上海大学期间，担任大学党支部干事，积极从事革命活动。此段时间，上海正处于白色恐怖之中，刘锡五不顾个人安危，深入虎穴，游行示威，组织散发传单，发动罢工等，虽然十分惊险，却锻炼了他的革命意志。