邵式平与著名革命烈士方志敏是同乡，两人都是弋阳县人。邵式平家在弋阳县境内最北端的邵家畈村，家境中等，人口众多，祖祖辈辈没有一个读过人，吃了许多不识字的苦。邵式平的父亲下决心要在这一代中培养出一个能认字会记账的人，勒紧腰带供邵式平念私塾。念了两年之后，父亲不幸病故，直到临终，他的父亲也没有放弃让孩子再念书的念头。谁料他一去世，家道更难，邵式平的母亲一人拉扯着5个孩子，全靠亲戚邻居帮忙，勉强把这个家支撑下来。直到邵式平满18岁，家中状况略有改善，母亲还是狠下心来，央求亲戚们资助，送邵式平考上了弋阳县立高等小学。邵式平在这里认识了同学方志敏，并且分在一个班。同窗三年，结为挚友。
其实要论年龄，方志敏还要比邵式平大一岁，只是因为邵式平长得身材高大，哪怕是融入人群之中，他那高人一头的目标也十分醒目，所以大家都称他为“邵大个”。叫着叫着，后来不知怎的演变成了“邵大哥”，连方志敏也随着大家这样叫起来。
小学毕业，邵式平考上江西省立南昌第一中学。而在此时，方志敏也考上了省立南昌甲等工业学校，两人从家乡同学又一起念到了省城。方志敏积极参加闹学潮、读新书、讨论布尔什维克主义的各种活动，也给了邵式平很大影响。
1922年秋，邵式平考入北京师范大学史地系，来到北京求学。五四运动后的北京，以李大钊、陈独秀等为代表的共产党人，在北京的知识界、学生界掀起了一股新浪潮，一大批年轻富有朝气的热血青年云集北京，20多岁的邵式平很快融入这火热的斗争生活之中。在校期间，邵式平加入中国共产主义青年团，不久经陈毅和黄道介绍加入了中国共产党。上海“五卅”惨案发生后，邵式平参加北京各界声势浩大的声援运动，北京“三·一八”惨案之后，邵式平被列入通缉名单，他以北京沪案后援会湘鄂赣特派员身份被派回江西，从此结束了在北京的学生生涯，开始踏上职业革命者的道路。
邵式平回到南昌时，正值北伐军入赣前夕。南昌与北京一样，反动军阀在作最后挣扎，缉捕革命者的风声甚紧，南昌城里军警密布。
方志敏得知邵式平回到南昌的消息，不禁喜出望外，两个从小学时期就成为密友的好伙伴，如今再次走到了一起。
1926年秋天，国民革命军的队伍已入江西，北伐呼声一浪高过一浪，蒋介石却在南昌暗中动作，阴谋叛变革命。在南昌，革命的力量尚处于发展阶段，势单力薄，条件尚不成熟。此时，邵式平已经回到了弋阳开展工作多日，召集了方志纯、雷夏、黄镇中等坚定骨干力量，组成了“共产党弋阳县特别支部”。很快，这个刚刚成立起来的秘密特别支部就在斗争中崭露头角。