饶漱石是中国共产党内为数不多的受过高等教育的高级领导干部，他1903年出生于江西临川，青年时代不但读过中学，而且考入上海大学，大学期间外语学得很好，精通英语、俄语。
青少年时代，饶漱石积极追求进步，1919年五四运动爆发时，他在南昌读书，积极参加学生运动。暑假回到家乡临川后，他联络县城的学生和社会上的进步人士成立一个剧社，利用演戏进行反帝爱国宣传活动。
1923年，饶漱石加入中国共产主义青年团，任九江地方团组织第二支部书记。他多次领导学校的学生运动，后被推选为九江首届学生联合会主席，出席了在上海召开的首届全国学联会议。转入上海大学学习后，参加了李立三等在上海创办的工人俱乐部的领导工作，在城市的学生运动和工人运动中经受了锻炼。
1925年，饶漱石加入中国共产党，参加领导了上海“五卅”反帝爱国斗争运动，担任由陈独秀、周恩来等人组成的上海工人武装起义特别行动委员会委员。在白区工作期间，他工作很努力，为白区党组织的恢复和发展，作出了一定贡献，因而他很快就崭露头角，受到了当时领导白区工作的刘少奇的重视。
蒋介石发动“四·一二”反革命政变后，饶漱石受组织派遣来到赣东北，出任中共赣东北特委书记、共青团浙江省委书记，和方志敏、黄道等人组织领导了著名的弋横暴动，为创建赣东北根据地和组建红十军奠定了基础。1929年，饶漱石奔赴东北，任共青团北满省委书记，并一度代理中共满洲省委书记，成功组织了奉天纺织工人大罢工。他多次到哈尔滨巡视工作，与唐巨经等人成功组织过著名的哈尔滨皮鞋厂工人大罢工，后来和赵尚志等人一同被捕入狱，“九·一八”事变后被党组织营救出狱。
饶漱石出狱后赴苏联学习，被共产国际派往西欧、东欧、美国等地开展党的秘密工作，后回国在上海做工会工作，1935年至1938年间被派到苏联工作。1939年他从苏联回国后，被中央派到皖南任中共中央东南分局任副书记，协助中共中央东南分局书记项英工作。当时，饶漱石在东南局主管的也是白区工作。在新四军受国民党压迫的情况下，饶漱石具体领导的白区工作却卓有成效，使新四军在国民党军队四面包围中仍有一个较好的外部环境，这不光为新四军在南方的发展作出了贡献，而且打开了国统区中国共产党领导下的群众工作的局面。刘少奇当时称饶漱石是“优秀的青年革命家”。