1927年“四·一二”反革命政变后，蒋介石在南京建立了他的中央政权，从此开始了中国历史上国民党政府的统治时期。这个时期的陕西政局也处在一种严重的动荡之中。
潘自力参与发动的渭华起义失败后，陕西地方当局实行大屠杀，白色恐怖笼罩三秦大地，党内的悲观失望和复仇蛮干情绪交织在一起。年仅24岁的潘自力肩负着沉重的担子，但他不悲观，不急躁，谦虚谨慎，团结同志，领导党员、团员和干部在严酷的环境中坚持斗争，赢得了同志们的信赖。1928年6月13日召开的中共陕西省委第三次扩大会议，继续选举潘自力为省委常委、书记。同年11月，潘自力出席中共长安县委常委紧急会议时不幸被捕入狱，经过近两年的关押，在组织的营救下他才得以出狱。
1930年9月，蒋介石委派年仅37岁的杨虎城为陕西省主席。杨虎城主政陕西后，希望组织一个开明进步的省政府。久经战乱的陕西，经济和社会一片凋零，急待振兴，杨虎城认为振兴经济应从大力兴办教育事业入手，他强调：“陕西僻处西北，文化落后，无论如何，须派人到外地及国外留学，造就专门知识。”从这年起，杨虎城大批选派进步青年到外地学习，资助有志青年到国外留学，其中去日本的有王炳南（后又去德国），去德国的有郭则沉等。潘自力得到杨虎城的资助，于1931年4月赴法国留学。在法国期间，他加入了法国反帝同盟中国支部，从事革命活动，后转赴苏联短期参观学习。
1933年5月，潘自力从法国回到上海，8月初回到自己的家乡陕西。此时，由于杨虎城与蒋介石关系紧张，国民政府任命原甘肃省主席邵力子主政陕西，杨虎城除继续担任西安绥靖公署主任外，军权已被大大削弱。蒋介石除在苏区“围剿”红军外，在全国各地到处逮捕共产党人，邵力子、杨虎城虽然比较倾向进步，但在蒋介石“剿共第一”政策指导和国民党特务的监视下，也没有能够例外。中共陕西省委机关遭到严重破坏，不少共产党员被捕。
11月初，刘志丹、谢子长等按照中共陕西省委指示回到陕北，进行兵运和开辟根据地工作。受党组织的派遣，潘自力从临潼秘密到达西安，准备面见杨虎城。杨虎城知道潘自力来到西安的消息后，考虑到当时陕西的局势，便介绍潘自力到新疆盛世才处，潘自力没有同意。1934年7月中旬，中共上海中央局决定派潘自力去川北红四方面军工作。在组织的安排下，潘自力于1935年1月到了川北旺苍坝，进入川陕革命根据地，先在红31军政治部、红四方面军总政治部任干事，后随红四方面军进行长征，胜利到达陕北革命根据地。