“九·一八事变”爆发后，于毅夫于1932年由天津来到北平，找到了他的燕大同学共产党员张放，于毅夫被张放吸收为情报员，参加情报搜集工作，为苏联红军搜集情报，这是他特工生涯的开端。
张放不但是于毅夫南开中学、燕京大学的同学，而且是上海苏联红军情报站平津方面负责人。苏联红军在上海的情报工作由二战时期著名红色谍王理查德·佐尔格负责，张放是佐尔格的助手。佐尔格是苏联红军总参情报部远东地区情报员，1930年来到上海，化名亚历山大·约翰逊，公开身份是德国《法兰克福报》的驻沪记者。张放在佐尔格的领导下，为苏联红军搜集了大量情报。
1933年到1935年，张放和于毅夫共同在北平从事秘密情报工作，由于叛徒的破坏，张放在组织的安排下远去新疆工作，解放后改名刘进中。
张放离开北平后，于毅夫在张学铭的推荐下，担任国民党军事委员会北平军分会参事，以此职业为掩护，继续进行军事情报工作，同东北军高级将领、北平头面人物广泛接触，和华北的上层人士密切交往，从他们那里获得了不少军事、政治情报。他利用自己的特殊身份，把国民党逮捕平津共产党地下组织负责人的名单转送给党组织，使地下党组织免遭损失。
于毅夫利用与东北军高级将领的特殊关系，为红军在苏区的反“围剿”斗争提供了极其重要的情报。1934年2月，蒋介石任命张学良为“豫鄂皖三省剿匪副总司令”，并将东北军从华北调到鄂豫皖地区“围剿”红军。4月中旬，东北军王以哲第67军、何柱国第57军陆续开进鄂豫皖地区，“围剿”鄂豫皖根据地的总兵力达到16个师。张学良将上述部队编成“豫鄂皖三省追剿纵队”，对红军持续“围剿”，鄂豫皖根据地的形势异常严峻。此时，东北军第57军105师副师长董彦平把一份蒋介石调动东北军“围剿”鄂豫皖革命根据地的军事部署图交给于毅夫，让于毅夫通过张学铭带给张学良，于毅夫立即把此情况报告张放，两人在自己家中把军事部署图迅速拍照，转交给红军。鄂豫皖地区的红军主力迅速实施战略转移，越过平汉铁路通过豫西平原，进入河南西部的伏牛山区，摆脱了敌人的“围剿”，避免了重大损失，于毅夫也受到上级的嘉奖。
在北平，于毅夫曾领导著名特工李时雨从事情报工作。李时雨是东北黑龙江人，也是秘密战线的一位传奇人物，1934年打入东北军，后又潜入西安“剿总”，1936年后秘密来到天津，在中共北方局社会部领导下从事地下工作。李时雨到北平找到于毅夫，得知于毅夫当时负责东北救亡总会工作，掩护职业是国民党的“参事”，就在于毅夫的领导下在京津地区开展秘密活动。
李时雨刚刚抵达天津，就发生了北平卢沟桥事变，紧接着日军迅速攻占了天津，断绝了平津之间的交通。于毅夫就赶来天津与李时雨会见，要求李时雨在局势动荡的时刻，暂时留在天津。李时雨与天津党组织接上关系后，继续从事党的地下情报工作。
1941年春，于毅夫由重庆转移至香港，从事抗日统战工作，第二年夏天抵沪。在孤岛上海，他除了继续进行沦陷区的统战工作外，还从事秘密情报工作。根据中共中央华中局和周恩来的指示，于毅夫1943年3月进入华中解放区，新四军军长陈毅早就知道于毅夫是难得的人才，准备安排他去新四军3师政治部工作。于毅夫说：“打仗我没有经验，过去一直是搞统战，办过报纸杂志，可能做点这方面的工作合适些。”
陈毅就说：“那好，你就去搞新闻吧，新华社华中分社正好缺个总编辑。”
于毅夫欣然前往，到新华社华中分社当总编辑。但是，没过多久，陈毅还是觉得像于毅夫这样的人才去搞新闻有点可惜，于是又把他找来说：“新闻工作有范长江同志把关，党外人士都可以去搞，我看你还是回部队来吧。”
“我只会办报纸呀！”于毅夫笑着说。
“你不是做过地下情报工作吗？我给你找了个好地方，到新四军情报部去。”陈毅说。
做情报工作是于毅夫的专长，他也乐意去，便高兴地说：“军长要我走，我还不回老根据地去？”
就这样，于毅夫被陈毅从华中分社总编辑岗位调任到了新四军情报部任副部长。
于毅夫做情报工作是得心应手，于是他经常往来苏北和上海之间，领导这一带的情报和联络工作，他还亲自到各地搜集和整理情报。