解放战争时期，舒同任山东军区政治部主任、华东军区及第三野战军政治部主任、中共中央华东局常委兼社会部部长和敌军工作部部长，参与组织指挥了鲁南等战役，以大智大勇和沉着冷静，促成了国民党第46军军长韩练成与解放军合作，取得了莱芜战役的胜利。
鲁南战役胜利结束后，山东与华中两支野战军正式合并为华东野战军，陈毅任司令员兼政委。1947年1月，华东军区副司令员张云逸送给陈毅一封电报，电文大意是：国民党第46军已从广东海运到青岛，该军军长韩练成有起义之可能，望华东局迅速派人，以董必武名义与该军军长联系。
经陈毅了解，敌46军是广西部队，属桂系李宗仁、白崇禧管辖，是美械装备的精锐部队。陈毅说：“如果能将国民党的一个美械军争取过来，这可是个打着灯笼都难找的好事啊！”
事不宜迟，要深入敌穴，派谁前去联系更为合适呢？陈毅找到了对情况比较熟悉、会说广西话的陈子谷。陈子谷携带“面呈韩军长亲启”的信件前往求见，韩练成却说“两军谈判联络，事关重大，你这个科长身份，有些事难以做主，请转告陈司令，最好派一位高规格的代表来比较合适。”
陈毅接受了韩练成的建议，派华东局秘书长魏文伯去与韩练成会谈。魏文伯在陈子谷陪同下前往46军时，韩练成依然摇头，说魏文伯的职位还不够，不愿正式谈判。
此时，舒同主动请缨，自告奋勇要求前去谈判。陈毅当即拍板“由舒同担负此次谈判工作”。在陈毅看来，舒同是华东军区政治部主任、华东局常委，是高级干部，熟悉党和军队的政策，办事有原则又有灵活性。
陈毅刚刚决定，转眼却又皱起了眉头，他自言自语道：“46军远在青岛，那里是敌占区，我们对韩练成了解得还太少，万一中了敌人的圈套怎么办？”副司令员张云逸也认为，舒同是我党我军的高级干部，还是个知名度很高的大书法家，万一出了事，如何向中央交代？
看到陈毅陷入沉思，舒同却镇定自若地说：“介绍我们与韩练成联络的是中央转来的董必武同志的密电。董老是我党的创始人之一，他搞了多年的统战工作，他如果没有绝对的把握，也不会要我们与他联络。再说，韩练成也不是一般人物，如果真的能争取到敌方的一个中将军长，冒点险也是值得的。”
“不入虎穴，焉得虎子！”陈毅决定同意舒同冒这个险，并派华东军区最优秀的敌工干部、联络科长杨斯德与舒同一同前往。
料想不到的事情发生了。舒同到达敌46军驻地后，一连4天韩练成避而不见，韩练成的副官将他俩安排在一个不太大的空房子里，四周布满了岗哨，他们无法出去，那情形就像是被软禁了一样，杨斯德不禁担心起来。
但舒同具有“泰山崩于前而色不变”的大将风度，他对杨斯德半开玩笑地说：“不会有什么麻烦的，他们的态度很友善，招待得也很好，不但有好烟好酒，还有大鱼大肉。他限制我们，不让我们四处活动，可能是为了保护我们的安全哩！”
舒同的镇定自若和谈笑风生，使杨斯德也打消了顾虑，他们一起耐心等待韩练成回来。
又过了一天，韩练成才回到军部，双方见面后，进行了推心置腹、开诚布公的交谈。韩练成首先介绍了他在抗日战争期间与董必武、周恩来相识及交往的经过，又介绍了“蒋介石改变原先的战略方针，将重点进攻中原改为重点进攻陕北和山东，力争两个月内攻占延安”的作战计划。舒同十分感谢韩练成提供的这些非常重要的情报，表示回去后一定及时报告中央和陈毅，作好迎战的准备。双方还商定，建立正式的联络和合作关系，派杨斯德化名“李一朋”打入46军内部，为解放军源源不断地提供情报。
莱芜战役，解放军歼敌1个绥靖区总部、2个军部、7个师共计6万人，这是个伟大的胜利。这一伟大胜利，与韩练成及时提供情报，适时放弃指挥有着直接的关系，韩练成功不可没。而舒同在关键时刻不顾个人安危前去谈判，则发挥了至关重要的作用。