5月10日与陈毅、谭震林、张震联名签发《第三野战军淞沪战役作战命令》（京字第3号）。淞沪战役预定分两个阶段进行：第一阶段，从5月12日起，钳击吴淞，断敌海上交通；第二阶段，待接管上海准备工作就绪后，向上海市区发起总攻，全歼守敌或迫敌投降，解放全上海。
同日饶漱石报中共中央电：“上海市军管会以陈毅为主任，粟裕为副主任”。“军事接管委员会，以粟裕兼主任，唐亮为副主任”，下辖军事部、政工部、后勤部、海军部、空军部、训练部。5月20日，中共中央复饶漱石并华东局电指示：“军事接管委员会应改为军政接管委员会”，“军政接管委员会即以粟裕为主任”，并“应增加接管国民政府机构的各部门”。
同日中共中央军委致粟裕、张震转谭震林、王建安、吉洛电：“请告现在杭州养病的何柱国将军，他给毛（泽东）、朱（德）、周（恩来）、彭（德怀）的电报收到了，叫他安心养病。你们对何应予以保护。”
5月12日三野第九、第十两兵团按照预定时间发起对上海外围守敌的进攻。战至5月18日，第九兵团各军先后攻克平湖、金山卫、松江、青浦、奉贤、南汇、川沙、周浦，逼近高桥。第十兵团各军先后攻克昆山、南翔、太仓、嘉定、罗店、浏河、月浦，围攻刘行，逼近杨行。从而形成南北钳击吴淞之势。敌人为确保退路，凭借坚固工事，拼命扼守高桥、吴淞一线，并陆续从市区调出三个军增援。敌我争夺激烈，我军一度进展迟缓。5月15日7时，粟裕、张震发电报给第九、第十兵团首长并报总前委、中共中央军委，指出：“该线实为淞沪敌主阵地，必须有准备之攻击，方易奏效”，决定调整部署，全歼外围据点之敌，迅速封锁长江口。总前委于同日22时复电：“同意你们删（15日）七时部署”。
5月16日巳时，粟裕、张震电示各兵团各军并报中共中央军委、总前委，指出：
“目前我作战已不同于野战，亦不同于一般攻坚战，已为济南战役后再次之攻坚战。因此，对永久设防阵地攻击，应慎重周密组织”，改进作战方法，并作出五点战术指示。
5月13日发出致华东局、总前委并中共中央军委电，报告三野部队进行政策纪律教育的情况以及进入上海市区的规定，要求涉外事务“不论任何微细问题，均须请示华东局、总前委”，“部队进入城市，不准驻扎民房商店”，“一时找不到公房，一律过露营”，后勤机关和勤杂人员、民夫离城30里驻扎。市区警备由经过训练的6个营担任，但恐兵力不敷分配，请总前委指示究应派多少兵力。总前委于5月14日复电：“关于沪市驻兵问题，所见甚是”。
5月15日中共中央发布关于入城部队遵守城市纪律的指示，作出十二条规定。
5月17日亥时，总前委致粟裕、张震并报中共中央军委电，指出：“在敌固守上海情况下，在部署上似应同时由南向北实行攻击，因为苏州河为敌防御守备薄弱部分，且多面攻击，才能分敌之势，使我易于奏效”。粟裕、张震于5月18日辰时复电：“我们完全同意对淞沪全面攻击。惟不知接管准备与其他方面是否已准备完毕，请考虑示遵”。“如对沪攻击不受时间地区限制（即不限于吴淞，因我对攻击市区需另待命令），我们意见从四面八方向市区发起攻击，北线力求楔入吴淞，而以九兵团主力先解决苏州河南与南市之敌（该处仅为七十五军与九十五师），尔后会攻苏州河北。如此实施，则我楔入敌之纵深不致被动”。总前委当天复电：“我们进入上海的政治准备业已初步完成，你们攻占上海的时间不受限制”。
同日京沪杭战役阵中日记：“16时半，粟令十兵团做充分准备，勿急躁。
如准备充分，时间虽延长，而攻击时间就会缩短”。
5月19日中共中央军委电示总前委并告粟裕、张震：“在上海已被我军包围后，攻城时间似不宜拖得太长。你们接收准备工作已做到何种程度，是否可以于辰有（5月15日）前后开始攻城？攻城时，似应照粟、张意见，先歼苏州河南及南市之敌，再歼苏州河北及吴淞之敌。”5月20日又电示粟裕、张震并告总前委：“据邓（小平）饶（漱石）陈（毅）电，接收上海的准备工作业已大体就绪，似此只要军事条件许可你们即可总攻上海”。
同日未时，与张震向中共中央军委、总前委报告：美舰三艘带国民党轮船六艘开出吴淞。5月20日午时又报告：敌舰五艘（其中两艘挂外国旗）向我军阵地猛烈炮击。请示如何处理。中共中央军委于5月20日亥时复电指示：“黄浦江是中国内河，任何外国军舰不许进入，有敢进入并自由行动者，均得攻击之；有向我发炮者，必须还击，直至击沉击伤或驱逐出境为止”。
5月21日午时，与张震联名发出致中共中央军委电，报告攻击上海的作战部署，同时下达《第三野战军淞沪战役攻击命令》（京字第4号）。决定以第九、第十两兵团全部，第七兵团的第二十三军，第八兵团的第二十五军和第二十六军，以及特种兵纵队全部会攻上海。分三阶段进行：第一阶段，全歼浦东地区之敌，控制黄浦江东岸阵地，封锁敌人黄浦江交通与海上逃路，限于5月25日以前完成；第二阶段，夺取吴淞、宝山及苏州河以南市区，完成对苏州河以北地区敌人的包围，内定于5月27日发起攻击；第三阶段，聚歼可能溃缩苏州河以北，吴淞、宝山以南，黄浦江左岸，以江湾为中心地区之敌，达成全部攻略淞沪全区之目的。中共中央军委于5月22日复电：“同意马午（21日午时）电所述攻沪部署，望即照此执行”。
5月22日午时，与张震请示中共中央军委：“依据蒋匪整个局势观察，已全线溃退，福建守敌不多。遵照军委予四野相机进入粤桂任务，如此我入闽部队是否可能提早，应准备何时出动，以便淞沪战后进行准备调整部署。如何，请示。”中共中央军委于5月23日复电指示：“你们应当迅速准备提早入闽，争取于六七两月内占领福州、泉州、漳州及其他要点，并准备相机夺取厦门。入闽部队只待上海解决，即可出动。”同时对各野战军向全国各地进军作出部署。
5月23日6时15分，与张震发出致第九、第十兵团和特种兵纵队首长并报总前委、中共中央军委电：有情报说国民党国防部决定明日从上海撤退，并已准备就绪。判断“敌撤守可能颇大”。询问第九兵团能否提前攻占苏州河以南与高桥，第十兵团能否提早攻占吴淞或宝山。
同日接到敌情侦察报告：汤恩伯已率领一部兵力逃到吴淞口外的军舰上，苏州河以北敌军正向吴淞收缩，苏州河以南只剩下5个交警总队。决定乘敌人准备撤退尚未破坏城市之前发起总攻，原定第一阶段和第二阶段攻击计划同时进行。各部奉令于当晚发起总攻，战至5月27日，歼灭上海国民党守军153万余人（汤恩伯率领5万余人乘军舰从海上逃走），并使上海市区没有遭受大的破坏。
上海战役胜利结束。5月25日晨，向中共中央军委报告：已有3个军进入上海市区，市内秩序良好，市民照常营业。同日24时又电报告：今晚率轻便指挥机关进入上海市区。上海守军殿后部队4万余人接洽投降。5月28日，与张震向中共中央军委报告淞沪之敌已于5月27日9时全部肃清。5月30日，中共中央电贺上海解放，指出：“中国和亚洲最大的城市，中国最重要的工商业中心上海，已于二十七日解放。我人民解放军在此次作战中俘敌十余万众，纪律良好。上海各界人民积极与我军合作，使蒋匪破坏计划大部失败，全市秩序迅速恢复。”
同日与张震联名发出致中共中央军委、总前委电，提出逐渐求得全军装备标准化的五点建议。
5月25日23时，陈毅从丹阳到达苏州，与粟裕会合。5月26日，陈毅乘车去上海，行前嘱粟裕发电报给邓小平、饶漱石率华东局机关及接管人员去上海会合。
同日得知三野第七兵团部队占领宁波，国民党军第八十七军有向定海撤退企图，判断蒋介石可能将舟山群岛作为基地，认为此着对我沪杭甬地区危害甚大。与张震电示谭震林、王建安、吉洛：“你们应乘沪敌主力尚未撤退之前，迅速以足够力量占领定海及其他各重要岛屿”。后来，由于上海之敌五万余人逃到定海，舟山敌军力量加强，又于5月28日电示七兵团：目前进占定海确有困难，同意暂缓行动，但仍须继续准备，妥为布置，于绝对有把握时再行攻占定海。6月1日，粟裕电复谭震林5月26日致总前委和三野前委电，说明攻占定海的决策经过，以及调第二十三军参加淞沪作战情况。
5月26日17时，率领三野指挥机关从苏州出发，于5月27日晨到达上海，在圣约翰大学开设指挥所。
同日签发《第三野战军淞沪警备命令》，决定以第二十、第二十六、第二十七、第三十、第三十三军及特种兵纵队担任上海市区、吴淞要塞区及郊区各县的警备任务，以宋时轮为司令员，郭化若为政治委员，警备司令部归即将成立的上海市军事管制委员会直接指挥。
5月27日中国人民解放军上海市军事管制委员会宣告成立，陈毅、粟裕分任正副主任。
同日下令不担任警卫任务的部队于战斗结束后全部撤至市郊休息，第十兵团全部转移到苏州、常熟、嘉兴地区休整，进行入闽准备。
5月28日午时，中共中央军委电示粟裕、张震：速告汤恩伯从海上逃走的部队番号、人数、战力及方向。粟裕、张震于5月29日酉时复电，报告：汤恩伯部残敌已逃至定海、厦门、基隆。
同日中共中央军委致彭德怀、贺龙、刘伯承、邓小平、陈毅、饶漱石、粟裕、林彪、罗荣桓电，作出预防帝国主义武装干涉的部署，指出：“陈饶粟以一个军附以必要数目的炮兵开青岛附近，待命夺取青岛，尔后即任青岛守卫。南京、镇江、苏州区域已有两个军，浙江区域已有三个军，甚好。吴淞、上海区域应有七个军，特别注意加强吴淞江阴两区的炮台设备。以上各军，除担任城市守备及乡村剿匪任务者外，均应迅即部署整训。攻取福建的兵力，不要超过两个军。”
同日上海市人民政府宣告成立，陈毅任市长，曾山、韦悫、潘汉年任副市长。
5月29日与张震联名发出致中共中央军委、总前委电，报告我军攻占溪口、奉化。
同日巳时，与张震联名发出致中央军委电，建议调一名工兵主任到华野任职，以加强江阴要塞建设和设计国防工事。
同日华东局、总前委致中共中央军委电：我们拟以八兵团一个军附炮兵一个团开青岛，约在6月下旬出动。叶飞第十兵团三个军拟休整一个月，于7月初开动，以便迅速夺取福建全省。二野入川势在必行，且宜早行，必须积极准备于8月初出动。小平同志是否需要入川，须请早示，以便考虑华东局的组织问题。
中共中央军委于6月2日复电：“同意二野入川，积极准备，在情况许可下，争取八月初出动”。“小平须准备去四川”。“同意以叶飞三个军入闽，行动时间如能提早至本月下旬更好”。
5月30日未时，与张震向中共中央军委请示：进占上海是否需要举行入城式？
同日晚，三野第二十五军向崇明岛发起进攻，于6月2日全歼国民党守军，解放全岛。至此，历时43天的京沪杭战役胜利结束。第三野战军在此次战役中，共歼灭国民党军10个军部32个师约30万人，解放南京、上海、杭州等城市120余座以及苏南、皖南、浙江广大地区。6月4日，与张震联名向中共中央军委报告：三野第二十五军已在崇明登陆，守敌全部投降。
5月31日陈毅、粟裕签发上海军事管制委员会命令，委任政务、军事、财经、文教四部门接管委员会负责干部。6月3日，又签发各区接管委员会主任委任令。
同日决定第十兵团提前入闽。
6月2日美国军队被迫撤出青岛，人民解放军解放青岛。
6月3日陈毅、粟裕签发《上海市军管会关于将国民党政府国营事业官僚资本、战争罪犯财产收归国有的布告》。
同日中共中央军委电示总前委并粟裕、张震：拟派去青岛的部队留现地休整。6月6日又电示粟裕、张震并华东局：第二十四军主力在徐州机动位置驻防为宜。
6月5日在上海警备部队干部大会上发表讲话，提出在胜利的形势下，要防止骄傲，克服太平享乐思想。他说：“我们革命为了谁？为广大人民”。“现在人民要看文戏，武戏已经演过了。文戏是什么呢？政治斗争，经济斗争。”“翻开历史看一看，李闯王进北京，腐化了，堕落了。国民党最初革命，后来进入大城市，腐化了，堕落了”。
6月7日主持召开华东国防部署会议，对进军福建、解放沿海岛屿以及加强要塞守备作出全面部署。会议期间，张震阑尾炎急性发作，入医院治疗。
同日与张震联名发出致张云逸、康生并报中共中央军委电：请山东到上海接领武器。
6月9日中共中央军委复邓小平并告饶漱石、陈毅、粟裕及刘伯承、张际春、李达电：同意解除刘伯承、邓小平、张际春、李达在华东军区的职务。
6月13日辰时，与张震、周骏鸣（华东军区及第三野战军副参谋长）联名发出致中共中央军委、华东局电：第十兵团建议，因部队准备来不及，向福建进军延至6月25日开始行动。中共中央军委于6月14日复电：“（一）同意十兵团行动日期延至六月二十五日，如果准备工作尚未做好，延至七月上旬亦可。
（二）请开始注意研究夺取台湾的问题。台湾是否有可能在较快的时间内夺取，用什么方法去夺取，有何办法分化台湾敌军，争取其一部分站在我们方面实行里应外合，请着手研究，并以初步意见电告。”
6月14日中共中央军委电示华东局、粟裕、张震、周骏鸣：驻福建附近的国民党军第十七集团军侯镜如有起义动向，请你们即速研究与侯镜如取得联系，不要放弃一切可能争取侯镜如各军反正。
6月15日中国人民革命军事委员会发出命令，公布中国人民解放军军旗、军徽式样。
6月17日中共中央军委复华东局并告粟裕、张震、周骏鸣及刘伯承、邓小平、李达电：同意6月15日电意见，华东军区及三野指挥机构设在南京，粟裕兼南京市军管会主任及南京市委书记。
同日与张震联名发出致中共中央军委电，报告：我军攻占福鼎。
6月20日与周骏鸣、张震联名发出致中共中央军委电：戚永年三个团起义。
6月21日中共中央军委电示华东局，粟裕、张震、周骏鸣：“在你们面前目前几个月内有四件大工作：（一）经营以上海为中心的苏、浙、皖、赣新占城乡广大地区；（二）占领福建及厦门；（三）帮助二野西进；（四）准备占领台湾”。对台湾要积极进行策反工作，准备内应条件，希望夏秋两季完成各项准备，冬季占领台湾。