是夏，迁臬江宁。吏呈往例，送督、抚贽仪约四千金；公曰：『我居官誓不取民一钱，安能办此』！以所携土宜致馈，皆拒不受。维扬诸生六人得罪，郡守、抚军怒，欲尽褫其巾；公慨然曰：『以穷秀才衣顶逢迎上官，吾不能也』！申辨至再三，乃得释。圣祖南巡至江宁，已命督、抚荐贤能官员，而公不与。随督、抚至上前，圣祖曰：『朕向原认识汝，到江南，即知汝为清官』。复顾督、抚曰：『张伯行居官果如何』？对曰：『好』；大学士张玉书对，亦如之。圣祖曰：『他实不要钱』。又问：『江南还有如此好官否』？皆曰：『无』。圣祖曰：『然则汝等何以不保举之？今朕自保举之，将来居官好，天下以朕为明君；若贪赃坏法，天下笑朕不识人』。至松江，即令填抚福建。随驾至西湖，御书「廉惠宣猷」四字以赐。陛辞，赴闽。
时台属荒旱，题请发帑赈济，全活甚众。闽省民稠田少，岁粟所入不敷一岁之用；每岁遣官赴江、浙买米入闽平粜。多置社仓积贮，以备旱潦；禁米下洋，以绝盗粮。终公任，民不阻饥。永安、宁洋、漳平、大田山深易藏奸宄，大盗陈首魁等潜匿山莽，乘间探丸；公以计诱擒之。积盗朱章窜伏未获，迹其巢穴，亦就擒。贷其胁从，盗薮一清。大张纲纪，饬保甲、讲乡约；褒廉纠墨，惩猾吏之为民害者：教化大行。闽自杨龟山载道而南，三传而得朱子；嗣后名儒叠兴，号称海滨邹、鲁。公建鳌峰书院，以祀宋五先生。广置学舍百二十间于会城，俾有志正学者肄业；出家所藏书千卷，充牣其中。又广搜先儒文集遗书，次第刊布。士皆鼓舞振兴，理学复明。上闻，御书「三山养秀」四字以颜其堂，又赐「御纂性理精义」诸书。至今弦歌不绝，皆公倡导力也。福州瘟神有五帝者，庙祀遍乡城；师巫假以诳诱，祷祀昼夜不绝。公毁其祠，佥谓『前任迟太守以此获罪，竟卒于官』！公曰：『此偶值耳』！不为止。即改其祠为义塾，以祀朱子。省城多尼，皆买贫家女髡之，号「佛子」，盈千累百，所为弗可问。公悉令所亲赎回匹配；贫不能赎者，为设法以出之。台湾兵跋扈难制，稍不遂欲，即登山鼓噪，要挟官长；公谓『为首倡乱之人，平日必多不法，可以他事除之，煽诱自绝』。镇臣如公教，已后无敢譁者。
初，圣祖谕大学士：『张伯行居官清正，江南重地，宜移抚』。李光地奏：『闽省近方有起色，须留整顿一、二年』！张玉书奏：『江南频岁灾祲，民不聊生；非此人不可』。圣祖笑曰：『汝两人不必争，朕为天下总计，当慎简一人以畀汝闽』。遂有移抚江苏之命，并许驰驿往。士民攀留不及，皆呼号如失怙恃。时两江总督噶礼大张威福，甫莅任，即奏罢抚藩，人人不寒而栗。公至吴，即檄禁属员馈送，延访地方利弊。时准、杨连年荒歉，军民乏食；疏请海、高等十三州县、徐州一卫发帑赈济。又以江苏等属带征灾漕，请分年带征以纾民困。皆蒙俞允。又奏动藩库银三万两，买米减价平粜；疏发即行。绝漕弊、禁重耗、省差扰，民困以苏。又以俗尚奢侈，严行禁绝。时苏守陈鹏年、司臬焦映汉、粮道臧大受皆廉谨奉职，总督率以不便于己，摭事劾去之。是夏，赴常州热审，多所平反。辄与总督每事违异，郁郁不得志，以病乞休；不许，乃强起视事。江南泽国，农田全资水利；时闸堰废坏，详考修整，以资蓄泄。海禁纵弛，米价踊贵；严行禁绝而内地米多，民不艰食。辛卯秋，赵晋典试江南，与总督交通关节；榜发譁然，苏郡士子舁财神入文庙。正考官左必蕃不自安，具疏奏闻；公亦据实陈奏，上命近臣出按其事。公偕总督暨安徽巡抚会鞫，督臣持其事，使臣蓄缩不敢问，匝月不得定案。明年春正月，公劾督臣抗旨欺君、营私坏法，请正国典以彰公论；疏上，总督闻之，密购疏稿，捏款讦参，星夜驰奏。上命俱解任，交审事大臣一并审明。部文未下，公又上「沥陈被诬始末」之疏，以证督臣之诬奏。使者叠审，皆归曲于公，应革职治罪；噶礼免议。奉特旨：『尚书穆和伦、张廷枢再往澈底审明』。审如前，公仍革职。上不从所请，以公为天下清官第一，复命九卿、翰詹、科道议；特旨留公任，而黜噶礼。方公之解职也，百姓罢市撤业几数万人，团集公馆，哭声殷扬城，且欲相率赴京叩阍；公慰谕再三，环泣不肯退。姑苏等郡，相继报罢市者纷纷。翌日，维扬士民扶老携幼，具果蔬至公馆以献，公辞不受；皆泣曰：『公在任，止饮吴江一杯水；今将去，子民一点心不可却也』！不得已，取腐一块、菜一束。远近馈饷者，皆委地而去。审毕，将回姑苏，行有日矣；扬城士民虑途中不可测，数万人谋集江干护行。公闻，越数日，五更登舟，比天明已渡江；百姓追送不及，悒怏而返。至苏，寓枫桥，士民云集献果蔬如在扬时。秋七月，复赴扬听审。回苏时，比户焚香遮道，自枫桥至葑门二十余里，拥塞不可行。及闻公复任，士民欢忭，呼「万岁」者无万数，行数千里诣阙跪香进疏，愿各减年寿一岁祝添圣寿万年；上闻大悦。而福建全省士民，始则奔号呼吁，继而颂皇恩、祝圣寿者与江苏不谋而合。自是，公名益显；虽尝持论与公为异同者，莫不倾心折节，直声浩气震天下。癸巳春三月，恩诏复原职；旋进「濂洛关闽集解」。镇江战舰与民船无别，战船或私借入洋贸易，还以民船充数；九月，奉旨会验，因条陈海洋船只分别营哨、商渔，尽编号数。甲午正月，奏免扬州落地之税；谓『各商货物已于扬关输钞，入城复征落地税银，似属重科。臣衙门旧有盐课陋规二万两，臣在任五年，丝毫不取，为盐商节省十万；众商愿于经费项下代捐税银每年一千二百两，免商民无穷之累』。奉旨俞允。吴中向无书院，择府学中隙地建紫阳书院，讲贯课士之法，略与闽同；士风丕变，敛华就实。吴地滨海，奸商下洋勾引匪类，出入无忌，为东南隐忧；公特严海禁，有犯必惩。有张元隆、张令涛、李崇御等案，咸为巨蠹把持，屡饬不结；上命大臣驻镇江审理，劾公以狂妄自矜。疏凡六上，上不得已，允之。时公因热审赴常州，令藩司于舟中解绶去，遣游击房世泽伴送至镇江，看守于城隍庙；夜分问供，多方摧折。所供不合，胁公幕下客代书，竟拟重辟。门人子弟闻难来讯，呼吁无门，生死不可测。公处之怡然，读书昼夜无间；为子侄讲说，积讲义二十余篇。又向辑「四书正宗」、「学易编」皆未成书，续为编辑。居润州半载，体加充、色加睟焉。奏上，圣祖不允所拟，而令使臣同公入京。仲冬二日，渡江；至维扬，父老数千人焚香拜，岸上士民夹两岸随舟而行，四十里不绝。越月，过邵伯、高邮，皆有儒冠、儒服沿河顿首者。至淮安，河督迎会，见舟将坏；大惊；为易舟。伴送官同知胡某，佥人也；莫夜趣渡黄河。细雨方霏，同云如墨，涛澜汹急；从舟倾覆，公以河督所易舟先济，得免。至夏镇书院，诸生候于河次，挥泪而别。抵京，公欲赴畅春苑陛见，使臣弗许，委官看守于吏部公署。上命使臣同公陛见，上曰：『他原无罪』。又曰：『此人朕还用之；当用于有钱粮衙门』。明日，召对于干清宫，命于南书房行走。腊月朔，命讲「民可使由之」一章；越日，又命讲「太极图说」。
寻奉特旨，署总督仓场侍郎。时秋成稍歉，奉谕同户部酌议平粜，奏发仓米二万石；奉命发仓赈济顺天、永平二府，亲往巡察。至永平，与守谢赐履讲社仓之法，令劝所属捐输积贮。本朱子法，条酌十六款奏上。丁酉秋七月，条奏余米摺；其略云：『臣查红斛进仓，每石原多二斗五升。今该仓书攒止报一石一斗四升四合九勺四杪，其余隐匿不报。通漕合算，岁三十余万。此项谓之「飞米」，俗所谓「飞毂辘子」是也。外又有长米二、三十万石，曰「旗丁交剩余米」。或令旗丁领出，谓之「照米」，俗所谓「出黑档子」也；或令旗丁卖与他人，谓之「买余抵补」。仓场之弊甚多，此其大者。故特奏之』。又奏『每年收米、放米，该剩余米一百余万石；请建新廒百座』。八月，为顺天乡试正考官。时方收粮通州，不与开列；特召入闱，盖异数也。
庚子十月，奉旨管理钱法。旋补授户部右侍郎，兼管仓场总督事。辛丑春，总裁会试。秋七月，河南马营口决，上命河南人知河务者具奏；公摺奏曰：『臣籍隶仪封，去黄河三里；故黄水之性，最为留心。盖黄水不两行，若有两条河，水行一条，必淤一条。故一遇冲决，水行新河，旧河必淤。若旧河仍行者，则新河不过因水势泛涨，泄其有余；水一消落，仍行旧河：此自然之势也。今武陟县冲决河口，不过因黄、沁并长，泛滥溢漫，泄有余之水耳；黄河之水仍旧东行。入冬以后，水势消落，势必尽归旧河；稍加堵筑，即复旧矣。独是山东运河，只借一线泉水；遇天道亢旱，泉源干涸，寸步难行。臣前任济宁道时，会议引沁河之水以济山东之运；后以升任，故未及行。今岁粮船浅阻山东，将至迟误；而黄、沁交会，忽冲一缺口，直入张秋，运河粮船尽皆抵通。是今岁之运，赖此冲决以济之也。若由此修治，引之济运，便可成万世之利』。越数日，接驾；蒙温旨云：『前所奏河务，与朕意甚合』。又召进行宫，论河务；面奏『于黄、沁交会之际，建闸筑坝，重重关锁，使不泛滥。一引沁由贾鲁河以入济济运，一引沁由新决之河入张秋以济运。张秋东涯五空桥安放闸板，水小则下板引沁济运，水大则放沁入海。至于济宁河之西，再建闸一座；水小则引沁济运，水大则下板引沁入湖。不但粮船遄行，而临河之田皆成膏腴矣』。冬十月，以母病归省；命以便道阅视河南武陟决口，如期复命。