行政院于1935年冬改组，人们赋予新行政院许多称号。有人称之为“行动内阁”，因为它包括许多经验丰富而干练的人才，如精于理财的吴鼎昌，担任实业部长；中国银行杰出的总经理张嘉璈担任铁道部长等等。也有人称它是“政学系内阁”的，因为吴、张二人被认为是政学系的。政学系的首领据说是张群，当时任外交部长。也有人称他是“人才内阁”的，因为□□长是王世杰、交通部长是俞飞鹏、内政部长是蒋作宾，加上吴、张、翁、蒋等人，俱为一时之选，阵容不可谓不豪华。
尚未正式入阁，蒋廷黻已经踌躇满志，跃跃欲试了。就职前一天，行政院新班子成员和委员长共进晚餐，共商政策事宜。蒋提议应该从事一项复兴发展计划，以为备战或鼓舞士气之用。他认为一旦全国人民看到行政院从事大规模修建铁路，发展公路，改良农业，他们就会信任政府。没想到这一提议引起了大家的一致□□。反对复兴发展计划最凶的，竟是铁道部长张嘉璈。财政部长孔祥熙对他立即表示感谢。孔说他已尽力注意预算，如果再追加预算，财政部长实在不胜负担。实业部长吴鼎昌表示同样看法。这令蒋十分不解，“‘行动内阁’的人何以如此怕行动？这些人身处政治狂流中，居然想用普通的手法去避免战争，令人殊不可解。我认为：他们不晓得主战的情绪已经达到顶点，如果不用非常方法，战争是无法避免的。我知道这些说话的人都是主和和反战的。他们的行动使我明白，他们除了避免战争之外当时不准备做任何事。”
初战不利，碰了一鼻子灰，但蒋廷黻未受多大影响，他觉得做官同教书一样，都要有一定职业操守的敬业精神：
我唯一要出卖的是我的智慧和努力工作的愿望。根据这种意念，我认为循一般方法处理事务会令我一无所成。如果按照我自己的意思去做，虽然也可能失败，但是将来不会使我感到遗憾。于是我决定按照我自己的意思去做，排除一切应酬。当大家发现我的生活就是如此，并非不懂礼貌，或对某个人有好恶时，他们只有接受既成事实，把我当作一个怪人。
故而他决定按照自己的想法和判断去做事，岂能尽如人意，但求无愧于心。
进入政府后，他很吃惊地发现，机构臃肿、叠床架屋的现象很严重，大大影响了行政效率。于是，他向蒋介石进行了汇报，蒋要他拿出改革建议来。他兴冲冲地拟了一份精简机构的方案，第一要改善交通电信组织，保证铁道部和交通部权责分明；第二要取消经济委员会和建设委员会，避免彼此间机构重复之弊；第三是主张成立农林部，将农民工作从实业部中接管过来，专门从事以农立国的事务；第四则是基于政府部门办公用品报价不一，有人从□□利的现象，建议集中管理办理公用品。蒋的这些举措，应当说皆指中了国民政府的弊端所在，而这些弊端正是大员小吏们敛财贪墨的渊薮。如今一旦改革，肥缺便荡然无存，自然会遭到有关部门官僚和党内政客的激烈反对，许多人给蒋廷黻打招呼，提醒他别“胡来”。有些人要他把建议中的某某部分删除：吴鼎昌不希望把农业工作从他的实业部中划出去；张嘉璈请蒋不要让他背上招商局的包袱；经济委员会秘书长秦汾告诉蒋廷黻，该委员会做过很多事情，不应裁撤；建设委员会的负责人告诉蒋，该委员会是张静江先生的灵魂，张与国父孙中山是莫逆之交，跟蒋介石的关系也很铁，所以于情于理也不该被裁撤掉。甚至就连共事于行政院的翁文灏也认为蒋的主张欠缺策略，怪他如同一只不知深浅的“瓷器店中的猛牛”，行事过于草率，劝他不可操之过急。