1947年3月间，美国草拟“援欧”方案，此时正值美、苏、英、法4国外长在莫斯科开会，具体讨论德国、奥地利问题。马歇尔在会上提出德国经济统一的问题，但被前苏联否定。会议开了1个多月毫无结果。会议结束前，马歇尔拜访斯大林，斯大林对国际问题及德国问题均未具体表态，只是说：“如果达不成协议，那又有什么关系？我们下次可能达成协议，下次不成，可以等再下一次……必须有耐心，不要悲观。”
莫斯科外长会议结束后，马歇尔抓住斯大林的上述谈话，为美国加快“援欧”计划造舆论。他责怪前苏联在欧洲采取拖延战术，其目的不仅使德国问题无法解决，更要使陷入困境的欧洲经济最后崩溃。回国后，马歇尔立即就莫斯科外长会议发表广播演说，介绍欧洲经济现状时，马歇尔强调欧洲的“病人已奄奄一息”，美国必须对症下药，迅速行动。
马歇尔亲自搭班子，研究具体方针，制订具体的“援欧”计划。1947年4月底5月初，他责成助理国务卿威尔·克莱顿就西欧经济现状写成书面报告。此外，他授权前苏联问题专家乔治·凯南领导国务院政策设计司，在两周内将“援欧”具体建议送交国务院。
到5月下旬，凯南与克莱顿均向马歇尔提交了“援欧”建议。建议认为，美国只有给濒临绝境的西欧经济“输血”，才能达到控制西欧的目的，必须把西欧作为一个整体来考虑，打破各国的经济壁垒，协调各国的关系，缓和英、法、德的矛盾，以便一致对付前苏联；同时还献计说，美国不必急于发表“复兴”欧洲的具体计划，而是乘欧洲经济濒于绝境之机，让欧洲国家联合起来主动向美国提出请求。最后留下的是一个棘手问题，即“援欧”范围究竟包括西欧，还是包括整个欧洲。顿时，是否邀请前苏联便成为问题的核心所在。纵然美国早将“援欧”范围定为西欧，但迫于形势，为了避免被指责分裂欧洲，美国政府不得不考虑邀请前苏联参加的问题。为此，5月28日，国务院召集主要官员与智囊人士开会磋商。
会上，马歇尔很快便把问题集中到一点，即是否要邀请前苏联？邀请前苏联有什么利弊？副国务卿艾奇逊认为，前苏联参加弊多利少，美国国会很可能不肯拨款，从而影响整个“援欧”计划。但据他估计，前苏联不一定会参加，因为按照常规，前苏联是不愿泄露其国内经济情报的。因此，美国不妨发出公开邀请，然后看一看前苏联是否响应。凯南与艾奇逊意见一致，也主张向前苏联发出邀请。凯南在发言中进一步分析了邀请前苏联的理由。在他看来，前苏联是非邀请不可的，唯有这样才能使美国不必承担分裂欧洲的责任。但凯南也承认，前苏联当真应邀参加，则又违背美国本意。怎么办？凯南认为，美国只要在邀请前苏联的同时，提出苛刻条件，要求前苏联像美国一样，多承担责任，多作出贡献，前苏联便有可能拒绝参加“援欧”计划。马歇尔感到凯南言之有理，决定暂不限定“援欧”范围，在宣布该计划时，则尽可能含糊其辞，这样便为其后迫使前苏联退出该计划埋下钉子。
经过短期紧张筹备，“援欧”计划的大政方针均已确定。马歇尔便借哈佛大学举行毕业典礼并授予他名誉学位之际，发表“援欧”演说。
授予名誉学位的日子定在1947年6月5日下午，哈佛的毕业生与校友围坐在校园榆树下，倾听各界人士讲话。马歇尔对准备在这次演说中抛出援助欧洲的计划一事守口如瓶。马歇尔的讲话稿由自己起草，发表前甚至没有给国务院留下副本，艾奇逊这样写道：“很多人都会感到奇怪——国务卿带着这样一份远远没有准备好的讲话稿去作如此重要的讲演，而且也没有把最后定稿的内容通过国务院。直到最后几分钟，我才通过电话从卡特上校那里探听到讲演的内容。”马歇尔演说时，身穿便服，表情严肃。演说平板单调，历时只不过15分钟，但是却阐明了美国重大的“援欧”政策。
马歇尔具体阐述了欧洲的经济困境：战争使欧洲变成一片废墟，城市、工厂、矿山、铁路均遭严重破坏。如今，欧洲无法生产足够数量的工业品、粮食、原料。此外，欧洲燃料匮乏，工业装备极为陈旧。马歇尔表示，美国愿意提供援助，尽其所能协助欧洲经济恢复正常。接着他提出美国的“援欧”计划：一是，如果美国政府单方面制订欧洲经济复兴计划，那既不妥当，也收不到效果。因而欧洲应采取主动，“欧洲必须先行一步”，美国则从旁提供援助。二是，美国这次“援欧”与以前不同，不是向个别国家提供零星援助，而是向联合的欧洲提供援助。至于联合的欧洲，是指前苏联在内的整个欧洲，还是只包括西欧，马歇尔不作正面解释。他只是含糊其辞地说，该计划假使不能征得所有欧洲国家的同意，也得征得一部分国家的同意，暗示该计划有可能只包括西欧。在演说中马歇尔还说：“我们的政策的目的在于恢复世界范围内的正常经济秩序，从而提供一个自由制度得以存在的政治社会环境……我敢肯定，任何愿意加入这一复兴事业的国家，都将得到美国政府的全力合作。任何企图阻碍别国复兴的政府，都不会得到我们的帮助”。
演说发表后不久，“援助”计划便被称为“欧洲复兴计划”，即“马歇尔计划”。