原子核裂变被发现的前夕，奥本海默正致力于研究宇宙射线与原子核的相互作用。他听到原子核被劈裂的消息后，立即把自己的注意力转移到这一新发现上，甚至和朋友们谈起它对战争时期物理学研究和战争本身的影响。
1942年春天，奥本海默应康普顿的邀请，到芝加哥大学物理系讨论快中子与核的相互作用和原子弹问题。布赖特辞职以后，他被正式任命为“金属计划”理论部主任。奥本海默反对布赖特那种以过分的保密措施来限制学术自由的做法，鼓励大家进行自由讨论。在伯克利，他组织了一个包括物理学家贝特和泰勒等人在内的学术小组，讨论原子弹模型。考虑到他没有实验和组织经验，康普顿曾专门派另一位物理学家曼西作他的助手。奥本海默凭着自己的敏捷和特有的开朗、谦虚及随和，领导着这个小组取得了远比过去快的进展。奥本海默在1942年初，就感到有必要建立一个新的陔研究中心实验室，一方面为核科学家和武器专家提供一个自由讨论的场所，另一方面也便于保密和管理。格罗夫斯请求美国政府批准了这一建议。
1942年11月，奥本海默与格罗夫斯选择洛斯阿拉莫斯作为新的实验基地。洛斯阿拉莫斯在新墨西哥州的一片沙漠环绕的大山之中，距离最近的小镇圣菲大约50公里，是一个出口很少的闭塞地方。这里原有一所小学，附近还有不多的农场。当奥本海默他们选定这里后，美国军事工程部和其他军事单位立即开始了紧急的工程建设。奥本海默等一批科学家也带着小型加速器等仪器设备不断地进入实验室。
奥本海默开始时对困难估计不足，认为只要6名物理学家和100多名工程技术人员就足够了。但到1945年时，实验室发展到拥有2000多名文职研究人员和3000多名军事人员，其中包括1000多名科学家。
鉴于大多数科学家都反对实验室的军事化管理，格罗夫斯同意加州大学成为洛斯阿拉莫斯名义上的管理单位和合同保证单位，基地的军队负责实验室建设、后勤供应和安全保障。这就保证了实验室内部的自由学术讨论。奥本海默极力主张学术民主和学术讨论，他认为这是科学研究的基本原则，特别对于军事研究，它是激励优秀科学家创造性的最好方法。在开始时，出于保密考虑，他只允许在他的办公室和格罗夫斯的临时办公室里安装直接对外的电话。但在铁丝网的内部，他反对格罗夫斯提出的在每个实验室配备监视岗的意见，竭力降低军事当局对科学研究的影响。奥本海默鼓励科学家们大胆地讨论原子弹的有关科学问题，提出即使看门人的意见也会对原子弹的成功有一定的帮助。
奥本海默注意倾听任何人的意见，掌握着整个实验进程。有些参与核研究的物理学家后来回忆说，他们自己甚至都不如奥本海默清楚自己工作的细节和进展计划。在很多问题上，都是由于奥本海默的决断才取得突破，保证了原子弹研制时间表的执行。他在科学家、普通职工和政府官员中的威望越来越高。有一个人曾经说过：“在洛斯阿拉莫斯建筑工地上，必要时，每个人都愿意为奥比而赴汤蹈火。”
洛斯阿拉莫斯素有“诺贝尔奖获得者集中营”之誉，奥本海默没有获过诺贝尔奖，却拥有如此高的个人威望，担任着这个“集中营”的“营长”。他的组织才能与人格魅力由此可见一斑。
罗斯福总统在1942年为原子弹计划批准了4亿美元的财政支持，这笔款项分为22亿的曼哈顿计划研究费用，18亿的原材料采购费用。美国全国都为这个计划做出了牺牲，例如，橡树岭核基地曾一度耗用了美国电力供应的10％。洛斯阿拉莫斯的科学家负责整个计划的协调，他们在交通等方面拥有比国会议员还要高的优先权。在洛斯阿拉莫斯，军队一方面强化安全检查制度，另一方面昼夜为科学家和他们的家属创造良好的生活条件，成为美国历史上科学家和军队最成功的一次合作。
美国还与它的盟国英国和加拿大建立了多种联系和合作，得到了有价值的技术情报和铀原料供应。1943年，英国派出了以查德威克为首，包括玻尔的核研究小组来到洛斯阿拉莫斯、橡树岭等基地，与美国科学家一起研制原子弹。
原子弹的一个重要问题是如何触发它。在科南特的建议下，美国防卫研究委员会于1943年派出了美国军队中最优秀的爆炸专家之一——基斯塔科夫斯基到洛斯阿拉莫斯从事这方面的研究。最简单的触发办法是，把一个高于临界质量的球形裂变材料分为两块，在发射时利用普通枪机触发装在一个半球后面的普通炸药，炸药的推力在一个方向把一个半球推至与另一个半球相合。裂变材料中一般存在着自发裂变，如果推合时间大大小于自发裂变引起的链式反应的时间，使裂变材料在飞散前达到临界质量，原子弹就会发生爆炸。
来自华盛顿大学的物理学家尼德迈耶曾提出了一个向心爆炸的方案：把不同性质的炸药放在球形裂变材料外部的不同点上，炸药爆炸时，会类似透镜聚焦一样，产生一种向心力，它可以缩小触发时间，延长裂变材料的约束时间。由于枪机触发是成熟的技术，也能满足铀弹的要求，向心法没有能被列入紧急项目，只有尼德迈耶、基斯塔科夫斯基等人坚持小规模地研究。
1944年初，西博格等人发现从铀反应堆生产出来的钚-239，因含有少量的钚-240而有着比铀材料更大的自发裂变本底，它能使材料的链式反应时间常数小于普通枪机的触发时间，其后果是钚弹的裂变材料很可能在发生爆炸以前被气化掉，因而大大地减少甚至消除原子弹的威力。将钚-239从钚-240中分离出来面临的困难，将比分离铀-235的困难更大。这一突如其来的问题有可能使整个原子计划前功尽弃。尼德迈耶大胆地提出用他的向心法来触发钚弹。贝特在理论上估计这种方案是行得通的。
在广泛地听取了各种不同意见后，奥本海默果断地决定，立即采用这个方案，这才使得在美国原子弹研究中占有重要地位的钚弹计划起死回生。