卡内基不断地把他与钢相关的资产进行重组和合并，其中包括了埃德加？汤姆森钢厂、露西熔炉铁厂、联合铁厂，还有像“家园”铁厂等收购来的资产，以及一大批焦炭、煤炭和铁矿资产，最终用这些资产组建了一个“卡内基钢铁公司”。并且，在20年的时间里，他把这个公司发展成了世界上最大的钢铁公司，它的总产量大约相当于英国的钢总产量的一半，在美国的钢总产量中也占到了四分之一。它是行业内最能盈利的公司，也是公认的市场领导者。到19世纪80年代时，这个公司的结构钢手册——涵盖了钢梁和立面设计，以及负荷和应力表——已经成为行业内的圣经。无论是繁荣时期还是萧条时期，它巨大的资金资源都能够让它对竞争对手保持压力。正如一位英国学者所说的那样：“当需求减少，公司需要降低产品价格以保证机器持续运转的时候，有着最新型设备的公司——卡内基的公司就是这样的——就会发现它的损失是最少的（或者说它的竞争对手的损失是最多的）。”收购了弗里克焦炭公司之后，卡内基钢公司在焦炭供应方面获得了支配地位；而它收购的苏必利尔湖畔储量巨大的铁矿也让它在高质量铁矿石方面有着几乎是压倒性的优势。
卡内基钢公司的兴起并不是以任何隐蔽的优势或者是技术优势为基础的。卡内基进入炼钢业相对较晚，而且在美国，他所有的竞争者的工厂基本上也都是霍利设计的。例如，圣路易斯的弗尔肯工厂就基本上是埃德加？汤姆森钢厂的复制品；霍利本人有一次也描述说，埃德加？汤姆森钢厂的轧钢厂是美国最好的，“除了伯利恒钢厂的轧钢厂以外——它完成之后将是最好的。”当然，在1878年的时候，霍利正在建设这个钢铁厂。这样看来，卡内基的公司的竞争优势主要就在于卡内基了——他的无情的压力，他对削减成本的追求，他盗取任何交易以保证他的工厂满负荷运转的本能，他把获得的利润用于扩大生产、采用最新设备和最好的技术的执着。而其他的公司则经历了从兴起到没落的循环：创立者生活安逸，股东们要求回报；繁荣时期，工人和经理们还能够出门游览一下——整个情景与19世纪80年代英国的钢铁工业在铁路大繁荣时期之后的情况完全一样。但是，25年来，卡内基却从未停止或者放松过。
虽然卡内基并没有什么头衔，但很明显他是幕后的老板：角色的模糊可能更增加了他的力量，因为这样就没有什么渠道或者条款能够限制住他。1889年，琼斯上尉在一次熔炉爆炸事故中遇难；而在那之前，卡内基一直和他保持着积极的联系。通过这些信件，他诱使琼斯把坎布里亚钢厂的生产数据告诉他，虽然埃德加？汤姆森钢厂在生产上几乎一直胜过坎布里亚钢厂。1881年年中，琼斯欢呼说：“埃德加？汤姆森钢厂这匹马正在像以往一样开始胜出了。”从这些信件中还可以看出卡内基对于日常事务的关注和投入程度。例如，下面是琼斯在1883年所写的信件中的一段，内容是有关得到霍利支持的、在钢轨制造流程中删掉一个步骤的方法。琼斯就此与卡内基深入地交换了意见：
这个星期，我试验了直接从剪床开始碾压的方法；但是我坦白地说，我并不喜欢它；而且我敢确定，除了对于机器过于严苛以外，这样做还会增加我们所用的时间……更好、更便宜的办法是按照我建议的方法再次加热。我希望能在几个星期内准备好这些计划，并且向你展示我的方法。
卡内基还坚持要像铁路那样进行成本会计核算，并且取得了很好的效果。琼斯每月向他做一次详细的汇报，包括每件产品和每个流程的劳动力成本，跟踪所有购进的原材料以及废品和废料所占的百分比，缺陷产品和返修产品，以及工厂的主要组成部分的正常运转时间及空转时间，如熔炉和转炉等。月度走向趋势和年度比较也都按每吨产量、熔炉、矿石类型、焦炭来源以及运输形式分别加以说明。一些报告明显是经过专门分析之后得出的结果，如可选转化法分析，以及1883年进行的金属损失研究——这也是一个让霍利头疼的主要问题。有一些报告作为档案保存了下来，报告上满是卡内基用敏捷而优雅的字体所做的批注。他后来也说，那些经理们都很讨厌这些报告，因为要花上几年时间才能符合报告提出的要求。卡内基能够慧眼识英才，但是，他也是一个高压的管理者，经常连珠炮似地向合伙人提出许多问题，特别是质量方面的反常、下降等问题更是他所憎恶的。例如，他在谈到铁路向他们提出的抱怨时这样写道：
确实让人感到非常悲哀。看到这种情况，没有人能够还高昂着头。现在，这种情况不会、也不应当再次发生了。把坏的钢轨交付给铁路，特别是像东线铁路这样一向检查严格的铁路，那是在毁我们自己……今天，我个人宁愿支付5000美元，也不愿意让这种丢人的事情发生。