对于古尔德来说，1878、1879这两年是很艰难的两年。国会最终通过的唯一的铁路法案实际上让联合太平洋铁路的形势更加糟糕了，并且打破了他与政府达成合理妥协的希望。最糟糕的是，由于预测到美国将回归金本位，他在股市上卖空并因此遭受了重大损失。（但他的恢复过程非常顺利，甚至还引发了一个小小的繁荣。古尔德的天才在于公司理财；而他在市场分析方面最多也只能算是普普通通。）到处都有传言说古尔德陷入了困境，不过在那之前他可能确实如此。
但是，他的敌人如果因为他的悲哀而感到欣慰的话，那他们就错了。十年前，他也是在经历了拼死挣扎之后才控制了伊利铁路；但这同时也使伊利铁路的财务严重亏空，还养肥了他的主要对手，而他自己在竞争中却明显处于毫无希望的境地。他当时的反应是攻击，而且是全线攻击，针对他的所有竞争者同时发起攻击。1879年，他看上去确实萎靡不振、邋遢不堪，但还不至于像1869年时那样虚弱。而且，他又一次发起攻击了；而这一次，他不仅改变了这个国家的铁路地图，还让自己成为了这个国家最有实力、几乎是出手必擒的金融玩家。
古尔德几乎征服了所有人
到大约1883年的时候，经过了四年针对所有人的无情攻击之后，古尔德实际上已经控制了国家铁路系统的整个中心，而且还在咄咄逼人地向东、西、南、北四个方向扩展他的业务。他还控制了马萨诸塞州的快速运输系统，并通过投资报纸来为他的形象提供支持；并且，作为西部联合电报公司的主要所有人，他还控制了全国的电报系统。他的经历也成了各种传奇故事的素材，而考虑到他最初所处的弱势地位，成为传奇故事的素材也并不为过。连《纽约时报》也无奈地惊叹说：
但是，我们被直截了当地告知，“杰伊？古尔德”已经在最底层了，正如人们所说的那样，他将处在今天所有事物的最底部。我们非常怀疑他还将会被发现……与这个艰难的冬天、与上冻的水管以及管道工人奢侈的账单有任何的关系。但毫无疑问，他已经在去年夏天的某个时候与管道工人们结成了一个“圈子”，然后制造了最近的严寒，从而使他所有的机器都开始运转了。
后来，这家报纸又说：
古尔德先生的游艇昨天撞穿了一艘拖船，看来它原本是要去撞击对面的一艘纵帆船的。顺理成章的猜测是，古尔德先生“缺少”这两艘被撞伤的船；但是，我们相信这是毫无根据的……但是，他不应当去折磨我们的商船。
他的竞争者拼命地想寻求安全。一位铁路管理者对古尔德控制西部联合电报公司感到非常悲哀，他给一位同事写信说：“我完全确信古尔德……看了所有像铁路信息之类的信息，所以我不敢相信电报线路，除非我使用密码，并且每天都要改变的密码。”1881年，古尔德从汤姆？斯科特手中购买了德克萨斯暨太平洋铁路之后，该铁路的一位主管给出了一个更为现实的评价：
我对汤姆？斯科特做成任何大事的能力从来就没有太多的尊敬。他可以让所有人都过关，从而让他们说他是一个好人——但是，他不是一个能拿出10万或者20万美元现金来实现他自己的计划的人……古尔德与斯科特则正好相反；他是一个单打独斗的强人，不咨询任何人，不征求任何人的意见，也不信任任何人；他没有朋友，也不想要朋友——他是一个勇敢的人。他能够拿出20或者30万美元来实现他的计划；如果他认为值得，他就会去做。
在古尔德那个时代，大多数铁路从业者都明白，铁路是自然垄断的一个行业，因为很少有地方可以创造出足够大的交通运输量以支撑相互竞争的几条铁路线。传统的解决竞争的办法是达成绅士协议，各自预先划定竞争边界，并以一种“友好的”方式分配运输量。这种“联营”协议在伊利铁路大战之后的十年里成为了标准的解决方法——为了应对古尔德在1869年发起的猛攻，斯科特的激进做法差点让宾夕法尼亚铁路触礁搁浅，这就足以证明无限制的竞争能够带来什么样的危害。进行联营的“老前辈”是阿尔伯特？芬克，他曾在巴尔的摩暨俄亥俄铁路担任了多个职务，后来又在路易斯维尔暨纳什维尔铁路担任高级管理人员——在那里，19世纪80年代，他在东南部的铁路中间组织了一个大规模的联营。在那之后，通过严谨的文件协议和循循善诱的热情，芬克又组织了一个规模更大的铁路联营——东部干线联营；这个联营很快就几乎把密西西比河以东的所有铁路都包括在内了，而他自然也成为了这个联营的第一任专员。这是人们期望的合理有序的行业关系的最高点，而这种期望对于19世纪末期的商人们来说是那么的有吸引力；其中，皮尔蓬？摩根是最典型的代表。芬克是一个成本会计的“传教士”，这可能是他做出的永久性的贡献；而他这么做的部分原因也是为了让他的联营成员支持收益和价格协议。