1848年革命失败后，欧洲革命运动处于低潮。马克思、恩格斯总结了1848年革命的教训，深入研究政治经济学和资本主义社会的发展规律，密切联系各国工人运动骨干，并悉心加以培养，从思想上、理论上和组织上积极准备建立国际工人运动组织。
1857年，世界经济危机从美国开始，蔓延到欧洲大陆，资本主义社会的各种矛盾激化。50年代末60年代初，欧美工人运动再次高涨。资本家常用解雇本国罢工工人，招雇外国工人的办法来对付罢工。各国工人们在斗争中感到需要加强团结和合作，从而产生了建立国际工人组织的要求。
1859年，伦敦建筑工人罢工，英国各地工人和法国工人募捐支援，使罢工能坚持1年之久并取得了胜利。1862年，法国和德国的一些工人到伦敦参观世界博览会时，曾与英国的工会联合会商讨过国际团结问题。1863年，波兰人民起义反抗沙俄统治，遭到沙皇政府血腥镇压。英国工人在伦敦集会，支持波兰人民的正义斗争。会后，英国工人代表写信给法国工人组织，信里呼吁：“让法兰西、意大利、德意志、波兰、英格兰和一切具有为人类幸福而合作的决心的国家的（工人）代表们聚在一起。让我们召集我们的大会，让我们首先合力为争取波兰的自由而奋斗。”法国工人组织派出以托伦为首的代表团，带着回信于1864年访问了英国。回信中说：“决不容许戴着血淋淋的王冠的国王们勾结起来，宰割那些被强者掠夺得一贫如洗的各国人民”，“全世界的工人们！我们必须团结起来，筑成一座坚不可摧的堤坝，来抗拒把人类分成两个阶级——愚昧饥饿的平民和脑满肠肥的官吏——的害人制度。我们要团结起来拯救自己！”
1864年9月28日，英、法、德、意和波兰的工人代表，在伦敦圣马丁教堂集会。英、法工人代表在会上宣读了上述两封信。会议根据法国工人代表的提议，通过了建立国际工人组织的决议，从而在实际上宣告了第一国际的诞生。
会后，马克思等受委托起草第一国际的成立宣言和章程的草案。后来，马克思又受委托修改草案，重新写了《国际工人协会成立宣言》和《临时章程》，在11月1日获得总委员会的通过。
《成立宣言》揭示了资本主义制度下不可避免出现的贫富两极分化，揭示了资产阶级和无产阶级的根本对抗，指出“夺取政权已成为工人阶级的伟大使命”，再次提出了“全世界无产者，联合起来！”的口号。