自从人类发明出实用的枪以后，就一直希望有一种能够连续发射子弹而不间歇的枪。但当时的枪大都是手动上弹，打一次就要上一次弹。即使是自动枪也不能满足人们的需要。然而，在战火纷飞的战场上，武器是否先进在很大程度上决定着战争的胜负。因此，欧美各国都纷纷研制起能够连续发射的枪，经过多次试验，终于研制出称心如意的机枪。
19世纪80年代以前，许多国家都研制过连发枪械。英国人J·帕克尔发明的单管手摇机枪于1718年在英国取得专利，由于枪身太重，且装弹困难，未能引起普遍重视。美国人加特林发明的手摇机枪，于1862年取得专利，首次使用于1861年～1865年的美国南北战争时期，为北方部队的胜利立下了赫赫战功，因而很快就受到各国的重视。
世界上第一支以火药燃气为能源的机枪，是英籍美国人马克沁发明的，1883年他试验成功了枪管短后坐自动原理，1884年应用这种原理的机枪取得了专利。这是枪械发展史上的一项重大技术突破。这种机枪的理论射速为600发／分，枪身质量却仅有27.2千克。后人称这种机枪为马克沁重机枪。马克沁重机枪在英国对南非的殖民战争（1893年～1894年）中被首次使用。此后其他国家也相继研制成了各种重机枪。
在第一次世界大战的索姆河会战中，1916年7月1日，英军向德军固守的阵地发起总攻，德军在其防线上安置了几百挺马克沁重机枪，向排列整齐的密集队形的英军进行了猛烈持续的射击，使英军士兵成为德军的活靶子，一天之中竟伤亡6万人。这个战例足以说明重机枪的密集火力对目标的杀伤作用。
为了使机枪能紧密伴随步兵作战，1902年，丹麦人麦德森设计了一种有两脚架带枪托可抵后发射的机枪，全枪质量9.98千克，称为轻机枪。
第一次世界大战期间，军用飞机和坦克的问世，要求步兵有相应的防空和反装甲的能力，为了提高机枪威力，出现了大口径机枪。1918年德军首先装备了这种机枪。军用飞机和坦克也装备了航空机枪和坦克机枪。军舰则在机枪刚出现时就装备了舰用机枪。
第一次世界大战后，德国设计了MG34通用机枪，1934年装备部队，在第二次世界大战中大显神威。第二次世界大战后，许多国家研制的新型通用机枪相继出现，如美国的M60机枪，中国的67-2式机枪等。
机枪的出现，使战场进入了名副其实的“枪林弹雨”时代，使战争的样式发生了重大变化。