耶律阿保机出生于契丹迭刺部的一个贵族家庭，他的祖先曾数代为迭刺部酋长。契丹部落联盟建立以后，阿保机的七世祖涅里便开始出任部落联盟的军事首长——夷离堇，这个职位是当时契丹的最高军事长官，其地位仅次于部落联盟长可汗。从涅里开始，夷离堇的候选人只局限于迭制刺部涅里的后裔耶律氏家族，使夷离堇的世选制逐渐成为事实上的世袭制。这种改变，一方面让其他部落感到不公平，另一方面也让拥有夷离堇世选权的迭刺部贵族之间的争权夺势变得更为激烈。
耶律阿保机出生的时候，他的祖父匀德实正担任夷离堇职务，掌握联盟的兵马大权，而且由于他在对外扩张中屡战屡胜，又主张大力发展农牧业，劝民稼穑，倡导畜养，富民强族，因此在部落中享有很高的威望，但因为这是个肥差，所以也受到了其他贵族的嫉妒和敌视。以贵族耶律狼德为首的一些人勾结在一起，用卑鄙的手段谋害了匀德实，夺取了他的职位。匀德实的妻子萧月里朵带着自己的四个儿子和耶律阿保机等几个孙子，逃到贵族塔雅克家中藏了起来，并把耶律阿保机藏在一个僻静的小帐蓬里，涂抹得面目全非，这才免遭迫害。
耶律狼德谋害匀德实以后，在联盟内横行霸道，无恶不作，很快引起了各部贵族的不满。在匀德实前任夷离堇蒲古只的领导下，匀德实的次子岩木重新夺回了夷离堇职位，耶律狼德及其同伙被诛杀。后来耶律阿保机的父亲撒拉的、撒拉的三哥释鲁相继担任了夷离堇。
随着契丹政治的变化，释鲁之前历任夷离堇的地位已经凌驾于可汗之上，而释鲁的权力和地位更加超过他的前任。释鲁先是创建了名为“挞马”的侍卫亲兵部队来保护自己的权力，后来又在“可汗”与“夷离堇”之间创设了“干越”这个职位并且自认，夷离堇则由从弟奄古继任，部落联盟长可汗权力被进一步架空。
在释鲁担任夷离堇期间，耶律阿保机曾受命北讨室韦、乌古、南征奚、香等部，阿保机以其出色的军事指挥才能，令敌望风而逃，所向披靡，他的声望也因此倍增，被人称为“阿主沙里”，后来又在释鲁担任干越期间，因为平定莆古只三族叛乱有功，被推荐为迭刺部夷离堇。次年，31岁的阿保机晋升为总领军国大事干越普夷离堇，掌握了契丹联盟的军政实权。
担任夷离堇后，耶律阿保机开始“专事征讨”。公元901～年至公元903年，阿保机也先后率军攻打室韦、于厥、女真等部落，均大获全胜。公元904年，阿保机大破室韦，声名威震中原。
此后，唐朝末年的割据势力如李克用、朱温等人纷纷与阿保机结盟，阿保机也趁机寻求外部联系，取得族外支持。与中原强大的割据势力搞好关系后，阿保机着力发展契丹的农业、畜牧业以及冶铁、纺织、制盐等手工业，契丹的社会经济得到了迅猛发展。
公元906年，契丹可汗去世后，阿保机以战功显赫、治军有方被推荐为可汗。公元907年，实际已集契丹军、政、财、法大权于一身的耶律阿保机登可汗位。
耶律阿保机采取远交近攻的策略，积极向外扩张势力。在与梁、晋结好之后，阿保机开始对幽州藩镇刘仁恭发动了报复性进攻。自公元895年刘仁恭割据以来，多次北上侵犯契丹，激起了契丹人的极大怨恨。
公元907年，刘仁恭之子刘守光囚禁了自己的父亲，并称帝自立，建国号大燕。时任沧州节度使的刘仁恭次子刘守文闻迅后，倾沧州、德州之兵前来为父报仇，却为刘守光所败。刘守文派人向阿保机求援，阿保机也借此机会，命族弟舍利素领兵南下，在蓟州西北与刘守文会合，大败燕军，乘机占据了营州。后来，大燕国为晋李存勖所灭，为契丹除去了一个劲敌。耶律阿保机遂集中精力征服契丹“后方”诸部族。阿保机即位的当年二月，即率军攻打室韦，迫其八部投降。次年，又先后征服了乌丸、奚各族，使东濒渤海、南暨白檀（今北京密云东北）、西北松漠（今内蒙古锡林郭勒盟东南）、北抵潢水的广大地区，都处在契丹的统治之下。之后，阿保机又平息了契丹同部针对自己的叛乱，进一步巩固了自己的地位。公元916年，阿保机称“大圣大明皇帝”，建年号神册，国号“契丹”，立长子耶律倍为皇太子，宣告了契丹奴隶制国家的诞生和世袭皇权的确立。