936年德国萨克森王朝国王亨利一世中风而死，其子奥托继承王位。奥托继续执行其父的东征政策，征服了波西米亚，击败匈牙利人。此后调军南下攻打富庶的意大利，951年占领伦巴底，获得意大利王位。961年罗马贵族叛乱，教皇向奥托乞兵求援，奥托进抵罗马平息了叛乱。
962年教皇约翰十二世在罗马圣彼得大教堂为其举行加冕礼，称其为神圣罗马帝国皇帝，意为帝国和天主教一样包括一切基督教王国，是古代基督教罗马帝国的真正继承者。帝国的疆域包括今德国、奥地利、捷克斯洛伐克西部、瑞士、法国东部、低地国家、意大利的北部和中部。德意志的国王当然是神圣罗马帝国的皇帝，直到16世纪一直由教皇在罗马为其举行加冕典礼。
11世纪起神圣罗马帝国历届皇帝与罗马教廷争夺基督教世界的领导权，因而陷入长期纷争，帝国由此被削弱。1254年霍亨斯陶芬王朝结束，德国历史上出现了王位“大空位”时代。1273年哈布斯堡家族的鲁道夫四世当选为皇帝，称鲁道夫一世，此后神圣罗马帝国的帝位一直由哈布斯堡家族承袭。1356年查理四世颁布黄金诏书，规定皇帝由七大选侯推举。除直辖领地外，皇帝对帝国境内的诸侯领地没有约束权，神圣罗马帝国的皇权更加衰弱。16世纪宗教改革运动中，支持改革的德意志诸侯改信新教而与皇帝分裂，并导致了30年战争的爆发，帝国更加衰败，实际上仅有一个政治虚名。1804年8月，拿破仑宣布他为法兰西皇帝，取代了神圣罗马帝国皇帝在欧洲诸王权中传统的至高无上的地位。弗朗西斯二世被迫采用奥地利皇帝的称号，1806年8月正式辞去神圣罗马帝国皇帝的称号，神圣罗马帝国至此告终。