庐山还有一个名字，匡庐。传说在殷周时期曾有匡俗七兄弟在这里结庐，因此得名。
庐山北临长江，位于江西省北九江市南部，它是鄱阳湖平原范围内的一座孤立的山峦。庐山是东北—西南走向，29 千米长，18 千米宽，总面积达到了282 平方千米。海拔1474 米的大汉阳峰是庐山的最高峰。庐山的绝对高度不是太高，但是它靠近鄱阳湖的一面十分陡峭，这部分与四周的平原有1400 米的落差，这就造成了庐山高俊挺拔的形象。
庐山是由断块隆起而形成的垒式断块山。它与四面断裂下降的平原、盆地等地势相比，显得格外挺拔雄伟。其中，庐山的东南部和西北部的断层结构最为明显，东边有温泉大断裂，西边有莲花山大断裂。像这种断层结构的山体还有五老峰、龙首崖、仙人洞等。
庐山的地貌特点和它的岩层构成有着很大的联系，庐山北部岩层坚硬， 一般会形成高大山岭。五老峰就是高大山岭中的一个， 它因其岩层垂直分布不均，再加上风化的侵蚀作用形成了特殊的被分割的五个山峰，就像五个老人围坐一般。五老峰东南是因为断层而形成的悬崖，登上峰顶，可以看到鄱阳湖正碧波万里地躺在自己脚下。相对而言， 庐山的南部，地质构造就比较简单，一般是由片岩、负岩、板岩和花岗岩等组成的地层。岩石破碎严重，风化侵蚀强烈，所以它的地貌和风景与山北部有较大的差别，这里的山形多呈浑圆状，和北部的山峦恰恰相反。
庐山因其奇秀名扬天下，这不但是它的地势构造特别，与最原始的冰川作用也有很大的联系。庐山大概形成在200 万年之前，也就是第四纪冰川之时。即使在现在，在庐山也能找到冰川造成的痕迹。在庐山西谷，通向花径的林阴道的两旁，有两块叠在一起的巨石。较小的一块横卧在较大的那块石头上， 比较突兀。它们的形状就像一只雄鹰在天空翱翔一般，有人称其为“飞来石”。地质学家李四光研究认为，这块巨石并非是人们想象的那样，它不是凭空飞过来的。而是在冰川时期随冰川漂流至此的，后冰层融化，这块巨石就在这里安了家。根据李四光的研究：庐山是我国东部地区最典型的第四纪冰川遗迹，也是最集中的一个山体。庐山的北部集中了冰川遗迹的大部分，以冰斗、冰窖、U 形谷最为常见。大坳冰斗是庐山最著名的冰斗，它位于大月山的东北部。另外，庐山还有多处冰窑，芦林盆地是最著名的一个，这就是当初大校场和牧马场这两条槽形洼地的冰舌汇合处，后来经过冰川的刨蚀作用逐渐形成。研究发现，U 形谷是冰川运动过程中的谷道，专家称其为冰川谷。王家坡、七里冲、大校场、石门涧、庐山垅、莲谷和小天池等是庐山主要的U 谷，其中以王家坡的U 谷最为壮观。王家坡谷地处在小天池的长岭头之中，谷很宽阔，谷壁陡峭，谷底平坦，规模宏大，冰蚀特点相当典型。庐山的冰川遗迹是大自然留给人类的财富，它向人们贡献了一个考察第四纪冰川活动的宝贵场所。这里有怪绝嶙峋的岩石，也有奇妙美仑的奇峰，幽静深邃的幽谷，这都与第四纪冰川的“洗礼”密切相关的。