长城的修筑，并不是从秦才开始的。它大约起源于春秋战国时期，是诸侯国拓展国土，发动兼并战争的产物。为了防御别国的进攻，当时的诸侯国在具有军事意义的边界地区修筑过长城。燕、赵、秦三国因为地处边陲，比别国更受到匈奴、东胡等游牧民族的侵扰，所以相继在北部边境修筑了长城。秦统一后，把内地的大部分长城拆除，保留了边境的并予以增修，后来的秦长城就是在这三国原有基础上修建起来的。
战国中后期，匈奴开始强盛，秦、赵、燕三国北部的长城边境成为战略防御的主要战场。这种状况一直持续到秦统一六国后都没有变。当时秦正从事巩固统一大业和国内各项改革，北方匈奴贵族觊觎中原，时时南下侵掠，并趁着北方的燕国赵国衰落，夺去了黄河河套地区的大片土地。匈奴人侵给人民带来极大的痛苦，同时也威胁到了新生的统一王权，秦王政不得不着手解决这个问题。
公元前215年，秦始皇派大将蒙恬率兵30万讨伐匈奴，将匈奴赶到阴山以北，收回了河套失地，并且在这里设置了34个县，重设9原郡，修筑了几十座城堡作为防御工事，并从内地移民3万到此戍守垦荒。为了巩固北方边境，蒙恬和另外一位大将领兵渡过黄河，占据阴山。在据守阴山一带时，蒙恬就率军民首先对新收复的沿黄河一线的赵长城进行了修补，为防备匈奴人的再次进攻，秦始皇决定修筑一条新长城。公元前213年，即始皇34年，声势浩大的长城修筑工程全面展开。为了修长城，秦政府几乎动员了整个国家的人力物力，大批役夫被迫征赴边疆，粮草也源源不断从内地输往北境。在东西长达万里的长城沿线，到处是开山凿石、肩挑畜拉、打夯砌筑的场景。长城沿线地势十分险峻，施工非常困难，他们充分利用山河自然之势，据地形筑城，连缀了原有的旧长城，并对之进行修葺增补，同时也建造了不少新的城墙。这项工程十分浩大艰巨，当时生产力水平还十分有限，劳动人民必须克服很多困难才能完成。不少人葬身于此，累累白骨成为长城的奠基，经过整整9年的烈日严寒，万里长城终于竣工。
新的万里长城全长约5000千米，西起临洮，东至辽东，沿依阴山山脉，行经内蒙古草原，一直奔向苍茫的大海。长城的建筑，绝大多数地段是以山脉为基础，随着山势而建，有的甚至建在1300米的高山之上。长城本身的高度从5米到10米不等，墙外都用砖和石头砌成，里面则用黄土夯实。作为建筑工程体系，它是由关隘、城墙、城台、隧峰四部分组成的。关隘就是关城，通常建在高山峡谷等险要处，扼守要冲，镇守于此真可谓“一夫当关，万夫莫开”。城墙就是长城的主体。城台可用来瞭望城外．每隔130米就有一个。烽隧，又叫烽火台，大多建在高山顶上或险要处，专门为了传递军情而设，白天点燃掺有狼粪的柴草，便浓烟直上云霄，夜晚则燃烧加有硫磺硝石的干柴，使火光通明，用以报警。另外，秦始皇还派大军在长城沿线驻守，并设了10多个郡，进行管辖开发。
万里长城的修筑，尽管给人民带来极大的痛苦，但是对于保护北疆人民生活和农业生产，巩固发展以汉族为主体的统一多民族国家，起到了积极作用，体现了中华民族集体的智慧，也是中华民族伟大精神的象征。