翻开司马迁写的《史记》中的《秦始皇本纪》，我们可以看到如下的一段记载：在秦刚刚完成统一的公元前221年，秦王赢政在都城咸阳（今陕西咸阳东北）召集各位大臣，开了一个具有十分重要意义的宫廷御前会议。这次会议所讨论的内容主要有两件事：一是商议帝号；一是制定制度。
秦本来是与齐、楚、燕、韩、赵、魏等六国一样的诸侯国，经过多年的征战，如今将其他六国全部平定，四海归为一统，秦王赢政觉得自己功高盖世，认为如果再用与原六国的国君一样的名号来称呼他，是无法显示他的丰功伟绩，也无法使他流名百世的。于是他在群臣建议的基础上，自定为“始皇帝”。群臣对此也都表示同意，并无异议。
至于会议所讨论的第二件事，则没有如此顺利，非但如此，还引发了一场不小的争论。以丞相王绾为代表的一批大臣，率先向秦始皇建议说：现在秦刚刚统一了六国，原六国之地，如燕、齐、楚等，地处较远，如果不分封新的诸侯王，恐怕无法镇抚这些地区，所以请求立诸皇子为王，希望圣上能够批准。秦始皇于是将这一提议交给群臣们讨论，结果几乎所有的大臣都认为这个办法非常好，应该实行。惟独廷尉李斯对此不以为然，他辩论道：“当初周文王与周武王分封了很多的同姓子弟为诸侯王，但是后来这些诸侯王彼此之间的关系渐渐疏远，互相攻击，视同仇人，周天子对此也不能禁止。现在四海之内，仰仗陛下的神灵而得以一统，成为了郡县之地。用国家的赋税重赏诸位王子与功臣，就已经足够了。改行郡县制，天下没有不同的意见，就说明这一制度是有利于国家安定的措施，所以说分封诸侯是不适当的做法。”听了李斯一席话之后，秦始皇最后说：“天下的人们苦于连年的战争不止，之所以会造成这样的原因，就是因为有诸侯王的存在。我们仰赖祖辈，使天下刚刚平定下来，现在又要分封诸侯国，这是在制造战争啊，而在这种情况下，却还要寻求秦疆域政区示意图安宁，岂不是一件非常难的事情吗！因此，还是廷尉李斯所提的实行郡县制的建议说得对。”
于是秦始皇按照李斯的建议，不立尺土之封，推行郡县制，将全国分成了36郡，每郡设郡守、郡尉、监御史等官。这些郡的官员，都由中央朝廷直接任命，而且可以定期更换。郡守是一郡的行政长官，权力很大，除了所辖各县的长官由中央任命外，一郡的属吏都由郡守从本郡人士当中辟举。在治郡方略方面，郡守可以施展自己的才能，朝廷对此不加干预。郡尉典武职甲卒，不是郡守的属官，而是直接领受朝廷的命令。监御史负责监察郡治，又叫郡监，隶属于御史中丞，是中央监临地方的官员。因此，监御史、郡守、郡尉虽然在职务上相互联系，却不相隶属。郡之下再辖县，每个县依据大小不同，设令（大县）或长（小县）。
36郡的划分是在秦代初期时的疆域基础之上进行的，其中许多郡是沿袭原六国之旧而未做变动，部分郡则是加以改建。同时，又在原六国的各自都城地区置郡，齐的五都之地也被改置为二郡之地。这之后，大约在秦始皇二十九年（前218），秦军向南越过南岭，开始了对南越人的征服。几年之后，秦军再次从水路，沿史禄率人开凿的沟通湘江与漓江的运河——灵渠，到达岭南，占领了五岭以南的南越地（今广东、广西及越南东北部），然后设立了南海、桂林及象郡等三郡。
秦始皇三十二年（前215），大将蒙恬奉秦始皇的命令，带领30万大军向北，将活动在河套一带的匈奴人赶走，收复了战国时赵国的地盘。第二年，秦便在阴山以南、黄河以东的区域内设置了九原郡，统辖新在这一区域内建立的34个县（一说44个县）。为了加强秦朝北部的边防，秦始皇又征募劳力将战国时期秦国、赵国和燕国各自筑造的长城连接起来，加以补建修缮，最后建成了一条西起临洮（今甘肃岷县），沿黄河、阴山，东至辽东（今朝鲜平壤西北海滨）的万里长城。
此后，秦又陆续从已置的郡中分出一些新郡，这样，到了秦代末年，除去都城咸阳附近关中平原为秦内史的辖区外，史书上记载的秦郡共有48个，统辖大约1000个左右的县级政区。另外，秦在征服的少数民族政权区域内，并未置县，而是设立了与县同级的道来进行管理。
从自然地理角度来看，秦郡的划分，基本上是以山川为界，郡的辖区范围与自然地理区域之间颇为吻合，这从以下三个方面可以看出：一是秦时每郡的划分一般来说即是一个地理单元，例如首都所在的内史，占据了当时最为富庶的关中盆地，或者说是渭河冲积平原；而汉中郡的范围与汉中盆地大体相当，南阳郡的辖区也即相当于南阳盆地；二是如果自然区域的范围比较大，就分设为两郡，像云中与九原两郡共同管辖河套冲积平原，巴郡和蜀郡一起统辖四川盆地，都是很好的例证。三是每郡大多以一个肥沃的盆地或者是平原为核心，然后推广到四周的高原或者是山地，北地、上郡、上党、太原、河东、代郡、雁门等郡就是这种情况。
从以上秦郡划分情况来看，可以知道，由于当时的经济以农业为主，这就需要每郡保证有相当的耕种土地，以使农业生产有一定的坚实基础。在此基础之上，行政管理也才能发挥效应。
秦朝郡县制的全面实行，标志着中央集权制国家的形成，中国从此成为皇权专制的中央集权制国家。后世对秦始皇的这一做法，大多盛赞不已，将“罢侯置守”、“废封建立郡县”列入中国历史上所发生的少数几件最重要的大事之中。虽然秦代并未像秦始皇当初所想像的那样成为万世一统的大帝国，而仅仅持续了二世，并在陈胜、吴广为首掀起的农民起义中，结束了其15年的统治，但秦代所形成的专制主义中央集权制国家，及其所确立的以郡县制为表现形式的行政区划，却并未就此夭折，而是由此而为后世历代所遵奉，持续了两千余年的时间。
秦代虽然确立了郡县制这一在当时具有进步意义的制度，但由于它的残暴统治，郡县制的优越性尚未得以体现，便迎来了各地人民的反抗。公元前209年，陈胜、吴广在大泽乡（今安徽宿县东南）带领戍卒900人，揭竿而起，率先反对秦王朝的统治后，各地的农民纷纷响应，原战国时期的六国贵族，也在此时加入到了推翻秦朝的队伍之中。
在反秦的大军当中，逐渐形成了以项羽、刘邦为首的两支起义军。项羽，是楚国贵族之后，从其叔父项梁在吴（今江苏苏州）起兵反秦，项梁战死之后，成为起义军的统帅，并在钜鹿（今河北平乡西南）之战中，大败秦将章邯，摧毁了秦军的主力。刘邦，本为沛县（今江苏沛县）的一个小亭长。他在沛县起兵后，最初属项梁麾下，后与项羽领导的起义军一同成为反秦的主要力量。
公元前206年，刘邦率军攻占了秦都咸阳，推翻了秦王朝的统治。随后项羽的大军也进入了咸阳，他自封为西楚霸王，又分封了18个诸侯国，刘邦是其中的汉王，占有巴蜀与汉中地区。不久，刘邦与项羽二人便展开了长达三年多的“楚汉战争”。在公元前202年，项羽被刘邦的大军围困在垓下，兵败自刎而亡。同年，刘邦称帝，建立了汉王朝，史称西汉。