原，攻取高阙要塞，将匈奴逐出阴山南麓。另一支兵马向西挺进，不久攻取贺兰山，将匈奴驱逐出河套地区。这样，被匈奴侵占的土地得以收复，又迁徙三万户人家充实边地，设置了三十四个县，新建了九原郡来管理。
为了巩固北方边疆，始皇帝下令，修复秦国、赵国、燕国原有的长城，把它们全部连接起来，以阻止匈奴策马南下。于是，命令北疆各郡，征发民伕修筑长城，最后修成西起临洮，东至辽东，蜿蜒一万余里的长城。为方便调兵遣将，又征发民伕挖掉山峰，填平河谷，修筑了从九原直达云阳的直道，把关中地区与河套地区连接了起来。
在北方用兵之际，又向南方大量用兵。始皇帝命令尉屠雎率领五十万大军分五路南下，前去攻打不肯归顺的百越。一路兵马到达镡成城，一路兵马到达九嶷山，一路兵马到达番禺，一路兵马到达南野，一路兵马到达余干水。
越人退守到深山老林，顽强进行抵抗。秦军留驻在当地，越人常在夜晚来偷袭，使秦军遭受重大损失，连尉屠雎也被越人杀死了。秦军战线太长，粮草补给不便，士卒经常挨饿受冷。为了能够即时补充粮草，始皇帝命令监禄开凿了灵渠，把湘江、桂江、漓江连接起来。又大规模迁徙内地民众戍边，最终平息了越人的反抗。在新开拓的土地上，又新设置了南海郡、桂林郡、象郡来管理。
南北开疆拓土，始皇帝大喜，便在咸阳宫大摆筵席庆祝胜利。
在钟鼓鸣奏，觥筹交错中，筵席很快进入了高潮。大臣们喝得面红耳赤，纷纷离开坐席，身体摇摇晃晃，手里端着酒爵，陆续来到始皇帝面前祝酒。
博士们见了，也不甘落后，仆射周青臣走上前去，颂扬始皇帝说：“从前，秦国土地不过千里，仰仗陛下神灵明圣，一举平定天下，驱逐戎狄蛮夷，凡是日月照耀到的地方，没有不臣服的。把诸侯国改置为郡县，黔首安居乐业，不必再担心战争。始皇帝威德，自古及今无人能比；始皇帝功业，可以传之千秋万代！”
始皇帝听了，自然十分高兴。
博士齐人淳于越，不满周青臣的阿谀奉承，便上前进言：“臣下听说，殷朝、周朝统治天下有一千多年，分封子弟功臣，给自己作辅佐。如今陛下拥有天下，而子弟却是平民百姓，一旦出现齐国田常、晋国六卿之类的叛臣，陛下没有辅佐，靠谁来救援呢？凡事不师法古人而能长久的，还没有听说过呢！刚才周青臣当面阿谀奉承，以加重陛下的过失，这绝不是忠臣。”
始皇帝未置可否，把他们的意见交给大臣们讨论。
丞相李斯说：“五帝的制度不相重复，夏、商、周三代的制度也不相因袭。凭着各自制度都治理好了，这并不是他们故意彼此相反，而是时代发生了变化。现在陛下开创王朝大业，建立万世不朽功绩，这本来不是愚陋的儒生所能理解的。况且，淳于越所说的是夏、商、周三代的事，哪里值得效法呢？从前，诸侯并起纷争，大量招揽游说之士。现在天下平定，法令出自朝廷，百姓居家就应该致力农工生产，士人就应该学习法令刑禁。现在，儒生们不学习当今的，却要效法古代的，以诽谤当世，惑乱民心。丞相李斯冒死罪进言：古代天下散乱，没有谁能统一，所以诸侯并起，说话都称引古人来为害当今，矫饰虚言来扰乱事实，人们只认可自己的私学，而指责朝廷的制度。如今，皇帝已统一天下，分辨是非黑白，而确定皇帝至尊。可是，私学却一起非议法令，人们听说有诏令下达，就根据私学观点加以议论，入朝在心里不满，出朝在街巷谈议。在君主面前夸耀自己以求取名利，标新立异来抬高自己，制造谤言以影响民众。如果这种现象不加禁止，那么君主的威势就会下降，朋党的势力就会形成。臣下以为，禁止这种现象很有必要。臣下请求，让史官把不是秦国记载的全部焚毁。除博士官署掌管的之外，各地有收藏《诗》、《书》、诸子百家著作的，全都集中到郡守、郡尉那里，一起通通烧掉了。有胆敢聚在一起谈论《诗》、《书》的，处以死刑；有胆敢借古非今的，满门抄斩；官吏知情不报的，同罪论处；命令下达三十日内不肯烧书的，脸上刺字，发配边地，让他们白天防寇，夜晚筑城。所不取缔的，只有医药、占卜、种植一类书。如果人们学习法令，就以官吏作为老师。”
秦始皇下诏说：“可以。”
于是，向全国下达了焚书令。
焚书令下达各地，士人们群起恐慌。士人大多存有几卷简册，不交出就会受到惩罚，交出以后还怎么读书呢？秦朝法律非常严苛，人们惧怕惩罚，陆续把简册交了出来。不出几天，郡衙外面的空地上，简册堆积如山；然后在郡守、郡尉监督之下，衙署士卒们放起火来。竹简遇到了明火，噼噼啪啪地烧起来，很快便烈焰熊熊，最后都化成了灰烬。
最受打击的是聚徒讲学的儒家，他们把简册交了出去，不仅无法传播圣人的思想，而且也无法舌耕谋生了。即使位列博士的儒生，也都为焚书令而困扰。
孔鲋在原籍家里放有许多典籍。朋友陈余提醒说：“秦朝将消灭先王的典籍，而您是典籍的主人，恐怕您要有危险了！”
孔鲋回答说：“我要把