大有向中原进逼之势。这比刺客行刺要严重得多。秦始皇不能不想个办法来对付匈奴。他拜蒙恬为大将军，发兵三十万去抵抗匈奴。匈奴是北方的部族，过着游牧生活，经济、文化都比中原地区落后。他们不断向河南（指黄河以南）方面进逼掠夺，还把边疆地区的青年男女抓去当奴隶。秦军一到，他们纷纷向北逃去。蒙恬收复了黄河以南的大片土地，建立了四十四个县，秦王朝把内地大批的囚犯送到这里来垦荒。这样一来，既安定了内地，又开发了边疆地区。今天世界上的国家都是这样慢慢发展来的。
再说秦始皇觉得仅仅收复黄河以南的地区很难守得住，就吩咐蒙恬继续向北进兵。蒙恬领着大军渡过黄河，又收复了一大片土地。为了巩固边防，秦始皇下令派去几十万民夫，决心把过去秦、赵、燕三国原来的长城连接为一个整体，西边从临洮（在今甘肃岷县）起，向东一直到东边的辽东，建成一道万里长城。他委派大儿子扶苏到那里去监督蒙恬建筑长城。北方多山地，交通不方便，人口也稀少，仅是建造长城已经很不容易，加上匈奴又不甘心屈服，随时随地都来攻打建筑长城的人。因此，蒙恬的大军和民夫只好一面防守，一面建筑长城。费了十多年工夫．不知道牺牲了多少人的性命，最后才把长城建好。
当中原的大批士兵和民夫在北方建筑长城的时候，南方岭南一带的少数民族又趁机向中原打了过来。岭南在五岭的南面，又叫南越（即今广东、广西地区），那些地区的少数民族，也像北方的部族一样，生活艰苦，文化也不发达，经常从中原地区掠夺财物和青年男女。秦始皇知道那边气候湿热，高山丛林里还有毒蛇、猛兽、瘴气，交通不便，很难行军，一般的将军和士兵都不愿意去那里打仗。在无奈当中，他想出一个办法来。他下了一道命令，把中原的囚犯全都免了罪，充作防守南部边境的军人。可是释放出来的犯人不够数，就又强迫民间的奴仆和小商小贩一起去服役。按照秦国的法律，贩卖零散货物的小商人的地位跟奴仆差不多。将士、囚犯、奴仆、小商贩等合在一起，一共有近二十万人。经过无数次艰苦的战斗，终于把当地部族顽强的抵抗镇压下去了。
征服了南越，秦始皇就在这一带建立了桂林、象和南海三个郡，把那近二十万人也留在那儿防守，又从中原迁移了五十万贫民到那边去居住、生产。为了运输粮草，秦始皇命令御史史禄领导并开凿了一条水道，这就是历史上著名的灵渠。史禄领导人民在湘江中流筑了一道三角形的分水堰，把湘江分为南北两渠，其中沟通湘江和桂江之间交通的叫灵渠，它使北方的粮草等军用物资可以由水道大量地运输到南方去。许多中原的军民长期住在南方，在那里改进工具，发展农业，岭南一带就这样慢慢发展起来了。住房短缺，以前的宫殿也不够宽敞。他就新盖了一座宫殿，东西五百步（六尺为一步），南北五十丈，台上可以坐上万人，台下可以竖起五丈高的大旗来。宫殿前面立了十二个铜人，每个铜人有二十四万斤重。这是秦始皇兼并六国，把天下的兵器都收集起来，销毁之后铸成的。可是秦始皇的兴趣并不在多盖房子，宫殿盖了一部分就停工了。他不愿意住在京城的宫殿里享清福。公元前210年（秦始皇三十七年，这一年他五十岁），他又到东南方巡游去了。
这一回跟着秦始皇出去的，除了李斯和赵高以外，还有他的小儿子胡亥．那时候胡亥二十岁了，他要求跟他父亲一块儿去，好开开眼界。秦始皇平时挺喜欢他，就答应了。
他们到了云梦（在今湖北省长江南岸一带）、丹阳、钱塘等地，又经过浙江，到了会稽，在那里祭祀了大禹。秦始皇一向目中无人，也不信神。有一次（公元前219年）到了湘水，差点不能渡过去。船上的人说：“大概是湘江祠的湘君生了气，这才气呼呼地把浪头吹得这么高。”秦始皇问博士们：“湘君是什么神？”他们说：“听说是帝尧的女儿、帝舜的妻子葬在这儿，所以这座山叫湘山。”秦始皇绝不信湘君敢阻止他渡河，于是派了三千名囚犯先把湘山上的树全砍下来，然后放一把火，把整个湘山烧得光秃秃的，让身边的这些博士们看看到底是湘君厉害还是他更强大。所以他这一次特意到会稽祭祀大禹，把博士们弄得莫名其妙。
秦始皇告诉他们说：“大禹对于中国的功劳可大了。他开了大山，凿了龙门，又把上游的水通到大夏，挖了九条河，筑了河堤，把水引到大海里去。为了治水，他整天光着脚，连大腿和小腿上的汗毛都磨光了，手和脚起了厚厚的茧，脸晒得又红又黑。到头来，死在外面，葬在了这里。这样一个伟大的人物还不该祭祀吗？”将士们连连点头。李斯咂吧着嘴，好像要把他的话一句句都咀嚼了咽到肚子里去似的。
祭拜了大禹陵，他们回到吴中（会稽郡治），只见街道两旁到处挤满了人，大家都踮着脚尖要瞧一瞧这位兼并六国统一天下的中国第一皇帝。这会儿，秦始皇的胆子更大了，他干脆打开车上的帷帘，让老百姓瞧个够。当地的老百姓从来没见过这么威风的场面，瞧着车队过来，激动得直哆嗦，简直是有些害怕了。
就在这时候