秦朝末期，陈胜起义，最终导致秦二世胡亥失国，倒是应验了“亡秦者胡也”的“胡”。天下大乱期间，秦朝戍守北疆的三十万大军，绝大部分被朝廷调到中原地区与诸侯军交战，少数留在北疆戍边的军队则陷入无政府状态，并逐渐解体零落。匈奴人趁机南下，将蒙恬开辟的所有县邑一并收入囊中。占据整个河套地区之后，匈奴人厉兵秣马，再次窥望中原。
这个时期，匈奴的单于叫冒顿，是匈奴的第二代单于，同时，他也是一位十分有作为的少数民族君王，故这里需对此人略作介绍。
冒顿的父亲叫头曼，英武强悍，匈奴在他手中完成了统一，是匈奴的第一代单于。冒顿乃头曼长子，早年被立为太子。后来，头曼又续娶了一位阏氏，再生一子。头曼宠爱新妻，欲废长立幼，便想出一个计策：将太子冒顿送到同样强大的月氏国做人质，事隔不久，头曼则暗中调集兵马，攻打月氏。月氏国王大怒，下令斩杀匈奴太子泄愤。冒顿为人机警，寻机偷得一马，连夜逃出月氏国。
头曼见冒顿脱险，暗自佩服儿子的智勇，同时又感于父子之情，遂打消杀死冒顿的念头，并将一支约万人的骑兵部队交由他统率。时间一长，冒顿私下打听到上次在月氏国遇险，乃是父亲玩的借刀杀人把戏，目的是为了废长立幼，不禁十分怨恨，便决定先发制人。
然而，头曼毕竟是匈奴的开国单于，具有很高威望。冒顿想弑父自立，委实不是一件易事，手下必须得有一班忠贞不贰的勇士方能成事。为此，冒顿开始设法锤炼这批勇士，他特意命人制造出一批箭头有孔的骨箭，这种箭在射出之后会发出尖锐的响声，取名鸣镝（即响箭），留作己用。鸣镝做好以后，他命令左右心腹：“鸣镝所射，你们皆射。若有不射者，斩！”
接下来便开始实践。冒顿先用鸣镝射鸟兽，鸣镝一响，属下勇士皆万箭齐发，稍有迟缓者，便立即被冒顿砍死。实验过鸟兽，又拿宝马做实验，冒顿令人牵来自己的宝马，用鸣镝射之，这些勇士大多都闻声放箭，有几个不敢放箭者，又被冒顿当场斩杀。实验过宝马，再拿美人做实验，冒顿有一美妻，平素十分宠爱，这天，冒顿忽然用鸣镝射之，众人亦跟着放箭，有几个胆小者行动稍有延缓，又被冒顿悉数杀掉。最后一次实验的是单于头曼的宝马，冒顿趁这匹宝马在野外吃草之际，以鸣镝射之，这次众人学乖了，闻声齐射，单于的宝马顿时变成刺猬。冒顿心中大悦，自思这些心腹勇士已可使用。
过了不久，冒顿跟随父亲头曼出猎，到了野外，冒顿找准一个时机，以鸣镝射向父亲，左右应声放箭，单于头曼当场死于乱箭之中。射杀了父亲，冒顿立即率众人返回王廷大帐，将后母、少弟以及一些不肯顺从的大臣一一诛杀，然后自立为单于。
当时，匈奴东部有一个强大的东胡国，东胡国国王听说冒顿弑父自立，便派使者来匈奴向冒顿挑衅，说欲以千金求购匈奴的一匹千里马。因为这匹千里马是首任单于头曼留下来的，群臣皆言不与。冒顿力排众议说：“匈奴与东胡比邻而居，怎么能因一匹宝马而损伤两国的友情呢？”遂将宝马送与东胡。没想到东胡国王得了这匹宝马之后，以为匈奴惧怕东胡，便又遣使索要匈奴的阏氏。刚才讲过，“阏氏”乃王后、王妃之意。东胡国此举确实欺人太甚，匈奴群臣皆被震怒，请求攻打东胡。冒顿却笑笑说：“两国是邻邦，怎么能因一女子而伤害友情呢？”便豪爽地将自己的老婆送给了东胡。
东胡国王得了匈奴的宝马和阏氏，更加认为冒顿软弱可欺，愈发骄横，接下来再开始打土地的主意。两国边境之间有一块无人居住的土地，广约千里，东胡国王第三次遣使至匈奴，要求割让这块土地。冒顿征询群臣意见，有人说土地不可割让，也有人说这是一块弃地，把它割让给东胡也未尝不可。冒顿大怒，说：“土地乃国之根本，为何要让与他人！”说罢，将言称“可割让者”连同东胡使者一起斩首，而后立即率众上马攻袭东胡，并晓谕全国：“退后者，斩！”。
匈奴本为游牧民族，全民皆兵，此间，又因东胡连续三次的无理欺凌而同仇敌恺，士气极其高昂。相反，东胡国王因冒顿一再退让而滋生轻敌自傲情绪，对匈奴毫无防备。这样的两支军队交战，其结果可想而知。东胡国的军队一触即溃，死伤不计其数，国王也死于乱军之中，匈奴人悉数掳其人畜财产，得胜而归。自此，东胡国除，土地被匈奴兼并，其剩余国民分为两支：一支退居鲜卑山；一支退居乌桓山。即后世的鲜卑、乌桓两大部落。
冒顿在消灭东胡国之后，统率铁骑四处开打，西向逐走了月氏，南向吞并了楼烦，并趁着楚汉相持之际，将秦时蒙恬所收复的大片土地又一一侵占。这个时候，匈奴进入了其历史上最强盛时期，铁骑达三十万之众。
在军事武力强盛之后，冒顿又效仿中原，进行政治体制改革。据史书记载，冒顿时代匈奴的官阶设置大体是：单于以下依次设左右贤王、左右谷蠡王、左右大将、左右大都尉、左右大当户、左右骨都侯等官阶，拥有这些官阶的人都是单于身边的肱股之臣。因为匈奴是