汉武帝刘彻出生于公元前156年（景帝前元元年）七月初七，是汉景帝刘启的第十子、汉太宗刘恒的孙子、汉太祖刘邦的重孙子。他出生这年，碰巧这年又是景帝登基之年。武帝的母亲是王美人，美人是嫔妃的一种等级。
刘彻的母亲王娡进宫前曾嫁作金家妇，生有一女。刘彻的外祖母听了算命的话，将她从金家带走，进与皇太子，也就是后来的汉景帝。后来传说在武帝母亲怀孕时梦见了太阳钻入怀中，汉景帝听说了，很高兴，认为是个吉利的梦，预示着小孩子将来会有大作为。
在武帝4岁时，景帝封他为胶东王，做太子的是他的哥哥刘荣。后来，武帝的命运转折靠了景帝的姐姐长公主的帮助。长公主有个女儿叫陈阿娇，开始长公主是想把自己的女儿许给太子刘荣，将来太子一即位，女儿就是皇后了。但是太子的母亲栗姬却不领情，这使长公主非常生气，从此与栗姬作对。
长公主将目光转向了平时也很喜欢的武帝，但武帝的父亲景帝不太支持。长公主便想办法促成了此事：有一次，她在景帝的面前故意问武帝愿不愿意要阿娇做他的妻子？武帝也很喜欢阿娇，见姑姑问，便很大方地说：“以后如果能娶阿娇做妻子，我就要亲自建造一栋金屋子送给她。”父亲景帝见武帝和阿娇也很般配，便同意了这门亲事。
7岁时被册立为太子，16岁时公元前141年3月21日登基，汉武帝即位初，一方面政治形势比较稳定，国家经济状况也相当好，另一方面诸侯王国的分裂因素依然存在。所以，他在继续推行景帝时各项政策的同时，采取了一系列强化中央集权的措施。
在政治方面，采纳主父偃的建议，颁布“推恩令”，使诸侯王多分封子弟为侯，使王国封地被分割，削弱汉初分封的诸侯国势力，加强监察制度等。其次建立中朝削弱相权，巩固皇权，设刺史、立平准均输等。为加强对地方的控制，打击地方豪强，他设置十三州部刺史，京师七郡另设司隶校尉监察，建立了一套系统完整的政治制度，成为此后二千年间中华帝国制度的基本范式。
在惠文景帝期间，丞相大多主要是随刘邦打天下的功臣丞相受到礼遇，武帝和丞相多有不合，经常会借口打压杀死丞相，导致朝中大臣不愿意接任丞相之职。为贯彻自己的命令，他便设立中朝，尚书台也是这一时期出现的。