以后，司马迁当了汉武帝的侍从官，又跟随皇帝巡行各地，还奉命到巴、蜀、昆明一带视察。

司马谈死后，司马迁继承父亲的职务，做了太史令，他阅读和搜集的史料就更多了。

在他正准备着手写作的时候，就为了替李陵辩护得罪武帝，下了监狱，受了刑。他痛苦地想：这是我自己的过错呀。

现在受了刑，身子毁了，没有用了。

但是他又想：从前周文王被关在羑里，写了一部《周易》；孔子周游列国的路上被困在陈蔡，后来编了一部《春秋》；屈原遭到放逐，写了《离骚》；左丘明眼睛瞎了，写了《国语》；孙膑被剜掉膝盖骨，写了《兵法》。还有《诗经》三百篇，大都是古人在心情忧愤的情况下写的。这些著名的著作，都是作者心里有郁闷，或者理想行不通的时候，才写出来的。我为什么不利用这个时候把这部史书写好呢？

于是，他把从传说中的黄帝时代开始，一直到汉武帝太始二年（公元前９５年）为止的这段时期的历史，编写成一百三十篇、五十二万字的巨大著作《史记》。

司马迁在他的《史记》中，对古代一些著名人物的事迹都作了详细的叙述。他对于农民起义的领袖陈胜、吴广，给予高度的评价；对被压迫的下层人物往往表示同情的态度。他还把古代文献中过于艰深的文字改写成当时比较浅近的文字。人物描写和情节描述，形象鲜明，语言生动活泼。因此，《史记》既是一部伟大的历史著作，又是一部杰出的文学著作。

司马迁出了监狱以后，担任中书令。后来，终于郁郁不乐地死去。但他和他的著作《史记》在我国的史学史、文学史上都享有很高的地位。