到了公元前５０１年，鲁定公派孔子做中都（今山东汶上县）宰，第二年，做了司空（管理工程的长官），又从司空调做了司寇。

这一回，鲁定公把准备到夹谷跟齐国会盟的事告诉了孔子，孔子说：“齐国屡次侵犯我边境，这次约我们会盟，我们也得有兵马防备着。希望把左右司马都带去。”

鲁定公同意孔子的主张，又派了两员大将带了一些人马，随同他上夹谷去。

在夹谷会议上，由于孔子的相礼，鲁国取得了外交上的胜利。会后，齐景公决定把从鲁国侵占过来的汶阳（今山东泰安西南）地方的三处土地还给了鲁国。

齐国的大夫黎鉏认为孔子留在鲁国做官对齐国不利，劝齐景公给鲁定公送一班女乐去。齐景公同意了，就挑选了八十名歌女送到鲁国去。

鲁定公接受了这班女乐，天天吃喝玩乐，不管国家政事。孔子想劝说他，他躲着孔子。这件事使孔子感到很失望。孔子的学生说：“鲁君不办正事，咱们走吧！”

打那以后，孔子离开鲁国，带着一批学生周游列国，希望找个机会实行他的政治主张。可是，那个时候，大国都忙于争霸的战争，小国都面临着被并吞的危险，整个社会正在发生变革。孔子宣传的一套恢复周朝初年礼乐制度的主张，当然没有人接受。

他先后到过卫国、曹国、宋国、郑国、陈国、蔡国、楚国。这些国家的国君都没有用他。

有一回，孔子在陈、蔡一带，楚昭王打发人请他。陈、蔡的大夫怕孔子到了楚国，对他们不利，发兵在半路上把孔子截住。孔子被围困在那里，断了粮，几天都没吃上饭。后来，楚国派了兵来，才给他解了围。

孔子在列国奔波了七八年，碰了许多钉子，年纪也老了。末了，他还是回到鲁国，把精力放到整理古代文化典籍和教育学生上面。

孔子在晚年还整理了几种重要的古代文化典籍，像《诗经》、《尚书》、《春秋》等。《诗经》是我国最早的一部诗歌总集，共收集西周、春秋时期的诗歌三百零五篇，其中有不少是反映古代社会生活的民间歌谣，它在我国文学史上占有很重要的地位。《尚书》是一部我国上古历史文献的汇编。《春秋》是根据鲁国史料编成的一部历史书，它记载着公元前７２２年到前４８１年的大事。

公元前４７９年，孔子去世。他死后，他的弟子继续传授他的学说，形成了一个儒家学派，孔子成了儒家学派的创始人。孔子的学术思想在后世影响很大，他被公认为我国古代第一位大思想家、大教育家。