公元２２９年四月，吴王孙权正式即位称帝。蜀汉大臣大多数认为孙权称帝是僭号，要求跟东吴断绝盟好关系。诸葛亮却认为，蜀汉眼前主要对手是魏国。他坚持和东吴保持联盟，继续准备北伐。

公元２３１年，诸葛亮第四次北伐，出兵祁山。魏国派了一个大将司马懿和张郃等一起率领人马赶往祁山。诸葛亮把一部分将士留在祁山，自己率领主力拦击司马懿。

司马懿知道诸葛亮的战略。他认为诸葛亮孤军深入，带的军粮不多，所以在险要的地方筑好营垒，叫将士只守不战。

魏军将领以为司马懿害怕诸葛亮，一再请战，说：“您怕蜀军像害怕老虎一样，难道不怕天下人笑话吗？”

司马懿硬着头皮，带兵赶上去跟诸葛亮大战一场，结果被蜀军杀得一败涂地。但是蜀军由于后方的运粮官员失职，粮草供应不上，只好主动撤兵。大将张郃带兵紧紧追赶，赶到木门一带山谷地带，被诸葛亮预先布置好的伏兵用乱箭射杀了。

诸葛亮几次出兵，往往因为粮食供应不上退兵。他接受这个教训，设计了两种运输工具，叫做“木牛”、“流马”（两种经过改革的小车），用它们把粮食运到斜谷口（在今陕西眉县西南）囤积起来。

公元２３４年，诸葛亮作好充分准备，发动十万大军进行最后一次北伐。他派使者到东吴，约孙权同时发起攻势，南北策应，使魏国两面受敌。

诸葛亮大军出了斜谷口，到了渭水南岸的五丈原。为了作长期打算，他派一部分兵士构筑营垒，准备作战；另派一部分兵士在五丈原屯田，跟当地老百姓夹杂在一起耕种。蜀军纪律严明，百姓和兵士相处得很好。

魏明帝派司马懿率领魏军渡过渭水，也筑起营垒防守，和蜀军对峙着。