231年（曹魏太和五年，蜀汉建兴九年），蜀汉的第四次北伐，蜀军粮尽退军。撤退时，魏方车骑将军张郃被射伤，其后伤重病死。从蜀方第一次北伐开始，由于连年派出数万规模的军队出征，而每次均为兵粮不足而要退兵，所以诸葛亮在其后的三年里，劝农讲武，作木牛、流马，运米粮到斜谷口集积，又住在斜谷邸阁，与民休息，准备再次北伐。
为确保将来作战中的军粮供应，诸葛亮在斜谷建立了邸阁，又发明了流马。这样，诸葛亮一方面在预定战场可以储备相当数量的粮食，又有了“木牛”、“流马”这些先进的运输工具，为其尔后作战，提供了较为可靠的供应保障。
233年（曹魏青龙元年，蜀汉建兴十一年），蜀汉庲降都督张翼，由于立法严苛，引起南夷豪帅刘胄的反叛，诸葛亮便派参军马忠去接替张翼，马忠率军打败并斩杀了刘胄。蜀汉3年之内无战事，诸葛亮经过养士训卒三年备战，北伐曹魏的条件日渐成熟，遂遣使入吴，与东吴商定共同攻魏。
234年（青龙二年、蜀汉建兴十二年）二月，诸葛亮率领十万大军从斜谷出兵攻魏，并派遣使节前往吴国相约同时大举出兵。
诸葛亮到达县，大军驻扎在渭水的南面。司马懿率领军队渡过渭水，背水立营抵御诸葛亮，对将领们说：“诸葛亮如果从武功出兵，依山而往东，确实可怕；如果向西前往五丈原，将领们就没事了。”诸葛亮果然驻扎在五丈原。雍州刺史郭淮对司马懿说：“诸葛亮肯定争夺北原，应当先去占据它。”议论的人多数都说不必这样，郭淮说：“如果诸葛亮跨过渭水登上北原，和北山连兵，断绝长安通往陇西的道路，使百姓和羌人动荡不安，这对国家是不利的。”司马懿便郭淮驻防在北原。营垒还没有筑成，蜀汉大部队已经到来，郭淮迎战，击退了蜀汉军。
正当司马懿与诸葛亮相持之际，魏明帝曹叡御驾亲征，在合肥新城击破吴军，群臣以为司马懿正在同诸葛亮相持不解，曹叡可以向西临幸长安。曹叡说：“孙权已经退走，诸葛亮必然破胆，大军足以制胜，我没有忧虑了。”于是进军到寿春，检录各将领的功劳，封官授爵赏赐嘉奖各有不同。
到了同年的八月二十九日，司马懿已经和诸葛亮相持了一百多天，诸葛亮多次挑战，司马懿就是不出兵。诸葛亮就把妇女使用的头巾、发饰和衣服送给司马懿，司马懿恼羞成怒，上表请求出战。
曹叡派遣卫尉辛毗执持符节为军师来节制司马懿的行动。此时，虽然司马懿有假黄钺，但使节之间的层级划分是晋朝制度才出现了，假节的辛毗仍然可以依据皇命而约束假黄钺的司马懿。于是，司马懿军队遂不出战。护军姜维对诸葛亮说：“辛毗持符节来到，贼军不会再出战了。”诸葛亮说：“司马懿本来就无心作战，所以一定要请求出战，是向部众表示敢于用武而已。将领在军中，君主的命令可以不接受，如果他能制胜我军，难道还要远隔千里而请求作战吗？”
诸葛亮派遣使节到司马懿军中，司马懿向使者询问诸葛亮的睡眠、饮食和办事多少，不打听军事情况，使者答道：“诸葛公早起晚睡，凡是二十杖以上的责罚，都亲自披阅；所吃的饭食不到几升。”司马懿告诉人说：“诸葛孔明进食少而事务烦，他还能活多久呢！”
诸葛亮病重，刘禅派遣尚书仆射李福前来问候，同时询问国家大事。李福来到，诸葛亮谈话完毕，辞别而去，几天之后又回来。诸葛亮说：“我知道您返回来的意图，近来虽然整天谈话，有些事还没有交待，又来听取决定了。你所要问的事蒋琬适合。”李福道歉说：“日前确实不曾询问，如您面年这后，谁可以担负重任，所以就又返回。再请问蒋琬之后，谁可承担重任？”诸葛亮说：“费祎可以继任。“又问费祎之后怎么样？诸葛亮没有回答。
当月，诸葛亮在军中去世，长史杨仪整顿军队而退。百姓跑着去报告司马懿，司马懿追击蜀汉军。姜维命令杨仪调转战旗方向，擂响战鼓，像是即将对司马懿进攻。司马懿收军后退，不敢向前逼进。于是杨仪结阵离去，进入斜谷之后才发丧。百姓为此事编了一句谚语说：“死诸葛亮吓走活仲达。”司马懿听到后笑着说：“这是我能够意料诸葛亮活着，不能料想诸葛亮已死的缘故。”司马懿到诸葛亮驻军营垒处所察看，感叹说：“真是天下的奇才啊！”追到赤岸，没有追上蜀汉军而还。
五丈原之战也成为晋室夸耀先祖功业的事件之一，《晋书·乐志下》就收录了《宣受命》：“宣受命，应天机。风云时动，神龙飞。御诸葛，镇雍、梁。边境安，夷夏康。务节事，勤定倾。揽英雄，保持盈。渊穆穆。赫明明。冲而泰，天之经。养威重，运神兵。亮乃震毙，天下宁。”
撤退后的蜀军，魏延因不愿撤兵，并企图统率蜀军继续作战，即率所部抢先南行，占据斜谷南口，挡住杨仪归路。杨仪遣马岱将其击杀，然后退回汉中。历时七年的诸葛亮攻魏之战至此结束。
此后，杨仪与蒋琬、费祎掌握了蜀军的实权。蒋琬曾计划继续北伐，但因为其他重臣的反对而未有实行。
在抵抗过蜀军的侵攻后，司马懿于238年（曹魏景初元年）讨伐辽东的公孙渊，灭公孙渊。自此，曹魏东西外患除去，司马懿亦因为取得大功，确立其在曹魏朝廷内的地位。
239年（曹魏景初二年），年轻的曹叡驾崩，其养子曹芳尚年幼，令司马懿有机会把持政局，凌驾曹氏后人的地位，间接种下后来三国归晋的基础。