司马孚是东汉京兆尹司马防第三子、司马懿的三弟，兄弟八人俱知名，在当时号称“八达”。司马孚性格温厚廉让，以贞白自立，不与他人结怨。他还博涉经史，汉末动乱时，与兄弟在迁徙途中，仍不忘读书自学。陈留人殷武，海内闻名，曾获罪被流放，司马孚前去探望他，与他同住同食，被时人称颂。
魏陈思王曹植很有才华，清选官属，以司马孚为文学掾。曹植恃才放旷，司马孚总是诚恳地劝谏他，曹植开始并不接受意见，而后却能向他道歉。后来，司马孚又升为太子中庶子，辅佐曹丕。
建安二十五年（220年），曹操去世，司马孚劝谏太子曹丕节哀，与尚书和洽等整顿秩序，准备丧事，共同拥护曹丕继位，不久代汉称帝，是为魏文帝。当时，曹丕选拔侍中、常侍等官，多用左右亲近之人，司马孚劝谏，于是更改人选。司马孚转任中书郎、给事常侍，宿省内，除黄门侍郎，加骑都尉。
黄初二年（221年），刘备伐吴，孙权向魏称臣，许诺送来儿子作人质，送回俘虏于禁，很久没有到达。曹丕疑惑，询问司马孚，司马孚建议不要紧逼，而是准备部队，静观其变。后来，于禁到达，只是因为路上得病而有所耽搁，而孙权的儿子终究没有送来。曹丕率军到达长江岸边，责问吴国违背诺言，于是魏、吴关系恶化，吴国停止进贡。之后，司马孚外放为河内典农，赐爵关内侯，又转任转清河太守。司马孚在曹丕时代也和辛毗观点相同，反对伐吴，主张休养生息。
黄初七年（226年），魏文帝曹丕驾崩，魏明帝曹叡继位，欲启用司马孚，问身边的人：“司马孚有他兄长的风范吗？”身边的人回答说：“和他的兄长很相似。”曹叡说：“我有司马懿兄弟二人，还有什么可担心的？”于是任命司马孚为度支尚书。度支尚书，魏文帝曹丕时开始设置，掌管国家财政。
司马孚认为要擒敌获胜，应该先有准备，每次诸葛亮入侵关中地区，边境的士兵不能抵挡，需要调集中央军队奔赴战场，仓猝间总是来不及准备，应该预先选出步骑二万部队，分为两部，以作交战之用。他又建议，关中地区连年交战，粮食物资储备不足，应该从冀州调集农夫五千人屯于上邽，秋冬训练，春夏屯田。这些建议都被采纳，于是关中物资充实，对待蜀国的进攻也有应对。
景初三年（239年），魏明帝曹叡驾崩，齐王曹芳继位，曹爽、司马懿共同辅政。后来曹爽专权，李胜、何晏、邓飏等掌权，司马孚不管杂事，唯端正自己的行为避免被人陷害而已。
正始十年（249年），司马懿发动“高平陵事变”，政变夺权，司马孚同司马师一起屯兵司马门，控制京师。曹爽一党被杀，司马孚因功进爵长社县侯，加侍中。后来，司马孚升任司空，又代替王凌为太尉。
嘉平五年（253年），孙吴太傅诸葛恪征发二十万人伐魏，围攻新城。司马孚督诸军二十万防御，到达寿春，派毌丘俭、文钦等进攻。诸将想迅速出击，司马孚说：“进攻的一方，是要消耗大量人力才能成功的，暂且使用诈巧，不要与敌人力争。”故意滞留了一个多月才进军，此时吴军士卒疲劳，加之瘟疫流行，于是望风而退。
嘉平六年（254年），司马师废魏帝曹芳为齐王，司马孚未参与直接谋划，但列名废齐王的表章中。
正元二年（255年），蜀将姜维进攻陇右，雍州刺史王经战败，朝廷派遣司马孚镇守关中，统领诸军。不久，征西将军陈泰与安西将军邓艾进击姜维，姜维撤退。司马孚回到京师，转任太傅。
甘露五年（260年），魏帝曹髦不满司马昭专政，率宫人讨伐司马昭，于宫门处被杀。百官不敢奔赴，司马孚前往，首枕其股（将曹髦的头部枕于自己大腿上），失声痛哭说：“让陛下被杀是为臣的罪过。”上奏请求捉拿主谋者，正赶上太后下令以平民的礼节安葬曹髦，司马孚、司马昭同群公上表，请求改以王礼安葬，得到批准。
司马孚性格十分谨慎，司马懿执政之际，他就有意避免过多地参与政治。而后司马氏废立皇帝，他也未直接参与其中的谋划。司马师、司马昭因司马孚是长辈，也不敢逼迫他，后来进封他为长乐公。
泰始元年（265年），西晋代魏，魏帝曹奂被贬为陈留王，迁往金墉城。司马孚前往拜辞，握着曹奂的手，泪流满面，不能自制，说：“臣到死的那天，也是纯粹的大魏之臣。”
晋武帝司马炎封司马孚为安平王，食邑四万户，进拜太宰、持节、都督中外诸军事，设置官属。每次元会时，司马炎下令让司马孚乘车上殿，司马炎则降阶相迎。等到就座后，司马炎亲自献酒祝寿，以家人之礼对待。司马炎每次下拜，司马孚都下跪来制止，司马炎又赐予他云母辇、青盖车。司马孚虽被如此尊宠，却不以为荣，常有忧色。
泰始八年二月壬辰日（272年4月3日），司马孚去世，享年九十三岁。司马炎于太极殿东堂为他举哀三日，赠“东园温明秘器、朝服一具、衣一袭、绯练百匹、绢布各五百匹、钱百万，谷千斛”以助丧事。葬礼规格，比照东汉东平献王刘苍的旧例。司马孚临终时，遗令：“有魏贞士河内温县司马孚，字叔达，不伊不周，不夷不惠，立身行道，终始若一，当以素棺单椁，敛以时服。”
司马孚常被当作忠臣和长者，他的政治、军事才能一般不被人们重视。他的军事才能虽然没有司马懿父子那样突出，但是也还算出色。他也曾统帅部队支援关中、合肥新城，同蜀汉、吴国的部队作战，这其中以救援合肥新城一役最为有名。
吴国太傅诸葛恪指挥二十万大军，挟东关大胜之势攻打合肥新城，大将军司马师命司马孚统帅二十万大军救援合肥新城。司马孚到达前线寿春后，淮南大将毌丘俭、文钦等要求立即进攻，司马孚说：“凡是进攻的，都要借助敌人的力量，为自己建立功绩。要使用计谋和策略，不能仅凭力战。”恰好司马师也下令把合肥新城让给诸葛恪进攻。