公元272年（泰始八年），晋武帝依照羊祜之建议，复任王濬为益州刺史，旋又加封龙骧将军，都督益、梁二州诸军事，命其在巴蜀大量建造战船，训练水军。晋军所建造的大型战船，长120步，可装载二千余人，上构木城，筑起楼橹，四面开门，船上可骑马驰骋。后命其加快造船进度。如原来王濬在巴蜀只奉令以五六百屯田兵造船，后来又增加各郡士兵一万人，一年就完成了造船任务，使王濬水军“舟楫之盛，自古未有”，为实现“水陆并进”灭吴，提供了重要的军事力量。

公元276年（咸宁二年）十月，晋伐吴的准备基本完成。征南大将军羊祜奏请伐吴，指出伐吴的条件已经成熟。应不失时机地向东吴进军，并根据“因顺流之势，水陆并进”的战略方针，提出了灭吴的部署。其要点是：针对吴军部署上东强西弱的情况，确定在徐、扬方向实行牵制，首先集中水陆主力夺取夏口以西地区，然后顺江而下，集中全力合击吴都建业。这一方针的好处是：水陆并进，多路齐发，可以充分发挥水陆军的优势，从薄弱而又重要的长江上中游横切纵割，一举粉碎吴军的整个防御体系，从而达到速战速决的目的。司马炎接受了羊祜的建议，但由于西北鲜卑族首领起兵反晋，后方不稳，加之太尉贾充等人的反对，使伐吴战争拖延了下来。

公元277年（咸宁三年）七月，又以都督豫州诸军事王浑为都督扬州诸军事，以镇南大将军司马亮为都督豫州诸军事，左将军胡奋为都督江北诸军事。

公元278年（咸宁四年）十一月，羊祜去世，晋武帝依羊祜生前所荐，以杜预继任征南大将军、都督荆州诸军事。

东吴方面，面对晋军进攻的严重威胁。一些大臣深感忧虑。他们认为东吴虽有长江天险，但“长江之限，不可久恃”，因此向孙皓建议，在政治上“省息百役，罢去苛扰”，“养民丰财”，以加强内部的安定和经济实力；在军事上，为防晋军从上游顺流而下，加强建平（郡治在今湖北秭归）、西陵（今湖北宜昌东南西陵峡口）的防务。东吴名将陆抗指出：“西陵、建平，国之蕃表（屏障）”，“如其有虞，当倾国争之。”，因此，他担任乐乡都督后，请求在西陵屯精兵三万人。公元272年（晋泰始八年），王濬在巴蜀造战船，大量碎木顺流而下，建平太守吾彦见后，知晋将发兵顺流而下，请求增强建平守备。公元274年（晋泰始十年），陆抗再次上疏，陈述加强建平、西陵防守的重要性。他说：“若其不然。深可忧也。”但是，这些有重要战略价值的建议，都没有被采纳。吴主孙皓认为晋无力攻吴，且东吴有长江天险，难以攻破。因此他不修内政。暴虐如故。在军事上不重军备。放松长江上游的防务，当然更谈不上通盘的战略考虑和进行全面的防御准备了。

交战

公元279年十一月，司马炎采用羊祜生前拟制的计划，发兵二十万，分六路进攻东吴：1.镇军将军、琅邪王司马伷自下邳（今江苏邳县南）向涂中（今安徽滁河流域）方向进军；2.安东将军王浑自扬州（州治在今安徽寿春），向江西（指今安徽和县方向），出横江渡口进军；3.建威将军王戎自豫州（州治在今河南许昌东南）向武昌（今湖北鄂州）方向进军；4.平南将军胡奋自荆州向夏口（今武汉市武昌）方向进军；5.镇南大将军杜预自襄阳向江陵（今属湖北）方向进军，尔后南下长江、湘水以南，直抵交广；6.龙骧将军王濬，广武将军、巴东（郡治在今四川奉节）监军唐彬自巴蜀顺江东下，直趋建业。以太尉贾充为大都督，冠军将军杨济为副，率中军驻襄阳，节度诸军；中书令张华为度支尚书，总筹粮运。总的作战意图是：以司马伷、王浑两军直逼建业，牵制吴军主力，使其不能增援上游；以王戎、胡奋、杜预三军夺取夏口以西各战略要点，以策应王濬所率的八万水陆大军顺江而下；然后由王濬、司马伷、王浑军南下东进，夺取建业。这样的部署是符合当时实际情况的，因为东吴尚有兵力二十余万，就兵力对比而言，晋军南下的兵力并不占多大优势，只是吴军兵力分散于沿江和江南各地，晋军要分路予以各个击破，才能迅速灭吴。

公元280年（太康元年）正月，安东将军王浑所统率的十多万大军向横江（今安徽和县东南）方向进军，派出参军陈慎等率部分兵力攻击寻阳（今湖北武穴东北）；派殄吴将军李纯率军向高望城（今江苏江浦西南）进攻吴军俞恭部。正月二十五日，李纯占领了高望城，击破俞恭军，推进至横江以东，夺占了渡江的有利渡场。与此同时，参军陈慎军攻取了阳濑乡，大败吴牙门将孔忠等。吴厉武将军陈代、平虏将军朱明等率部众降于晋军。

二月，吴主孙皓得知晋王浑率大军南下，即命丞相张悌统率丹阳（今江苏南京）太守沈莹、护军孙震、副军师诸葛靓率兵三万，渡江迎战，以阻止晋军渡江。张悌军行至牛渚（今安徽当涂北采石），沈莹向其分析晋军来犯的形势时说：“晋治水军于蜀久矣，今倾国大举，万里齐力，必悉益州之众浮江而下。我上流诸军，无有戒备，名将皆死，幼少当任，恐边江诸城，尽莫能御也。晋之水军，必至于此矣！”据此，沈莹建议，应集中兵力于采石，等待晋军前来决战，若能打败晋军，即可阻止晋军渡江，还可西上夺回失地。如若渡过江去与晋军决战，不幸失败，大势必将去矣。但张悌却认为，东吴的即将灭亡，人人早已看清，并非今天才知晓。这样，晋兵一至，众人心中必然恐惧，难以再整军出战。趁着如今晋大军未到，渡江与其决战，或许还有希望获胜。如若战败身亡，为国牺牲，也就死而无憾了。假如我能战胜，北方的敌人逃走，我军声威便会大震，那时乘胜南下，迎击西来之敌，定能制胜敌人。若依照你的计划，坐等敌人前来，恐怕部队早逃散了。于是，张悌决心率军渡江迎击晋军。