眼见张辽杀来，势不可挡，亲卫谷利、张世等人急忙请孙权撤退。
孙权见张辽不过数百骑兵，竟然一路冲杀到了自己麾盖之前，不由大怒，道：“我江东数万大军，难道竟要被张辽数百人杀败吗？你们不觉得丢人，我还觉得羞耻！”
众亲军闻言，顿时大惭，于是在孙规、徐忠等将领的带领下纷纷冲上去阻拦张辽。
张辽又斩杀了十数人，却见江东军蜂拥而来，悍不畏死，自己已经无法前进了，当下张辽以刀指着孙权麾盖，大喝道：“吾乃雁门张辽，孙权小儿，何不早退！”
连喊三声，震得四周江东兵尽皆心寒。张辽这才返身杀回，眼见督将马进已经烧毁了投石机，当下领兵杀出江东军阵，往合肥城而去。
此时宋谦跑了数十步，见张辽冲到孙权麾盖之前，顿时大恨，复又取了一根长枪冲了回来，韩当、吕范、徐祥、胡综也都领兵奋力厮杀，将张辽麾下骑兵围住了百余人。
众骑兵眼见张辽杀回城池，顿时大急，纷纷呼喊道：“将军欲要丢弃我等吗？”
张辽闻言，转头一看，见麾下尚有兵马被围，当即毫不犹豫地反身杀回，复又杀透江东军阵。胡综领兵正与张辽相对，被张辽手起一刀，劈死在地。
当下张辽救回被困骑兵，杀奔回城，部将牛盖领兵接应。张辽进城之后，一番清点，折损了骑兵二百余人。但焚毁了江东军的投石机，斩敌二将，杀伤敌军士兵五六百人，民夫无数，算得上是一场大胜了。
于是张辽写了表文申报曹操，并再次请求援兵。
此时扬州刺史温恢率领一万援兵已经到达了肥水上游，距离合肥仅有八十里，闻听张辽焚烧了孙权攻城器械，守军士气大振，于是温恢知道城池安稳无虞，当下思索之后，便即在原地扎下营寨，不再前进，营中广设旌旗，以为疑兵。当夜温恢却暗领五千精兵出营，迅速绕道往濡须而去。
孙权此时失了投石机，但却也填平了护城河，当下看到了破城的希望，于是招引驻守皖城的孙邵，驻守横江的陈武前来助战。正战之间，忽闻斥候来报：“有数千曹军昼夜兼程往濡须而去。”
孙权闻言大惊，此时濡须极为空虚，其中又囤积了大量粮草军资，若被温恢攻破，损失将会极为惨重。
于是孙权命令还在半路的孙邵、陈武两军急速救援濡须，孙权也立即调派鲜于丹、孙规两营兵马乘船返回濡须，夹击温恢之军。
一番调动之后，孙权收兵回营，静等消息。数日之后，斥候纷纷回报，孙邵、陈武、鲜于丹、孙规等兵马到达濡须，并不曾看见温恢之军。
孙权闻言，不由大为讶异。老将朱治看了前后斥候所报，顿时惊道：“不好，温恢必是佯攻濡须，实则去攻皖城了。主公可立即命陈武、孙邵领兵回救皖城。”
孙权闻言，当即依言传令，又叮嘱众军整备，谨防被袭击。
如此又过了数日，陈武、孙邵发来书信，说温恢果然领兵袭击皖城，幸得大军回援，温恢这才领兵退去。
孙权闻讯，这才大松了口气，当下对韩当、朱治、吕范、诸葛瑾等人道：“我军五月底从武昌返回，攻打合肥十余日，又被温恢牵制了十余日，加上路途之上耗去的时间，竟用了一月有余，如今已是七月，我想曹操必然早已收到消息，说不定此时已经开始调兵遣将，准备南下了。我们此次出兵，本就是想佯攻一下。若等曹操真的来了，那么一场大战势必不可避免。我觉得我们应该就此退兵，诸位以为如何？”
韩当、朱治等人都道：“愿听主公之令。”
于是孙权传令退兵。
此时，曹操在邺城已经整备好了三万兵马，以乐进、李典、许褚、曹休、曹真、夏侯尚、韩浩等人为将，以荀攸为军师，克日南下。临行之时，诸谋士多有劝谏者，曹操却并不听取，一意南行。
大军开拔之后，荀攸问曹操道：“众人都说孙权此次并非真心攻打合肥，不久必定自退，因此我军不必南征。而魏公却一意南下，莫非是想就近观望江东虚实？”
曹操笑道：“公达见识果然深远！那你可能猜到我为何要观望江东虚实么？”
荀攸道：“莫非是为了西征？”
曹操抚掌道：“我就知道瞒不过你。你且说说，我实欲征讨谁？”
荀攸笑道：“如今西北军阀几乎被一扫而光，只有宋建盘踞抱罕，实力弱小，而韩遂退到羌中，已是风烛残年，过不了多久，西北军阀便将彻底烟消云散，威胁大汉上百年的西北羌乱也必将逐渐平息。魏公此时欲要西征，自然不是为了即将败亡的韩遂、宋建。我想魏公的目标恐怕是汉中，以及汉中以南的巴蜀之地吧！”
曹操闻言大笑，道：“真是英雄所见略同！方今天下，拥兵上万的大小军阀还有孙权、刘贤、刘备、张鲁、公孙康、士燮等人，士燮被刘贤压制在交趾，仗着山险林密，方才能够残喘，不值一提。公孙康虽然狼子野心，但辽东绝远，我一时也顾不上剿除他。而孙权盘踞江东，有大江为凭，基业稳固。刘贤拥兵十万，固守汉水，也难以卒除。唯有汉中张鲁，实力较弱，虽有崇山之险，却又如何能抵挡我精锐士卒？且拿下汉中后，向东可顺汉水进击荆州，威胁襄阳侧翼。向南可经葭萌关或者米仓山进入巴蜀。如今刘备、鲁肃正在巴蜀相斗，已经杀得筋疲力尽，我大军南下，扫平两家，并不困难。若能拿下益州，则荆州、江东也不能独存也！”
荀攸点头道：“魏公所言不错！以如今天下形势，孙权、刘贤之基业都已大致稳固，唯有益州尚未安定。先易后难，先西后东，确实是最好的方略。只是魏公心下还是担心大军西进，刘贤、孙权会起兵北进，故而才要先行南下，就近看看江东虚实。”
曹操道：“不错！以这两年的情况看，孙权与刘贤实是貌合神离，刘贤以襄樊为进攻重点，实行东西防守、北进襄樊的战略。而孙权却执着西进，以夏口为首要目标，反而放松了对淮南的窥视。事实上，他两家分据大江中、下游，天然的便是对手。孙权得不到荆州，将会感觉不到安全。刘贤不能击败孙权，也无法放心北进。其形式便如当年春秋时候的吴楚两国，必先争霸长江，抵定南方，然后才能逐鹿中原。他两家此时之所以还能维持脆弱的盟约，不过是忌惮我军罢了。所谓逼之急则合，缓之则分。此次南下，我当秘密遣使去见孙权，观其心意。若其果然还对荆州念念不忘，我便撤去淮南之军，使孙权能放心西进，全力去与刘贤相争。若能如此，我军不但能坐收渔利，还能放心西进去夺取益州。”
荀攸闻言，赞叹地道：“魏公真是当世兵法大家，把握局势，洞察人心，人所不及也！”
曹操大笑，荀攸也笑，笑着笑着突然感觉胸口一阵烦闷，瞬间一口气没回上来，眼前一黑，栽倒在地。
曹操见状大惊，急忙命令医者救治。医者检查之后，忐忑不安地回报曹操道：“军师这些年夙兴夜寐，身体原本就很虚弱，近两年又郁结于心，屡有咯血，如今南征，舟车劳顿之下，身体隐疾一起爆发，来势凶猛，只恐药石难治了。”
曹操听到“郁结于心”几个字，不由大悲，传令医者尽全力救治，随后喃喃地道：“公达啊，你这是在为文若的事情伤心吗？文若啊，文若，你我相知二十余年，我竟不知你宁死也要做汉室忠鬼！公达啊，你也记恨我，如今更要离我而去吗？”
曹操一时心情低落，于是日日去探望荀攸。如此过了月余，荀攸终于积劳成疾，药石无效，病死于南征途中，享年五十八岁。
曹操哀痛不已，亲自致祭，此后数月，每每提到荀攸，言则流涕，痛惜之情，溢于言表。
当下曹操也无心南征了，将大军带到寿春，随即派遣桓阶为使，暗地里去濡须见孙权。
孙权闻听曹操南下，也自紧张不已，忽听桓阶到来，急忙迎接。
桓阶曾经跟随过孙坚，与孙氏颇有渊源，因此孙权待之极为礼遇。寒暄过后，桓阶便开始与孙权分析形势，劝孙权遣使向朝廷进贡方物，在自立于江东的同时，也要通过尊崇汉室，进而向曹操表示顺服。若能如此，则曹操便将撤走淮南近半之兵，与江东心照不宣地败兵休战。
孙权闻言，大为心动，当下沉思一阵，随即欣然同意。
于是桓阶回报曹操，曹操也自大喜，又写了书信慰勉孙权，孙权也遣使携带书信去见曹操致意。
双方信使往来了一阵，虽未真正化干戈为玉帛，却也大大缓和了关系。曹操见达到了目的，于是留张辽、乐进、李典三人领兵七千镇守合肥，留温恢领兵三千镇守寿春，曹操却领着其余兵马，返回了中原。
而相应地，孙权也减少了江北驻军。濡须坞守兵五千，皖城留兵二千，其余各处驻兵都削减一半，整个江北一共只留下了一万二千人驻守。
随后孙权也领兵返回柴桑，遣使送信给刘贤，传达合肥之战的情况。