东晋下诏，以尚书仆射谢石为征虏将军、征讨大都督，以徐、兖二州的刺史谢玄为前锋都督，与辅国将军谢琰、西中郎将桓伊等人率领八万兵丁抵抗前秦。并让龙骧将军胡彬带领五千水师援助寿阳。谢琰是谢安的儿子。

当时，前秦的军队已经十分强盛，东晋京城里人人震惊恐惧。谢玄入朝，向谢安征询应对策略。谢安一副泰然自若的样子，回答道：“我已经别有打算了。”说罢就闭口无言。谢玄也不敢再多问，就让张玄重新请求指令。谢安随即命令手下驾车出游山间别墅，亲朋好友云集，同谢玄在别墅里玩围棋赌博。谢安的棋术一直比不过谢玄，但是这天，谢玄却因为内心恐慌，于是在很有利的形势下投子打劫，却反而不能取胜。谢安开始跋山涉水，一直到晚上才回来。桓冲很为国家的根基大业感到担忧，随即派精锐部队三千人入城援救京师。谢安坚决加以阻拦，对他说：“朝廷的已经做出处理决定，士兵都不缺乏武器，应当留在西藩之地以作防备。”桓冲于是对藩府参佐感叹道：“谢安虽有身居朝廷的气量，但却不熟悉带兵作战的谋略。现在大敌当头，还能尽情游玩，高谈阔论，只是派遣未经战事的年轻人前去抵御，再加兵力有限，力量薄弱，天下大局已经可以看出，我们就要受外族统治了！”

冬，十月，秦阳平公融等攻寿阳；癸酉，克之，执平虏将军徐元喜等。融以其参军河南郭褒为淮南太守。慕容垂拔郧城。胡彬闻寿阳陷，退保硖石，融进攻之。秦卫将军梁成等帅众五万屯于洛涧，栅淮以遏东兵。谢石、谢玄等去洛涧二十五里而军，惮成，不敢进。胡彬粮尽，潜遣使告石等曰：“今贼盛，粮尽，恐不复见大军！”秦人获之，送于阳平公融。融驰使白秦王坚曰：“贼少易擒，但恐逃去，宜速赴之！”坚乃留大军于项城，引轻骑八千，兼道就融于寿阳。遣尚书朱序来说谢石等以“强弱异势，不如速降。”序私谓石等曰：“若秦百万之众尽至，诚难与为敌。今乘诸军未集，宜速击之；若败其前锋，则彼已夺气，可遂破也。”

石闻坚在寿阳，甚惧，欲不战以老秦师。谢琰劝石从序言。十一月，谢玄遣广陵相刘牢之帅精兵五千人趣洛涧，未至十里，梁成阻涧为陈以待之。牢之直前渡水，击成，大破之，斩成及弋阳太守王咏，又分兵断其归津，秦步骑崩溃，争赴淮水，士卒死者万五千人。执秦扬州刺史王显等，尽收其器械军实。于是谢石等诸军水陆继进。秦王坚与阳平公融登寿阳城望之。见晋兵部阵严整，又望见八公山上草木，皆以为晋兵，顾谓融曰：“此亦劲敌，何谓弱也！”怃然始有惧色。

入冬，十月，前秦阳平公苻融等人率军进攻寿阳。十月十八日，寿阳被攻克，平虏将军徐元喜等人被俘虏。苻融让他的参军河南人郭褒出任淮南太守。慕容垂攻破郧城。胡彬得知寿阳被攻陷的消息后，退到硖石进行守卫，苻融于是出兵攻打硖石。前秦卫将军梁成等率领五万兵众屯驻在洛涧，沿着淮河设防以遏制东面的兵力。谢石、谢玄等在距离洛涧二十五里的地方驻扎，因为顾忌梁成而不敢向前。胡彬的粮食很快耗尽，于是秘密地派使者向谢石等报告说：“现在贼寇兵力强盛而我的粮食已经用尽，恐怕不能再见到大军了！”前秦人俘获了胡彬，把他送到了阳平公苻融那里。苻融火速派使者向前秦王苻坚报告说：“现在贼寇力量稀少，容易擒获，但是恐怕他们会逃走，应该迅速派兵前来。”苻坚于是把大部队留在了项城，亲自带领八千轻骑，日夜兼程赶到寿阳与苻融会师。苻坚还派尚书朱序前去劝说谢石等人，说道：“我们双方兵力强弱悬殊，不如迅速投降。”朱序却在暗地里对谢石等人说：“如果秦国的百万兵力全部抵达，的确难以与他们相抗衡。现在乘着各路军队还没有云集，应当迅速出击。如果能打败他们的前锋，那么他们会因此而丧失士气，随即就可以一举攻破他们。”

谢石听说苻坚在寿阳，很是惧怕，企图用不交战的策略来拖垮前秦军队。谢琰劝谢石采纳朱序的建议。十一月，谢玄派广陵相刘牢之率领精兵五千进军洛涧，在距离洛涧不到十里的地方，梁成扼守山涧部署兵阵等待着刘牢之的到来。刘牢之径直向前渡河，抗击梁成，结果大败梁成，斩杀了梁成和弋阳太守王咏，并又分派兵力阻断了他们归途上的渡口，前秦的步兵、骑兵于是全都崩溃，争先恐后地向淮水逃亡，有一万五千兵丁死于此次战争，前秦扬州刺史王显等人也被擒获，秦军的武器军粮全部被收缴。于是谢石等各路晋军，分别从水路、陆路双管齐下。前秦王苻坚与阳平公苻融登上寿阳城观望，只见东晋的军队严阵以待，向远处看又望见了八公山上的草木，也以为都是东晋的士兵。苻坚于是回头对苻融说：“这也是强劲的敌人，为何说他们软弱呢？”苻融茫然若失，脸上渐渐有了恐惧的神色。

秦兵逼肥水而陈，晋兵不得渡。谢玄遣使谓阳平公融曰：“君悬军深入，而置陈逼水，此乃持久之计，非欲速战者也。若移陈小却，使晋兵得渡，以决胜负，不亦善乎！”秦诸将皆曰：“我众彼寡，不如遏之，使不得上，可以万全。”坚曰：“但引兵少却，使之半渡，我以铁骑蹙而杀之，蔑不胜矣！”融亦以为然，遂麾兵使却。秦兵遂退，不可复止，谢玄、谢琰、桓伊等引兵渡水击之。融驰骑略陈，欲以帅退者，马倒，为晋兵所杀，秦兵遂溃。玄等乘胜追击，至于青冈；秦兵大败，自相蹈藉而死者，蔽野塞川。其走者闻风声鹤唳，皆以为晋兵且至，昼夜不敢息，草行露宿，重以饥冻，死者十之七八。初，秦兵小却，朱序在陈后呼曰：“秦兵败矣！”众遂大奔。序因与张天锡、徐元喜皆来奔。获秦王坚所乘云母车及仪服器械、军资珍宝畜产不可胜计，复取寿阳，执其淮南太守郭褒。

坚中流矢，单骑走至淮北，饥甚，民有进壶飧、豚髀者，坚食之，赐帛十匹，绵十斤。辞曰：“陛下厌苦安乐，自取危困。臣为陛下子，陛下为臣父，安有子饲其父而求报乎？”弗顾而去。坚谓张夫人曰：“吾今复何面目治天下乎！”潸然流涕。

谢安得驿书，知秦兵已败，时方与客围棋，摄书置床上，了无喜色，围棋如故。客问之，徐答曰：“小儿辈遂已破贼。”既罢，还内，过户限者，不觉屐齿之折。

所限：门槛。

前秦的军队紧逼淝水且列阵，东晋的军队根本无法渡过。谢玄于是派使者对阳平公苻融说：“您孤军深入，然而现在却紧逼淝水布阵，这是长久对峙的策略，并非准备速战速决的架势。如果能让兵阵稍微后移，好让晋朝的军队得以渡河，以决胜负，这不是很好吗？”前秦部将都说：“我众敌寡，不如遏制他们，让他们不能上岸，这样便可以万无一失。”苻坚说：“只要率领部众稍微后撤一点，让他们渡河渡到一半，这时我们再出动铁甲骑兵奋勇拼杀！”苻融也表示赞同，随即挥舞战旗指挥兵众后撤。前秦的军队一退而不可收拾。谢玄、谢琰、桓伊等因此得以率领军队渡过河去攻击他们。苻融骑马巡视军阵，企图统率退逃的兵众，结果却战马倒地，苻融被东晋的士兵斩杀，前秦的军队顿时崩溃。谢玄等乘胜追击，一路追到青冈，前秦的军队大败，自相践踏而死的人，遮蔽山野堵塞山川。逃亡的人听到刮风的声音和鹤的鸣叫声，都以为是东晋的军队即将来到，所以昼夜不敢停歇，慌不择路，风餐露宿，饥寒交迫，十个中有七八个因此惨死。起初，前秦的军队向后稍微撤退时，朱序趁机在军阵后面大声呼喊：“秦军已经失败了！”兵众们听后随即就狂奔乱逃。朱序趁乱与张天锡、徐元喜前去投奔东晋。缴获了前秦王苻坚所乘坐的装饰有云母的车驾，以及礼仪服饰、军事器械、军用物资、珍奇宝物和畜产品等不计其数。接着又攻取了寿阳，前秦的淮南太守郭褒被生擒。

苻坚身中流箭，单枪匹马逃到了淮河以北，饥饿得厉害，当地百姓送来了盛在壶里的水泡饭、猪骨头，苻坚吃后，赏赐给他们十匹布帛，十斤绵。这些人却推辞说道：“陛下厌恶困苦，安于享乐，自取危难。我是陛下的儿子，陛下是我的父亲，哪里有儿子给父亲饭吃还求回报的呢！”说罢他们没看一眼赏赐的东西便离开了。苻坚因此对张夫人说：“我现在还有什么脸面去治理天下呢！”说话间潸然泪下。

谢安接到了驿站传送的书信，得知前秦的军队已经失败，当时他与客人正在下围棋，看完信就把它放到了床上，一点喜悦的样子都没有，继续下他的围棋。客人问他信中说了什么，只听他慢条斯理地回答道：“小孩子们已经战胜敌寇了。”下完棋后，他回到屋里，跨过门槛的时候，竟然高兴得连屐齿折断了都没有察觉。