荆州刺史桓温曾明确指出：“京口酒可饮，箕可用，兵可使。”东晋老百姓称京口为“北府”，故这支新军被称为北府军。
北府军，从某种意义上说，是“乞活军”的官方版。
后世袁世凯的北洋新军，能募到王士珍、冯国璋、段祺瑞、曹锟、张勋，前世谢玄的北府军也募到了彭城刘牢之、东海何谦、琅琊诸葛侃、乐安高衡、东平刘轨、西河田洛、晋陵孙无终等猛将。
北洋新军有北洋三杰，北洋之龙王士珍、北洋之虎段祺瑞、北洋之犬冯国璋。而北府军，也有自己的“北府之龙”。
刘牢之。
刘牢之，字道坚，汉族﹐彭城(今江苏徐州)人，出身东晋将门，父辈皆是晋朝军官，可谓一门列戟（世代以壮勇称）。
《晋书刘牢之列传》载：牢之面呈紫赤色，须目惊人，而沈毅多计划。从面相上看，从事体力锻炼多，且雄性激素分泌旺盛。
参加北府军后，刘牢之被谢玄任命为参军，极为倚重。而北府兵经过严格训练，渐成强悍之师，成为东晋朝廷极为倚重的一支部队。
北府兵第一次露脸，是在379年。379年5月，前秦大将句难、彭超部进攻淮南，并包围三阿。北府兵援救三阿，一战告捷，迫使前秦兵向北退逃。
383年，前秦王苻坚大规模发动南征东晋的战争时，北府军已成立7年，抵抗前秦远征大军、保家卫国的神圣使命，将会落在这支强悍的部队肩上。
面对前秦这次超大规模而且是水陆并进的南侵，谢安作为总指挥，战略防御是这样部署的：
陆路：由弟弟谢石、侄子谢玄指挥8万北府兵抵抗。
水路：对前秦从巴蜀出发，沿水路南下的水军，抵抗的任务自然是由坐镇东晋门户荆州的桓冲承担。
中国人，和平时勾心斗角、争权夺利，战乱时却往往能团结一心、共赴国难，这是一种独特的东方式的贵族精神。
如后世淞沪会战中，除蒋某人的嫡系中央军力血拼外，桂系最精锐的六个师几乎部阵亡，东北军67军从军长到士兵共两万余人以身殉国，川军20军打的剩下不到一个师，湘军损失殆尽，番号被撤，自清以来声明显赫的湘军名号从此退出历史舞台……。再看看长城抗战中的西北军，“一二八事变”中的粤军十九路军，黄广战役中打垮日军精锐第6师团的桂军，百灵庙大战中的晋绥军，更不用说平型关大捷、百团大战中的八路军，真正做到了兄弟同心，一寸山河一寸血。
本次面对北方异族的大军压境，幸运的是，东晋桓、谢两大士族高门在国难当头时抛开一切利益纠葛，共御外侮，出现了“君臣和睦，上下同心”的局面。
桓冲被任命为江州刺史，率10万晋军控制长江中游，阻止前秦从巴蜀出发顺江东下的水军。同时，派大将胡彬率领水军5千增援战略要地寿阳（今安徽寿县）。
一场决定中国南北历史的大战序幕徐徐拉开。
383年10月18日，苻坚之弟苻融率前锋部队攻占了寿阳（今寿县），俘虏晋守将徐元喜。与此同时，秦胁军、原前燕的慕容垂率部攻占了郧城（今湖北安陆）。
奉命率水军驰援寿阳的晋将胡彬，在半路上得知寿阳已被前秦攻破，便率军退守硖石（今安徽凤台西南），等待与谢石、谢玄的大部队会合。
得知胡彬部退守硖石后，苻融率军来攻，同时派部将梁成率兵5万进攻洛涧（在今安徽淮南东），截断淮河交通，阻断了胡彬的退路。
胡彬被前秦军困在硖石，粮草告罄，难以支撑，遂派人向谢石送信告急。然而，这个通信员被秦兵捉住，告急信也落在了苻融手里。
苻融从胡彬的告急信中得知，硖石晋军兵少粮少，立刻向驻扎项城的苻坚报告，并建议迅速起兵，以防晋军逃遁。
得报后，苻坚犯了一个令其悔恨终生的错误。
前秦军对东晋的最大的优势就是兵力，兵力对比达到了97：8。而前秦的劣势是军队构成成分复杂，组织不够严密，如能集中起来群殴，靠人多会横扫千军，倘若稍有挫折，容易作鸟兽散，一溃千里。
东晋为求得偏安一隅，面对入侵会爆发出惊人的反抗力。苻坚则被自己貌似强大的军势冲昏了头脑，得到苻融的报告后，恨不能一口吃掉晋军。他嫌大部队行动过慢，把大部队留在项城，自己亲率8千轻骑兵疾赴寿阳。
苻坚到达寿阳，想不战而屈人之兵，准备派人去晋军大营劝降。派谁去呢？苻坚想到了一个人。
朱序，就是7年前俘获的原东晋襄阳守将。
前秦进攻襄阳时，朱序是率军拼死抵抗的，只不过由于部将投降而被俘，受苻坚所用。但其本人有很强的民族情节，身在秦营心在晋，堪称东晋在前秦的胡底、钱壮飞。
朱卧底到晋营后，不但没有劝降，反而向谢石提供了前秦军的兵力部署、思想动态等情况。
7年的卧底生涯，使朱序深刻的看清了两军的形势，他说：秦军虽有90多万人，但大部队还在进军中，如果让他们把兵力集中起来，那军力是很恐怖的。我们现在应该趁秦军没能部抵达集中时，迅速主动地发起进攻，只要能击败秦前锋部队，挫其锐气，就能击破这群乌合之众。
庞大，并不必然代表强大，真正的强大，是团结。谢石、谢玄分析了朱序的建议，深以为然，决定改变作战方针，转守为攻。
383年11月，谢玄命令“北府之龙”刘牢之率5千北府兵，奔袭洛涧秦军梁成部。梁成率部5万在洛涧边上列阵迎击。
双方军力10：1，但刘牢之大胆认定秦军军心不齐，在兵力处于绝对劣势得情况下，分兵一部迂回到秦军阵后，做出断其归路的样子，然后自己率兵强渡洛水，正面强攻秦军。
北府兵养精蓄锐多时，装备精良、斗志高昂、民族情绪高涨。秦军军心不稳，惊慌失措，抵挡一阵就土崩瓦解，主将梁成与其弟梁云战死。溃兵争先恐后渡过淮河逃命，1万5千余人丧生。
大部分是淹死的。
军队的士气，是一一场场的胜仗积累起来的，特别是首战，非常重要。首次进攻战，就取得了洛涧大捷，区区5千北府兵，赶的5万秦军到处逃命，极大鼓舞了晋军的士气。
而5万秦军洛涧败于5千晋军，对雄心勃勃的苻坚，着实是当头一棒。苻坚心存疑惑，与弟弟苻融夜间登山窥探晋营。
对面八公山，晋军大营营帐栉次鳞比、排列有序，一直蔓延到山顶；灯火通明、岗哨肃立、盔甲鲜明、兵杖齐整。苻坚隐隐有些心慌，八公山上的草木，影影绰绰，也像是满山遍野的士兵。
这,就是“草木皆兵”的由来。多疑与不自信是一对孪生姐妹。苻坚信心受挫，但毕竟大军陆续赶到寿阳，心里逐渐又有了底气，下一步，就是寻找晋军主力，进行决战。
苻坚将大军于淝水西岸布阵，与晋军隔河对峙。两军主帅也开始了斗法。
谢石、谢玄从朱卧底处得知了秦军的虚实，知道秦军虽众，但杂牌部队军心不齐，一旦混乱，难以指挥。要想击败这支庞大的杂牌部队，诀窍就是，搞乱他们的阵脚。
谢石、谢玄派使者去告诉苻融：你们远道而来兵力占优，却紧逼淝水布阵，这是想打持久战怎么的？咱们应该一战决胜负。不如你们将兵阵稍微向后撤撤，腾出地儿来，我军渡过河，两军再决一雌雄，怎么样？（若移阵少却，使晋兵得渡，以决胜负，不亦善乎？）
苻融将晋使者的来意报告给苻坚，苻坚召开军事会议商讨对策。
秦军将领们大部分都认为,秦军兵力占优，可以我为主，晋军只要敢下河，就让他们上不了河。
苻坚认为，不如将计就计，让军队稍微后退，诱使晋军渡河时，再以骑兵冲杀，半渡而击，这样就可以一战定乾坤。
晋方、秦诸将、苻坚，谁的对策得当？
客观的说，应该都不错。后世的大聪明史学家们，都将苻坚的这个决定批判为草包决定，其实有些过了。
首先，苻坚没犯当年宋襄公的错误。当年宋军与楚军隔江对峙，楚军渡河时，部将劝宋襄公半渡而击，但宋襄公以仁义为由放弃进攻，等楚军上了岸，揍的宋军抱头鼠窜，宋军也被毛爷爷追封了个光荣的称号—蠢猪式的仁义之师。而苻坚的对策，是准备半渡而击晋军的。
其次，苻坚与诸将的分歧是在于大军退不退，腾不腾地的问题。诸将认为不退，直接半渡而击，而苻坚是先退，再半渡而击。谁对？苻坚对。
道理很简单：你不退，人家晋军能渡河吗？
苻融表示赞同哥哥苻坚的计划，答应了晋方的要求。
翌日，双方按约定布阵与淝水两岸。秦军后撤，晋军渡河。
然而，一代枭雄苻坚，实在是高估了自己手下这帮杂牌军的士气和向心力。几十万大军一撤，阵势顿时混乱，一个个叫嚣呼东西，挥突呼南北。
谢玄趁势率8千轻骑兵迅速抢渡淝水，向秦军猛攻。
此时，秦军阵中又响起来朱卧底的声音：秦军败了，秦军败了，弟兄们撒丫子快撤。
顿时，几十万秦军挤做一团，士兵们开始转身溃逃。苻融急忙催马上前去阻止，想稳住阵脚。然而，他实在是低估了这帮乌合之众溃逃的冲击力了。
混乱中，苻融的战马被乱兵冲倒，本人也被冲过来的谢玄的轻骑兵一刀斩为两断。失去主将的秦兵先锋部队越发混乱，加上北府兵不断上岸增援，秦军先锋迅速崩溃。
前锋的溃败，引起秦军后续部队的惊恐，迅速行成多米诺骨牌连锁反应，最终，军崩溃，向北散逃。溃兵们沿途不敢停留，听到风声鹤唳，都以为是晋军追兵。晋军乘胜掩杀追击，一直追杀到寿阳附近的青冈。
此战，秦军人马死伤无数，大部分是相踏而死。尸首满山遍野，充塞大河。混乱之中，苻坚本人也中箭负伤。逃回洛阳时，秦军仅剩10余万人，损失八九成。
原东晋降将朱序、徐元喜火线反正，都来投奔东晋。俩人觉得投降后再反正，有点不大好意思，给谢玄送了一辆车作为见面礼。
这辆车，可不是普通车，而是苻坚所乘坐的专车，装饰异常豪华，关键是象征意义强。
晋军乘胜又攻取了寿阳，抓获了前秦的淮南太守郭褒。
此战发生在现在的安徽省寿县，寿县古称寿州，寿阳。淝水，源出肥西、寿县之间的将军岭，分两大支流。一支向西北流，经200里，出寿县而入淮河。另一只向东南流，注入巢湖。
淝水是有名的古战场，三国时，曹魏大将，威震逍遥津的张辽，曾在此大败东吴孙权。
淝水之战，历史上总说是著名的以弱胜强的战例，其实，更贴切的说法应该是，著名的以少胜多的战例。秦晋两军虽然在士兵数量上差距悬殊，但秦军更多地是强征各族的杂牌部队，军心不稳、民疲兵倦且凝聚力极差；而东晋军骨干力量则是强悍的北府兵，民族成分单一，面对外侵士气高涨、凝聚力强。
淝水之战的捷报传来，东晋参谋总长谢安正在下棋，得知战报居然能面无表情，直到一盘棋下完。从是否能沉得住气，就能看出一个人身体好不好。沉得住气的人肾精足，就是精能拽得住他那口气。而喜怒形于色的人，一般都是肾精不足的表现。所以，能控制住自己情绪的人，往往更能成就大事业。
淝水之战前秦溃败，然而，南北战争没有就此结束。东晋趁淝水之捷北伐，并取得了一系列丰硕战果：
1、384年正月，刘牢之攻克谯城(今河南夏邑县北)。刘因功被封为龙骧将军、彭城内史、武冈县男（爵位），食邑五百户。
2、384年8月，谢安以谢玄为前锋都督，率豫州刺史、冠军将军桓石虔等进攻前秦，兵不血刃的拿下了彭城(今江苏徐州)。
3、384年9月，刘牢之攻前秦兖州刺史张崇于鄄城(今属山东)，张崇弃鄄城逃跑。刘牢之遂据鄄城，后平定了兖州。
4、384年10月，谢玄派军进攻青州（山东）、冀州（河北），连克之，至此，兖、青、司豫等州为晋军所据，东晋把边界线推进到了黄河。
此后数十年间，南方汉人政权东晋再未遭受外族入侵，可谓一战打出了40余年的和平，为江南地区经济的恢复和发展创造了良好的社会环境。
淝水之战的惨败，使苻坚悔恨不已，他想起了丞相王猛临终前的告诫：晋朝为正朔，且内部团结，有天下百姓拥护，没有可取胜的机会。而前秦国内则矛盾重重，尤其是慕容鲜卑、羌等分裂势力虎视眈眈，图谋再起。
攘外，必先安内。轻易外征而不克，内乱必起。王猛的预言，前半部分已在淝水之战中得到了印证，很快，其预言的后半部分，也变成了现实。