桓温的倔脾气上来，上了一道奏折：奏请还都洛阳。朝廷自然不愿意，谁喜欢把自己往老虎身边送啊，胡人都是吃人不眨眼的。江南待着多快乐，当年王敦之乱之后，温峤他们建议从南京挪一挪窝，挪到其他地方，王导还不同意，何况越过长江走到那么远的洛阳。
桓温也没指望朝廷能同意，他就是出一口这个离心离德的恶气：地方我给你们打下来了，也通知让你们来了，你们不来，可就不关我的事。于是桓温从洛阳撤军，既没有再往长安打，也没有军窝在洛阳，退回江东去了。
洛阳很快再次陷落。
桓温开始明白一件事情：要想北伐成功，除了带兵之外，他得取得政权。否则任何人在粮草上掐一掐他，在背后使个坏，他就得死无葬身之地。很多将军都明白这个道理，但是没有这个胆量，因为一个拿捏不好就是谋反的帽子扣上来，这可犯了忠君的大忌。但是桓温不管。
借着这次北伐的大功劳，桓温拿到了都督中外诸军事的职位，虽然他的影响力在豫州和徐州依然不太灵，但是好歹名义上是都归他管了。下面，桓温上书，指出了政治上的七条弊病，每一条都一针见血：
一、朋党雷同，私议沸腾。
二、户口凋敝，整个国家的人口还没有汉末一个大城市多。
三、办事拖沓，一件事情办个十天半个月是常有的事（都跑去开沙龙了，谁干活啊，又不涨工资）。
四、忠诚、干事勤快的官吏要涨工资（针对第三条的解决办法）。
五、褒贬赏罚要公允（不能光看家庭背景，还得看个人努力）。
六、要选定官方教材，让大家都进皇家读经馆读经去（都去逛沙龙叽叽歪歪朝廷的事情不如老实读书让人省心）。
七、要选史官，写《晋书》（《晋书》由阮籍他们开了个头，但是后来大家都忙着逃难也没人管这事情了）。
桓温的这七条建议显示出一副当朝大佬的范儿来，从经济、吏治到文化，都管了。本来，桓温也懒得管那么多，但是这七条，其实每一条都指向一个中心：安定人心。这是要打大仗之前最重要的事情。桓温经过两次北伐，深刻体会到攘外必先安内的道理。
接下来，晋哀帝兴宁元年开始，桓温主持了一次重要的改革：庚戌土断。
庚戌土断实际上是为中央财政向世家大族的口袋里掏钱的。直接针对的是七条政治弊病的第二条，户口凋敝，一个原因是打仗把人都打死了，还有更重要的原因是世家大族把流民都收罗进自家的庄园种地去了，不给上户口。不上户口国家自然收不到税，这些人就成了大族们自己的佃客和部曲。结果就是世家大族更有钱，国家更没钱。打仗要靠国库支出，又不能叫世家大族捐钱，所以只能让他们把户口给交出来。
晋哀帝是晋成帝的儿子，和桓温一样的辈分，桓温却已经是三朝的老臣，他要改制，晋哀帝还真没啥话好说。经过这次改制，东晋的户口经过大致的整理，钱也多了，人也多了。这也是件很稀奇的事情，历来改革都会腥风血雨闹成一锅粥，主持改革的人十个有九个功败垂成没有好下场，但是桓温就做成了。庚戌土断之后，桓温又移镇姑孰，扼住了建康的南大门。这样，朝内就清理得差不多了。
晋哀帝去世，他儿子司马奕上台，太和四年，桓温开始谋划他的第三次北伐。斗争是激烈的，愿望是强烈的，桓温已经不再年少，这次出征，有志在必得的勇气，也有胜败在此一举的悲壮。
这一次，大军从姑孰出发，目的地广城的行军途中，他经过了金城。他曾经在这里种过一棵柳树。当年种下的时候还是一棵小树苗，但现在已经长成了十围的大树（和庾敳的腰围差不多），桓温不禁潸然泪下，“木犹如此，情何以堪”。毕竟功业可以等待，统一早一百年迟一百年都只是历史的记述，但对于一个想要完成他的事业的将军，时间是他在扫清了一切阻力之后最无力应对的。在岁月残酷的一视同仁面前，他的刚强也只有一滴眼泪的重量。这句话在后人那里产生了一种对于人生一世如寄如客的共鸣，后来的诗人庾信根据这件事情写了一首《枯树赋》：昔年种柳，依依汉南。今看摇落，凄怆江潭。树犹如此，人何以堪。
这时候中原进入了前燕时代。这一次北伐的开局不错，刚开始就在湖陆活捉了慕容暐的将军慕容忠。之后，桓温在林渚遇见了慕容垂，慕容垂硬拼没拼得过，被桓温打败了。桓温乘势追击，一直追到枋头。但是很快就让慕容垂发现了他的弱点：当时天旱，桓温把黄河的水引入了巨野三百余里，想用船来进行运输。但是保护这条水路需要占领石门。桓温把这个任务交给了袁真，他让袁真攻打谯梁，打下谯梁就可以占领石门，通水路。慕容垂很快重兵把守石门，袁真怎么都打不下石门来，这时候军粮已经竭尽。
桓温以为这次他万事俱备，没想到在这里就面对了严酷的选择。执意往前，只能是深入敌境，以疲惫之师应战，军覆没不是不可能。但是只要一退，那些被他夺了佃户部曲的士族一定会落井下石，痛打落水狗。他也知道，不管他怎样选，都不会有再来一次的机会。但强悍的桓温还是不愿放弃，思量再三，他决定把船烧掉，步行撤回，从东燕，出仓垣，走了七百多里路，凿井取水。但后果也很惨重，士兵损失大半，最终还是只能无奈退回。
本来是慕容垂打得好，但是桓温不得不在兴师问罪的浪潮中抓出袁真来当替罪羊，回来就表奏把他废为庶人。袁真不愿意为他背这个黑锅，反了。
桓温的北伐梦想随着这一次士兵损失了一半的大败而受到严重的打击，他自己年纪也大了。桓温把这种壮志未酬的不满发泄在朝中，像个孩子一样要求他的政治权力。先是废了司马奕，让原来跟他唱对手戏的司马昱上了台。司马昱唯唯诺诺，只想保命而已。桓温经过三次北伐无疾而终，到了老年心情越发的不平衡，最后病入膏肓的时候做了一件蠢事，让他从此和王敦一起进了《晋书》的叛臣传。
他向朝廷要九锡，这是一个皇帝将要禅让时才会给另一个人的东西。但是他的对手已经换了，朝廷里新冒出了谢安、王坦之。他的时代，注定已经过去了。负责起草这份《让九锡表》的是大文学家袁宏，谢安和王坦之死活要袁宏反复修改那份《让九锡表》，终于把桓温给拖死了。
桓温还有个儿子叫桓玄，后来真的造反，做了皇帝。可他老爹，明明只想痛痛快快驰骋疆场恢复故土，却因为不爱搞文化，性格又强硬，就被“老贼”“老贼”骂了几千年。叫人想起梁启超给李鸿章写传时候的那句名言，搁在桓温身上，也很应景：
天下惟庸人无咎无誉。
誉满天下，未必不为乡愿；谤满天下，未必不为伟人。