公元347年二月，桓温兵至青衣。李势命将领李福、昝坚率大军赶赴合水，以抵御晋军。汉军诸将欲在江南设伏，昝坚却从江北鸳鸯琦渡江，向犍为开进，结果与晋军异道而行。同年三月，桓温兵至彭模，留下参军周楚、孙盛看守辎重，自己亲率步兵直趋成都。
李福回军袭击彭模，被孙盛等人击退。而桓温则三战三胜，击败李权等部汉军，进逼至成都城下。
昝坚赶到犍为，未遇晋军，便从沙头津渡江还军，却得知晋军已攻至成都城外十里陌，因此不战自溃。李势只得集结所有兵力，在成都城外的笮桥与晋军决战。当时战况惨烈，晋军前锋失利，参军龚护战死，汉军的箭矢甚至射到了桓温的马前。诸将皆惧，意欲退兵，而鼓吏却在这时误击前进鼓。袁乔乘势督促军士奋战，终于反败为胜，大败汉军。桓温趁胜攻入成都，并焚毁小城。李势乘夜逃走，远遁九十里，最终决定投降。桓温接受投降，将李势送往建康。成汉政权至此灭亡。
桓温平蜀后，在当地举任贤能，援引贤才为己用，将成汉旧臣王誓、王瑜、邓定、常璩等人辟为参军，成功安抚蜀地。但王誓、邓定不久便举兵叛乱，最终都被晋军讨平。桓温在蜀地留驻一个月，便班师返回江陵。
公元348年，朝廷封赏平蜀之功，欲封桓温为豫章郡公，却被尚书左丞荀蕤劝止。最终，桓温被封为征西大将军、开府仪同三司、临贺郡公。
平蜀之战使得桓温声名大振，朝廷忌惮不已，担心他日后难以控制。会稽王司马昱只得让扬州刺史殷浩参与朝政，以期能对桓温有所抑制。桓温虽有不满，但因熟知殷浩为人，知其难有作为，对此并不担心。当时，桓温治下有八州之地，自行招募军卒、调配资源，逐渐形成半独立状态，渐露不臣之心。朝廷对他已不能征调如意，但求羁縻而已。因国中无事，君臣尚能相安。
公元349年，后赵皇帝石虎病死，北方形势大乱。桓温立刻上疏朝廷，请求北伐，但却始终未得回复。公元351年十二月，桓温再次“拜表辄行”，率五万大军顺流而下，至武昌止。朝廷为此惊恐不安，殷浩也打算辞官避让。司马昱亲自写信给桓温，极力劝阻，终使桓温率军还镇，返回荆州。后来，朝廷又拜桓温为太尉，被桓温拒绝。
此后两年间，殷浩数次北伐，欲进据洛阳，修复园陵，但却屡次战败。军需物资更被掠夺殆尽，朝野怨恨不已。公元354年正月，桓温上奏朝廷，列举殷浩罪状，迫使朝廷将殷浩废为庶人。从此，朝廷内外大权尽归桓温，朝中已无人再能阻止桓温北伐。
公元354年二月，桓温率军北伐前秦。他亲率步骑四万自江陵出发，由水路自襄阳入均口，然后自淅川直趋武关，同时命梁州刺史司马勋兵出子午道，合击秦军。晋军历经数次血战，生擒前秦将领郭敬，击退淮南王苻生，顺利进入关中。前秦皇帝苻健命苻苌、苻雄、苻菁等将领率五万军队屯兵峣柳，以阻挡晋军。
同年四月，桓温转战至灞上。苻苌等部秦军退守长安城南，苻健自领羸兵六千固守内城，附近郡县更是纷纷来降。桓温抚喻百姓，使其安居复业。关中百姓牵牛担酒沿路迎接，许多老人更是疼哭失声：“没想过今天还能再次见到官军！”