西南解放前夕，云南、贵州、四川、西康（西康省，今分属四川省和西藏自治区）及其周边地区，集结了国民党几十万军队。蒋介石企图以西南为依托，抵抗解放军的进攻，以便争取时间，伺机反攻。为便于统一指挥，1949年5月1日，国民党政府将原重庆绥靖公署改组为西南军政长官公署，作为“行政院”和“国防部”在西南地区的派出机构和大战略区领导机关，统一管理川、康、云、贵、渝四省一市的军政事宜。红色经典《红岩》中经常提及这个机构，小说中特务头子徐鹏飞的正式职务就是西南军政长官公署第二处处长。
张群被任命为首任长官
国民党政府历来有在重庆设置指挥机构的传统，1935年即在此成立了国民政府军事委员会委员长重庆行营。抗战胜利还都南京后，又将重庆行营恢复，机关设在林森路原军事委员会旧址，人员大部分来自原军委会成都行辕和陆军总部，主任何应钦未到任，由张群代行主任职权，参谋长、副参谋长和秘书长分别由萧毅肃、余中英、刘寿朋担任。军委会撤销后，重庆行营改称国民政府主席重庆行辕，主任仍是张群。1947年春，张群调任行政院长，朱绍良接任主任。1948年3月，重庆行辕改称重庆绥靖公署，1949年1月，朱绍良调任福州绥靖公署主任兼福建省政府主席，张群重回重庆接替朱绍良。5月西南军政长官公署成立后，张群被任命为首任长官，钱大钧为副长官，后来又相继增加邓锡侯、杨森、贺国光、王缵绪、潘文华、孙震、唐式遵等为副长官。
张群（右）与周恩来
张群字岳军，1889年5月生于四川，是蒋介石日本士官学校时期的同学，国民党内新政学系首脑，与蒋关系密切。张群担任西南行政长官之后，把“团结、自卫、自给”作为自己施政纲领，想竭力稳定西南形势。
1949年8月底，蒋介石赶到重庆，与张群商谈确保西南的方案。蒋与张群都认为陕西的关中、宝鸡一带已经失守，陇海路也已经被中共所控制，并且解放军正在进攻秦岭一带，因此他们判断解放军主力应该会从川陕公路进攻四川，而不会走地形险要的两湖西部和四川东部。
10月，蒋介石在西南行政长官公署主持召开作战会议，参见会议的有张群、钱大钧、杨森、胡宗南、罗广文、陈春霖、刘文辉、邓锡侯、郭汝瑰等人，会议决定将防务重点放在川北。
同盟国驻陪读重庆外交机构旧址
据郭汝瑰回忆，胡宗南此时还想挤走张群，把西南决战的指挥权抓在自己手里：“第二天胡宗南、宋希濂、何绍周等中央系将领又在临江门罗广文的第七编练司令部招待所开会，他们认为张群指挥不行，要胡宗南来指挥。宋希濂对我说：‘来！联名给老头子写个报告，我们请求胡老大哥来指挥。’我说：‘我字写得不好。’大家齐声说：‘你起草吧！起好由赵秀昆缮正。’我推诿不过，只好给他们起草报告，让他们送给蒋介石。当时黄埔学生要求胡宗南指挥西南最后一战，但根本没有结果。因为蒋介石来到重庆后，参谋总长顾祝同、参谋次长肖毅肃、三厅厅长许朗轩及国防部各厅参谋人员也先后飞到重庆。蒋介石亲自发号施令，指挥西南战役，而西南军政长官公署主任张群已形同虚设。”
12月9日云南省主席卢汉起义时，张群恰好刚到昆明，旋遭扣押。张群与卢汉私交颇深，他写了一封信给卢汉，表示今后不再过问政治，希望卢汉放他离开。卢汉见信后，派人去做张的工作，希望张和他们一起行动。张群回复说：“你们的起义我是很同情的。我也知道这是大势所趋，但是我一生都是一个国民党员，我和蒋先生的私人关系你们也是知道的，我不能和你们一致行动。”最后卢汉决定释放张群，12月11日上午，张群离滇飞港，从此卸去了西南军政长官之任。
大战后西南军政长官公署彻底溃散
1949年11月初，中国人民解放军第二野战军主力在第一野战军、第四野战军各一部配合下，进军大西南。为麻痹敌人，二野司令员刘伯承率指挥机关途经郑州时，在群众大会上发表讲话，佯示主力将西进陕南，尔后南下四川。蒋介石果然中计，命令川陕甘边区绥靖公署主任胡宗南亲率三个精锐兵团，倚秦岭主脉向北构筑主要防线。殊不知此时刘邓大军却秘密折而南下，集结川鄂边和湘西地区，从国民党军防御薄弱的川黔边迂回四川。
今日重庆
二野主力在司令员刘伯承、政治委员邓小平的指挥下，在南起贵州天柱、北至湖北巴东约500公里地段上对国民党军实施多路攻击，并相继占领贵阳和遵义，将国民党西南防线拦腰切断。与此同时，第四、第二野战军各一部向国民党军川湘鄂边绥靖公署主任宋希濂集团发起钳形合击，宋希濂仓皇渡江（乌江）西逃。此时蒋介石方才察觉解放军的意图，急令胡宗南集团南撤入川，但为时已晚，11月30日解放军占领重庆，随即向纵深挺进。
重庆著名的中山四路，民国老公馆云集
12月9日，西南军政长官公署辖下的云南省主席卢汉、西康省主席刘文辉以及长官公署的两位副长官邓锡侯、潘文华分别在昆明、雅安和彭县宣布脱离国民党起义。
西南战役此时实际上胜负已定，蒋介石决定离开成都，临行前，蒋介石主持了在大陆的最后一个会议，做出了以下决定：“中央党部和行政院撤迁台湾；西南军政长官公署主任张群呈请辞职，准予免职，由顾祝同兼任其职；撤销西安绥靖公署和重庆卫戍总司令部，撤销刘文辉西康省主席，邓锡侯、潘文华西南军政长官公署副主任，卢汉云南省主席职务；任命西康警备总司令部司令贺国光兼任西康省主席；任命胡宗南为西南军政长官公署副主任兼参谋长；任命杨森为西南军政长官公署副主任兼川陕甘绥靖公署主任；任命王缵绪为西南第一路游击总司令，唐式遵为西南第二路游击总司令。”
胡宗南被任命为西南军政长官公署副长官兼参谋长后代理长官职权，12月底胡将长官部移驻西昌，妄图在此负隅顽抗。1950年3月26日解放军逼近西昌机场，胡宗南将部队的指挥权交给参谋长罗列，自己悄悄飞逃台湾，其残余部队陆续被围歼，西南军政长官公署至此完全溃散。
