广西筹建铁路始于清光绪二十二年（1898年），当时计划从龙州修至镇南关（友谊关）外的界口，全长61公里。光绪二十五年开始修筑路基，但翌年因北京爆发义和团事件及八国联军入侵北京而使经费中断至停。前功尽弃，虚耗资白银三十万两。其后数十年间，清政府、北洋政府、南京国民政府等都曾多次成立筹建广西铁路的组织机构，也提出过多项方案，但都因为政局动荡或经费无着等原因而未能成为现实。
民国二十五年（1936年），国民政府交通部开始与湖南、广西两省协商兴建湘桂铁路事项。第二年四月，在湖南衡阳成立了湘桂铁路工程处，湘桂铁路建设工程正式启动。
1937年，抗日战争爆发后，为了打通华中地区与西南地区的交通通道，同时也为了今后打开通往越南的国际路线，而适应战时的经济和军事需要和粉碎日军对我国的战略封锁，交通部和湘桂两省达成了加快修建湘桂铁路的共识。国民政府交通部与湘桂两省商定，湘桂铁路全路建筑费用总预算约为叁仟陆佰万元，其中交通部出资壹仟捌佰万元，湘桂两省各出资玖佰万元。由于当时广西省财政状况较为困难， 筑路资金面临短缺，由国民政府特许成立湘桂铁路股份有限公司，并发行股票筹集筑路资金。该股票宽285毫米，高253毫米，由广西印刷厂承印。股票正面为篮色边框，边框上端有“湘桂铁路桂段路股股票”十字，四角分别为“湘桂铁路”四字。股票正文是：“广西省政府为发给股票事今据太和工厂认缴湘桂铁路桂段路股股款桂钞贰拾元正计贰股合给股票壹纸息折壹扣存执为据”。落款为：“广西省政府主席黄旭初”，并加盖印章。时间为：“中华民国二十七年 月 日”。股票还盖有“广西省政府印”大型红色方印。股票背面印有“湘桂铁路桂段路股股票附录”共计八条，详细内容为：“一、本路由交通部及湘桂两省合建。二、本路湘桂段商股每股桂币壹拾元十足收缴。三、本路股票为有记名式如有遗失或转让应将认股个人姓名籍贯及股票号数呈报省政府及广西省银行登记办理并登报声明。四、本路所有村街绅富商户矿商公务人员各股在铁路未筑成以前一律以官利周年六厘给息二十七年一月一日起息至铁路完成通车以后另由铁路保息此项官利即行取销。五、给息日期由省政府以命令公布之。六、本路路股给息事宜由广西省银行办理。七、本股票得在市场随时买卖抵押并得作公务上之保证金及担保品。八、如有伪造本路股票渔利者应依法究办”。广西省政府在全省发行“湘桂铁路桂段路股股票”为湘桂铁路的建设筹措了大量资金，从而为加快建设速度发挥了重要作用。
湘桂铁路分成衡（阳）桂（林）段、桂（林）柳（州）段、柳（州）南（宁）段、南（宁）镇（南关）段四段施工。各段成立工程处（局），在湘桂铁路股份有限公司理事会统一领导下管理铁路建设有关事宜。施工方法以招商发包为主，结合民工承包，推行征工、征料、征地筑路的办法。沿路的桥梁、涵洞、隧道和较长的石质长路皆由承包商承包，路基的土石方工程则由民工承包。另外组成铺轨钉道队、桥梁队负责铺轨和个别大型桥梁的施工。民工的管理采取按工作量包干，分段分组考绩记分的方法，尽量加快工程进度。
湘桂铁路中的衡桂段由衡桂段工程处负责组织施工。其下设十个工务段，规定每天要完成1公里的指标。该段从民国二十六年（1937年）九月十日动工，至翌年九月二十七日，共计完成了361公里的辅轨任务。衡桂段铁路是民国时期湘桂铁路在广西境内最早峻工通车的一段国家铁路，桂林也因此成为广西最早有了铁路的城市。
湘桂铁路的桂柳段由桂南段工程局负责施工，其下设四个工务段。。根据广西行政当局先修桂林至永福段的要求，从民国二十七年（1938年）八月十六日至次年六月，桂林至永福段建成通车。而永福至柳州段，迟至民国二十八（1939年）十二月十六日才完成全段174公里的铺轨工作。1939年年底湘桂铁路桂柳段的及时通车，为中国军队抢运军需物质反攻昆仑关，取得昆仑关大捷提供了重要保障。
湘桂铁路的柳南段，原由民国二十七年（1938年）三月组建的柳南段工程处下属的六个工务段负责施工，并于六月开工。八月，柳南段工程处合并到桂南段工程局。因受战局影响，柳南段工程时筑时停，直至抗战胜利也未能全线建成通车。到民国三十年（1941年）九月才建成柳州至来宾段，来宾到南宁段，则迟至新中国成立以后才建成通车。
湘桂铁路的南镇段，于民国二十七年（1938年）元月成立了南镇段工程处，下设四个工务段负责施工，并于当年四月开工。因为南镇段铁路迁涉到与法国银团的贷款问题，实施过程比较麻烦，至民国二十八年（1939年）十月，才完成了镇南关至明江间线路67公里。同年十二月，因日军进犯而停工。后又将镇南关至明江间已铺钢轨拆除移至修筑黔桂铁路，所以，南镇段铁路在民国时期实际上一直并未修通。所以真正修通并运行的湘桂铁路仅为衡阳至来宾段，此段全长605公里，其中在广西境内通车的里程是414.3公里。
湘桂铁路衡阳至来宾段正式通车运行后，该路段配属8种类型的机车（火车头）共118台，客车车厢209辆，货车车厢1083辆。全线在衡阳、全州、桂林北、柳州设四个机务段，在衡阳、全州、桂林北、苏桥、柳州北、凤凰等较大车站设有负责维修的车房。有资料显示，从民国二十九年（1940年）到民国三十二年（1943年）间，湘桂铁路平均年运送旅客330~410万人次，运送货物88至115万吨。在民国三十三年（1944年）十月日军窜到桂林之前的六年间，湘桂铁路成了连接东南沿海各省与西南地区各省间唯一的铁路运输线。湘桂铁路的修通运行，不但为抗日战争取得最后胜利做出了较大贡献，也为铁路沿线地区的经济发展和民生需求做出了应有的贡献。
湘桂铁路的修筑，受当时的经济、物资、设备等条件限制，无疑可称为是一项规模巨大的建设工程。湘桂铁路的工程量百分之八十在广西境内，它也是广西修筑的第一个条国家级铁路，广西地方当局和广西人民为修筑这条铁路做出了巨大的贡献和牺牲。当时国家正处于危难的抗日战争时期，人力和物力都极度匮乏，但是， 广西各族人民舍小家为国家，先后有64万多民工奔赴到湘桂铁路的建筑工地。他们提锄挑米、肩背人扛，不畏艰苦、不惧饥寒、克服了崇山峻岭运输困难，粮食供应短缺不足，以及各种病疫威胁等种种不利条件，在荒山峭壁中胼手胝足日夜劳作。他们高呼着“筑路就是抗日”、“出征与筑路都为救国家”、“锄头当枪杆，筑路不成誓不还家”等口号，以空前高涨的热情，在极其艰苦的条件下全身心投入这条铁路工程的建设。三年间共计完成土石方3200万立方米，铺轨605公里，架设桥梁379座（6141米），打通隧道3座（517米），开挖涵渠2139座等。在数十万筑路工人和铁路工程人员的共同努力下，至民国三十年（1941年）九月衡阳至来宾段全线通车。
如今当年那些逢山开路遇水架桥为国家强盛、为抗战胜利做出了巨大贡献的筑路民工如今绝大多数已离开人世，已经再也见不到他们劳作的身影和听不到他们豪迈的呐喊了。但是，奔驶在湘桂铁路线上火车鸣出的汽笛声就是对当年参加修筑这条钢铁大动脉的数十万民工兄弟的深深赞叹。这数十万没有留下姓名的筑路民工，他们都是那个时代的无名英雄，值得后人永远怀念。
在湘桂铁路通车的数年间，发生过两次运输大事值得述说。第一次发生在民国二十八年（1939年）底，1939年11月15日，日军在钦州湾一带登陆向南宁进犯，并于24日占据南宁，这是日军第一次入侵广西。面对日军入侵，国民政府军委会立即调集各路部队紧急开赴前线抵御日军，并伺机收复南宁。而此时湘桂铁路的桂柳段还剩三十公里的铺轨工作尚未完成，严重影响到军需物质的运送。据当时记述桂柳段工程实况的文件记载：“柳州万一不守，不但全桂动摇，黔省亦将受威胁。在日军天天派飞机侦察轰炸湘桂线的情况下，柳州工程段督促所剩三十公里的铺轨工作日夜连续进行。杜聿明将军所部机械化部队的大炮及弹药，已装车沿新铺之铁路离开桂林源源而来。至十二月十七日桂柳全线接轨，自是军车十六列陆续南开。未数日，杜聿明的第五军在昆仑关大捷，阻敌不得再前进”。12月18日，得到人员和弹药补充的十五万中国军队开始向盘据昆仑关的日军发起反攻。战至31日，我方宣布取得昆仑关大捷，全国抗敌将士倍受鼓舞。
昆仑关战役最终取得胜利，当然主要是靠前方的部队将士用大无畏的勇气和血肉之躯拼搏而得，但湘桂铁路桂柳段最后几十公里的顺利接轨，为前线运送了大批作战装备和物质，这也是昆仑关战役取得最后胜利的必要条件。
值得述说的湘桂铁路第二个重要事件发生在民国三十三年（1944年）下半开始的“湘桂大撤退”。进入1944年，日本侵略军败势已定，抗日战争已近尾声。然而敌人并不甘心失败，他们还要做最后垂死的挣扎。1944年8月，日军侵占衡阳，桂林告急。9月，日军南下进入广西，这是日军第二次入侵广西。广西军事当局在白崇禧的策划下实行“焦土抗战”，下令将桂林市所有的机关、工厂、学校及数十万居民全部撤离。在这次震惊全国的湘桂大撤退中，湘桂铁路又一次扮演了重要角色。从湖南撤退下来的大批难民加上桂林本地难民总数高达近百万，他们有部份沿公路步行南下，也有部份选择乘火车沿桂柳段撤退。在南撤的列车上，所有的车厢上都挤满了逃难的人群。当时有近百趟列车满载着成千上万的难民沿湘桂铁路先从桂林到柳州，然后再由柳州往贵州方向逃难。当时逃难的民众把客车“改造”成五层平厢。所谓“五层车厢”就是车顶上爬满一层，车底拉杆上垫本板躺着一层，车厢内座位上挤一层，座位底下再睡一层，座位上端的行李架上还爬一层。这种极度混乱拥挤的场面堪称世界铁路运输史上的奇观，简直令人无法想象。当时火车运行的速度很慢，正常速度也仅为10~20公里，而整趟列车挤满了难民时火车开得更慢。然而，即使是很慢的车速，也还是有不幸的难民从车上掉下来摔死或摔伤，造成人面的悲剧。今天，我们过着和平幸福的生活，绝不愿再看到过去的历史悲剧重演！
在完成湘桂大撤退的任务后，铁路员工又遵照军事当局的命令对铁路沿线设施进行彻底破坏，当时共计有65座大中桥梁，29个车站，4571根钢轨，257组道岔，348辆车厢，以及部份机车都被主动破坏，不留给敌人使用。因此，在日军占领湘桂铁路沿线期间，敌人无法利用这条铁路运送一兵一卒、一粮一弹，湘桂铁路可称是一条名副其实的“爱国铁路”。
抗日战争胜利后，湘桂铁路开始缓慢恢复。不久后爆发国共内战，因为军事需要，国民政府把恢复全国铁路的重心放到平汉、津浦、粤汉等重要铁路路段，而湘桂铁路因为当时远离内战战场，所以几乎被他们遗忘了。民国三十六年（1947年）年底，湘桂铁路才基本修复通车。此时的湘桂铁路由于设备老旧，路况不好，所以行车速度很慢，每小时仅为15~20公里。到解放前夕，广西境内湘桂铁路通车里程仅有539公里。
“一唱雄鸡天下白”。1949年底，广西全境获得解放，广西的铁路建设事业也获得了新生。铁道兵部队克服了种种困难，只用了短短的28天，就于当年12月31日修复了被蒋军破坏的衡阳至桂林段铁路。到1950年6月，人民政府只用了不到半年的时间，湘桂铁路衡阳至来宾段就全线恢复了通车。民国时期，虽然原设计的湘桂铁路的终点是广西最南端的——镇南关（今称友谊关），但是实际只修到了来宾。解放后，为了巩固国防，支援越南人民的抗法斗争，也为了尽快打通广西省会南宁与外地的联系，1950年8月20日衡阳铁路管理局成立了来（宾）镇（南关）段工程处，同时广西省政府在南宁又成立了“广西筑路委员会”，组织了近12万民工配合铁路员工加快来镇段的建设工程。来镇段铁路从1950年10月开工建设，筑路大军共计完成了路基土石方41186万立方米，挖土53.9万立方米，正线铺轨418公里，站线85.1公里，桥梁86座，共计投资5936万元，平均每公里造价约14.6万元。1951年10月30日，来镇段铁路修通至凭祥。1951年11月，湘桂铁路衡阳至凭祥间正式开通运营。1954年12月，铁路线又由凭祥延伸至镇南关附近的中越边境，至此湘桂铁路1023.6公里全线贯通。从1937年9月湘桂铁路开始动工，经历了17个年头，穿越了旧、新中国两个历史时空，终于建设完工了。湘桂铁路通车后，立即成为面向东南亚，连接大西南的一条钢铁大动脉，它为促进广西与中南、西南各省及东南亚诸国的经济联系，为拉动广西地区的经济发展和改善广西各族人民的生活发挥了巨大作用。
