廣西籌建鐵路始於清光緒二十二年（1898年），當時計劃從龍州修至鎮南關（友誼關）外的界口，全長61公里。光緒二十五年開始修築路基，但翌年因北京爆發義和團事件及八國聯軍入侵北京而使經費中斷至停。前功盡棄，虛耗資白銀三十萬兩。其後數十年間，清政府、北洋政府、南京國民政府等都曾多次成立籌建廣西鐵路的組織機構，也提出過多項方案，但都因為政局動盪或經費無著等原因而未能成為現實。
民國二十五年（1936年），國民政府交通部開始與湖南、廣西兩省協商興建湘桂鐵路事項。第二年四月，在湖南衡陽成立了湘桂鐵路工程處，湘桂鐵路建設工程正式啟動。
1937年，抗日戰爭爆發後，為了打通華中地區與西南地區的交通通道，同時也為了今後打開通往越南的國際路線，而適應戰時的經濟和軍事需要和粉碎日軍對我國的戰略封鎖，交通部和湘桂兩省達成了加快修建湘桂鐵路的共識。國民政府交通部與湘桂兩省商定，湘桂鐵路全路建築費用總預算約為叄仟陸佰萬元，其中交通部出資壹仟捌佰萬元，湘桂兩省各出資玖佰萬元。由於當時廣西省財政狀況較為困難， 築路資金面臨短缺，由國民政府特許成立湘桂鐵路股份有限公司，併發行股票籌集築路資金。該股票寬285毫米，高253毫米，由廣西印刷廠承印。股票正面為籃色邊框，邊框上端有“湘桂鐵路桂段路股股票”十字，四角分別為“湘桂鐵路”四字。股票正文是：“廣西省政府為發給股票事今據太和工廠認繳湘桂鐵路桂段路股股款桂鈔貳拾元正計貳股合給股票壹紙息折壹扣存執為據”。落款為：“廣西省政府主席黃旭初”，並加蓋印章。時間為：“中華民國二十七年 月 日”。股票還蓋有“廣西省政府印”大型紅色方印。股票背面印有“湘桂鐵路桂段路股股票附錄”共計八條，詳細內容為：“一、本路由交通部及湘桂兩省合建。二、本路湘桂段商股每股桂幣壹拾元十足收繳。三、本路股票為有記名式如有遺失或轉讓應將認股個人姓名籍貫及股票號數呈報省政府及廣西省銀行登記辦理並登報聲明。四、本路所有村街紳富商戶礦商公務人員各股在鐵路未築成以前一律以官利週年六釐給息二十七年一月一日起息至鐵路完成通車以後另由鐵路保息此項官利即行取銷。五、給息日期由省政府以命令公佈之。六、本路路股給息事宜由廣西省銀行辦理。七、本股票得在市場隨時買賣抵押並得作公務上之保證金及擔保品。八、如有偽造本路股票漁利者應依法究辦”。廣西省政府在全省發行“湘桂鐵路桂段路股股票”為湘桂鐵路的建設籌措了大量資金，從而為加快建設速度發揮了重要作用。
湘桂鐵路分成衡（陽）桂（林）段、桂（林）柳（州）段、柳（州）南（寧）段、南（寧）鎮（南關）段四段施工。各段成立工程處（局），在湘桂鐵路股份有限公司理事會統一領導下管理鐵路建設有關事宜。施工方法以招商發包為主，結合民工承包，推行徵工、徵料、徵地築路的辦法。沿路的橋樑、涵洞、隧道和較長的石質長路皆由承包商承包，路基的土石方工程則由民工承包。另外組成鋪軌釘道隊、橋樑隊負責鋪軌和個別大型橋樑的施工。民工的管理採取按工作量包乾，分段分組考績記分的方法，儘量加快工程進度。
湘桂鐵路中的衡桂段由衡桂段工程處負責組織施工。其下設十個工務段，規定每天要完成1公里的指標。該段從民國二十六年（1937年）九月十日動工，至翌年九月二十七日，共計完成了361公里的輔軌任務。衡桂段鐵路是民國時期湘桂鐵路在廣西境內最早峻工通車的一段國家鐵路，桂林也因此成為廣西最早有了鐵路的城市。
湘桂鐵路的桂柳段由桂南段工程局負責施工，其下設四個工務段。。根據廣西行政當局先修桂林至永福段的要求，從民國二十七年（1938年）八月十六日至次年六月，桂林至永福段建成通車。而永福至柳州段，遲至民國二十八（1939年）十二月十六日才完成全段174公里的鋪軌工作。1939年年底湘桂鐵路桂柳段的及時通車，為中國軍隊搶運軍需物質反攻崑崙關，取得崑崙關大捷提供了重要保障。
湘桂鐵路的柳南段，原由民國二十七年（1938年）三月組建的柳南段工程處下屬的六個工務段負責施工，並於六月開工。八月，柳南段工程處合併到桂南段工程局。因受戰局影響，柳南段工程時築時停，直至抗戰勝利也未能全線建成通車。到民國三十年（1941年）九月才建成柳州至來賓段，來賓到南寧段，則遲至新中國成立以後才建成通車。
湘桂鐵路的南鎮段，於民國二十七年（1938年）元月成立了南鎮段工程處，下設四個工務段負責施工，並於當年四月開工。因為南鎮段鐵路遷涉到與法國銀團的貸款問題，實施過程比較麻煩，至民國二十八年（1939年）十月，才完成了鎮南關至明江間線路67公里。同年十二月，因日軍進犯而停工。後又將鎮南關至明江間已鋪鋼軌拆除移至修築黔桂鐵路，所以，南鎮段鐵路在民國時期實際上一直並未修通。所以真正修通並運行的湘桂鐵路僅為衡陽至來賓段，此段全長605公里，其中在廣西境內通車的里程是414.3公里。
湘桂鐵路衡陽至來賓段正式通車運行後，該路段配屬8種類型的機車（火車頭）共118臺，客車車廂209輛，貨車車廂1083輛。全線在衡陽、全州、桂林北、柳州設四個機務段，在衡陽、全州、桂林北、蘇橋、柳州北、鳳凰等較大車站設有負責維修的車房。有資料顯示，從民國二十九年（1940年）到民國三十二年（1943年）間，湘桂鐵路平均年運送旅客330~410萬人次，運送貨物88至115萬噸。在民國三十三年（1944年）十月日軍竄到桂林之前的六年間，湘桂鐵路成了連接東南沿海各省與西南地區各省間唯一的鐵路運輸線。湘桂鐵路的修通運行，不但為抗日戰爭取得最後勝利做出了較大貢獻，也為鐵路沿線地區的經濟發展和民生需求做出了應有的貢獻。
湘桂鐵路的修築，受當時的經濟、物資、設備等條件限制，無疑可稱為是一項規模巨大的建設工程。湘桂鐵路的工程量百分之八十在廣西境內，它也是廣西修築的第一個條國家級鐵路，廣西地方當局和廣西人民為修築這條鐵路做出了巨大的貢獻和犧牲。當時國家正處於危難的抗日戰爭時期，人力和物力都極度匱乏，但是， 廣西各族人民舍小家為國家，先後有64萬多民工奔赴到湘桂鐵路的建築工地。他們提鋤挑米、肩揹人扛，不畏艱苦、不懼飢寒、克服了崇山峻嶺運輸困難，糧食供應短缺不足，以及各種病疫威脅等種種不利條件，在荒山峭壁中胼手胝足日夜勞作。他們高呼著“築路就是抗日”、“出征與築路都為救國家”、“鋤頭當槍桿，築路不成誓不還家”等口號，以空前高漲的熱情，在極其艱苦的條件下全身心投入這條鐵路工程的建設。三年間共計完成土石方3200萬立方米，鋪軌605公里，架設橋樑379座（6141米），打通隧道3座（517米），開挖涵渠2139座等。在數十萬築路工人和鐵路工程人員的共同努力下，至民國三十年（1941年）九月衡陽至來賓段全線通車。
如今當年那些逢山開路遇水架橋為國家強盛、為抗戰勝利做出了巨大貢獻的築路民工如今絕大多數已離開人世，已經再也見不到他們勞作的身影和聽不到他們豪邁的吶喊了。但是，奔駛在湘桂鐵路線上火車鳴出的汽笛聲就是對當年參加修築這條鋼鐵大動脈的數十萬民工兄弟的深深讚歎。這數十萬沒有留下姓名的築路民工，他們都是那個時代的無名英雄，值得後人永遠懷念。
在湘桂鐵路通車的數年間，發生過兩次運輸大事值得述說。第一次發生在民國二十八年（1939年）底，1939年11月15日，日軍在欽州灣一帶登陸向南寧進犯，並於24日佔據南寧，這是日軍第一次入侵廣西。面對日軍入侵，國民政府軍委會立即調集各路部隊緊急開赴前線抵禦日軍，並伺機收復南寧。而此時湘桂鐵路的桂柳段還剩三十公里的鋪軌工作尚未完成，嚴重影響到軍需物質的運送。據當時記述桂柳段工程實況的文件記載：“柳州萬一不守，不但全桂動搖，黔省亦將受威脅。在日軍天天派飛機偵察轟炸湘桂線的情況下，柳州工程段督促所剩三十公里的鋪軌工作日夜連續進行。杜聿明將軍所部機械化部隊的大炮及彈藥，已裝車沿新鋪之鐵路離開桂林源源而來。至十二月十七日桂柳全線接軌，自是軍車十六列陸續南開。未數日，杜聿明的第五軍在崑崙關大捷，阻敵不得再前進”。12月18日，得到人員和彈藥補充的十五萬中國軍隊開始向盤據崑崙關的日軍發起反攻。戰至31日，我方宣佈取得崑崙關大捷，全國抗敵將士倍受鼓舞。
崑崙關戰役最終取得勝利，當然主要是靠前方的部隊將士用大無畏的勇氣和血肉之軀拼搏而得，但湘桂鐵路桂柳段最後幾十公里的順利接軌，為前線運送了大批作戰裝備和物質，這也是崑崙關戰役取得最後勝利的必要條件。
值得述說的湘桂鐵路第二個重要事件發生在民國三十三年（1944年）下半開始的“湘桂大撤退”。進入1944年，日本侵略軍敗勢已定，抗日戰爭已近尾聲。然而敵人並不甘心失敗，他們還要做最後垂死的掙扎。1944年8月，日軍侵佔衡陽，桂林告急。9月，日軍南下進入廣西，這是日軍第二次入侵廣西。廣西軍事當局在白崇禧的策劃下實行“焦土抗戰”，下令將桂林市所有的機關、工廠、學校及數十萬居民全部撤離。在這次震驚全國的湘桂大撤退中，湘桂鐵路又一次扮演了重要角色。從湖南撤退下來的大批難民加上桂林本地難民總數高達近百萬，他們有部份沿公路步行南下，也有部份選擇乘火車沿桂柳段撤退。在南撤的列車上，所有的車廂上都擠滿了逃難的人群。當時有近百趟列車滿載著成千上萬的難民沿湘桂鐵路先從桂林到柳州，然後再由柳州往貴州方向逃難。當時逃難的民眾把客車“改造”成五層平廂。所謂“五層車廂”就是車頂上爬滿一層，車底拉桿上墊本板躺著一層，車廂內座位上擠一層，座位底下再睡一層，座位上端的行李架上還爬一層。這種極度混亂擁擠的場面堪稱世界鐵路運輸史上的奇觀，簡直令人無法想象。當時火車運行的速度很慢，正常速度也僅為10~20公里，而整趟列車擠滿了難民時火車開得更慢。然而，即使是很慢的車速，也還是有不幸的難民從車上掉下來摔死或摔傷，造成人面的悲劇。今天，我們過著和平幸福的生活，絕不願再看到過去的歷史悲劇重演！
在完成湘桂大撤退的任務後，鐵路員工又遵照軍事當局的命令對鐵路沿線設施進行徹底破壞，當時共計有65座大中橋樑，29個車站，4571根鋼軌，257組道岔，348輛車廂，以及部份機車都被主動破壞，不留給敵人使用。因此，在日軍佔領湘桂鐵路沿線期間，敵人無法利用這條鐵路運送一兵一卒、一糧一彈，湘桂鐵路可稱是一條名副其實的“愛國鐵路”。
抗日戰爭勝利後，湘桂鐵路開始緩慢恢復。不久後爆發國共內戰，因為軍事需要，國民政府把恢復全國鐵路的重心放到平漢、津浦、粵漢等重要鐵路路段，而湘桂鐵路因為當時遠離內戰戰場，所以幾乎被他們遺忘了。民國三十六年（1947年）年底，湘桂鐵路才基本修復通車。此時的湘桂鐵路由於設備老舊，路況不好，所以行車速度很慢，每小時僅為15~20公里。到解放前夕，廣西境內湘桂鐵路通車裡程僅有539公里。
“一唱雄雞天下白”。1949年底，廣西全境獲得解放，廣西的鐵路建設事業也獲得了新生。鐵道兵部隊克服了種種困難，只用了短短的28天，就於當年12月31日修復了被蔣軍破壞的衡陽至桂林段鐵路。到1950年6月，人民政府只用了不到半年的時間，湘桂鐵路衡陽至來賓段就全線恢復了通車。民國時期，雖然原設計的湘桂鐵路的終點是廣西最南端的——鎮南關（今稱友誼關），但是實際只修到了來賓。解放後，為了鞏固國防，支援越南人民的抗法鬥爭，也為了儘快打通廣西省會南寧與外地的聯繫，1950年8月20日衡陽鐵路管理局成立了來（賓）鎮（南關）段工程處，同時廣西省政府在南寧又成立了“廣西築路委員會”，組織了近12萬民工配合鐵路員工加快來鎮段的建設工程。來鎮段鐵路從1950年10月開工建設，築路大軍共計完成了路基土石方41186萬立方米，挖土53.9萬立方米，正線鋪軌418公里，站線85.1公里，橋樑86座，共計投資5936萬元，平均每公里造價約14.6萬元。1951年10月30日，來鎮段鐵路修通至憑祥。1951年11月，湘桂鐵路衡陽至憑祥間正式開通運營。1954年12月，鐵路線又由憑祥延伸至鎮南關附近的中越邊境，至此湘桂鐵路1023.6公里全線貫通。從1937年9月湘桂鐵路開始動工，經歷了17個年頭，穿越了舊、新中國兩個歷史時空，終於建設完工了。湘桂鐵路通車後，立即成為面向東南亞，連接大西南的一條鋼鐵大動脈，它為促進廣西與中南、西南各省及東南亞諸國的經濟聯繫，為拉動廣西地區的經濟發展和改善廣西各族人民的生活發揮了巨大作用。
