鳩摩羅什寺是太祖呂光為安頓西域高僧、佛經翻譯家鳩摩羅什大師的身心，下令修建的。建好後直接以鳩摩羅什大師的名字來命名。在鳩摩羅什大師圓寂後，他的弟子遵其遺囑，將他的“舌”舍利供奉於寺內，並在供奉“舌”舍利處造寺塔一座，也就是今天的羅什寺塔。鳩摩羅什寺從東晉後涼至今香火旺盛，雖然屢次遭遇天災人禍，但羅什寺塔依舊屹立不倒，寺院名一直沿用至今從未改過，彰顯著鳩摩羅什寺的昔日輝煌。
明朝後期，羅什寺被朝廷欽定為陝西涼州大寺院，朝廷為羅什寺頒發《大藏經》，並下了聖諭，聖諭中說：“刊印大藏經，頒賜天下，用廣流傳，茲以一藏，安置陝西涼州大寺院，永允供養。此諭現在仍完整的保存在武威市博物館。
康熙二十八年，羅什寺進行過一次大規模的修繕。據《重修羅什寺碑記》記載，經過這次重修的羅什寺“前後三院，煥然一新，乃五涼之福地；壯麗改觀，誠河西之勝地也。”
民國時期，武威發生了一次七級地震，城內的名勝古蹟無一倖免，基本被毀，羅什寺僅殘存半截，到1934年，武威國民政府在原址的基礎上，進行了重修，才使得這一名勝古蹟得以保存下來。
古人曾經盛讚羅什寺是“由來僧寶搖籃地”，因“弘法利生集英”而“天下名”。而鳩摩羅什與玄奘、不空、真諦並稱中國佛教四大譯經家，位列四大譯經家之首，是中國佛教八宗之祖，翻譯學鼻祖。
天生慧根
據說，鳩摩羅什的母親在懷他之後，記憶力和理解力都倍增，而且還無師自通的學會了梵文。鳩摩羅什天資聰穎，半歲會說話，三歲能識字，五歲開始博覽群書，七歲時隨母親出家，開始在各國遊學。12歲與母返龜茲途中，在疏勒駐留年餘，修習阿毗曇及六足論，從大乘僧人、莎車王子須利耶蘇摩誦讀《中論》、《百論》和《十二門論》，復從佛陀耶舍授讀《十誦律》等。
他一生翻譯出了許多經文，
博通大乘小乘。精通經藏、律藏、論藏三藏，並能熟練運用，掌控自如，乃三藏法師第一人。位列四大譯經家之首，翻譯學鼻祖，語言學大師。鳩摩羅什不僅相貌倜儻，而且字如其人，文筆也是瀟灑清秀，堪稱一流。曾有三果羅漢言，鳩摩羅什在三十六歲如果沒有破戒，他就會成為第二個佛陀，在漢地也有傳聞。為爭奪這位高僧，前秦後秦發動了兩次戰爭。
譯經
據《出三藏記集》載，羅什在弘始四年至十五年期間，譯出經論35部，294卷。其中重要的有《大品般若經》、《小品般若經》、《妙法蓮華經》、《金剛經》、《維摩經》、《阿彌陀經》、《首楞嚴三昧經》、《十住毗婆沙論》、《中論》、《百論》、《十二門論》、《成實論》及《十誦律》等。所譯經典極為廣泛，重點在般若系的大乘經典和龍樹、提婆一系的中觀派論書，內容信實，文字流暢，有些經典後雖有新譯，仍難以取代，老幼皆宜接受，無論是老大媽小沙彌還是達官貴人，其經文幾乎家家有一本，從其譯本出現，綿延流傳歷經1600多年而不衰，其家喻戶曉的流行程度有目共睹，在中國譯經和佛教傳播史上具有劃時代的意義。
圓寂
後秦弘始十五年四月十三日，鳩摩羅什圓寂於草堂古剎（西安草堂寺）。臨終前曾囑其弟子應以其著譯而不以其生活行事為準繩。譬喻“臭泥中生蓮花，但採蓮花勿取臭泥”。大師圓寂前與眾僧道別時曾說：“凡所出經論三百餘卷，唯《十誦》一部未及刪煩了，存其本旨必無差失。願凡所宣譯，傳流後世，鹹共弘通。今於眾前發誠實誓，若所傳無謬者，當使焚身之後，舌不燋爛。”公元413年，大師圓寂，荼毗後果然舌根不爛，是為大師開佛知見，傳持佛心法印之明證！大師圓寂時叮囑弟子，要將火焚之後的舌舍利運往涼州鳩摩羅什寺（今甘肅武威）供奉，舌舍利而今還在，世界上唯一一顆三藏法師舌舍利子，其見證的大師了不世之偉大成就。
三寸不爛之舌
公元413年，感知大限即近的鳩摩羅什，對眾人起誓：“假如我所傳的經典沒有錯誤，在我焚身之後，就讓這個舌頭不要燒壞，不要爛掉！”不久，鳩摩羅什圓寂，在逍遙宮依佛制焚身，火滅身碎後，惟有舌頭完好無損。三寸不爛之舌，證顯鳩摩羅什之誓。
鳩摩羅什的一生，充滿了坎坷，但卻也是傳奇的一生。他的一生有眾多的弟子，龐大的弟子僧團使佛教義學迅速傳播，並使佛教與各地的風俗習慣、民族信仰結合起來，形成了很多佛教派別。對佛教的傳播起著重要的作用。
