鸠摩罗什寺是太祖吕光为安顿西域高僧、佛经翻译家鸠摩罗什大师的身心，下令修建的。建好后直接以鸠摩罗什大师的名字来命名。在鸠摩罗什大师圆寂后，他的弟子遵其遗嘱，将他的“舌”舍利供奉于寺内，并在供奉“舌”舍利处造寺塔一座，也就是今天的罗什寺塔。鸠摩罗什寺从东晋后凉至今香火旺盛，虽然屡次遭遇天灾人祸，但罗什寺塔依旧屹立不倒，寺院名一直沿用至今从未改过，彰显着鸠摩罗什寺的昔日辉煌。
明朝后期，罗什寺被朝廷钦定为陕西凉州大寺院，朝廷为罗什寺颁发《大藏经》，并下了圣谕，圣谕中说：“刊印大藏经，颁赐天下，用广流传，兹以一藏，安置陕西凉州大寺院，永允供养。此谕现在仍完整的保存在武威市博物馆。
康熙二十八年，罗什寺进行过一次大规模的修缮。据《重修罗什寺碑记》记载，经过这次重修的罗什寺“前后三院，焕然一新，乃五凉之福地；壮丽改观，诚河西之胜地也。”
民国时期，武威发生了一次七级地震，城内的名胜古迹无一幸免，基本被毁，罗什寺仅残存半截，到1934年，武威国民政府在原址的基础上，进行了重修，才使得这一名胜古迹得以保存下来。
古人曾经盛赞罗什寺是“由来僧宝摇篮地”，因“弘法利生集英”而“天下名”。而鸠摩罗什与玄奘、不空、真谛并称中国佛教四大译经家，位列四大译经家之首，是中国佛教八宗之祖，翻译学鼻祖。
天生慧根
据说，鸠摩罗什的母亲在怀他之后，记忆力和理解力都倍增，而且还无师自通的学会了梵文。鸠摩罗什天资聪颖，半岁会说话，三岁能识字，五岁开始博览群书，七岁时随母亲出家，开始在各国游学。12岁与母返龟兹途中，在疏勒驻留年余，修习阿毗昙及六足论，从大乘僧人、莎车王子须利耶苏摩诵读《中论》、《百论》和《十二门论》，复从佛陀耶舍授读《十诵律》等。
他一生翻译出了许多经文，
博通大乘小乘。精通经藏、律藏、论藏三藏，并能熟练运用，掌控自如，乃三藏法师第一人。位列四大译经家之首，翻译学鼻祖，语言学大师。鸠摩罗什不仅相貌倜傥，而且字如其人，文笔也是潇洒清秀，堪称一流。曾有三果罗汉言，鸠摩罗什在三十六岁如果没有破戒，他就会成为第二个佛陀，在汉地也有传闻。为争夺这位高僧，前秦后秦发动了两次战争。
译经
据《出三藏记集》载，罗什在弘始四年至十五年期间，译出经论35部，294卷。其中重要的有《大品般若经》、《小品般若经》、《妙法莲华经》、《金刚经》、《维摩经》、《阿弥陀经》、《首楞严三昧经》、《十住毗婆沙论》、《中论》、《百论》、《十二门论》、《成实论》及《十诵律》等。所译经典极为广泛，重点在般若系的大乘经典和龙树、提婆一系的中观派论书，内容信实，文字流畅，有些经典后虽有新译，仍难以取代，老幼皆宜接受，无论是老大妈小沙弥还是达官贵人，其经文几乎家家有一本，从其译本出现，绵延流传历经1600多年而不衰，其家喻户晓的流行程度有目共睹，在中国译经和佛教传播史上具有划时代的意义。
圆寂
后秦弘始十五年四月十三日，鸠摩罗什圆寂于草堂古刹（西安草堂寺）。临终前曾嘱其弟子应以其著译而不以其生活行事为准绳。譬喻“臭泥中生莲花，但采莲花勿取臭泥”。大师圆寂前与众僧道别时曾说：“凡所出经论三百余卷，唯《十诵》一部未及删烦了，存其本旨必无差失。愿凡所宣译，传流后世，咸共弘通。今于众前发诚实誓，若所传无谬者，当使焚身之后，舌不燋烂。”公元413年，大师圆寂，荼毗后果然舌根不烂，是为大师开佛知见，传持佛心法印之明证！大师圆寂时叮嘱弟子，要将火焚之后的舌舍利运往凉州鸠摩罗什寺（今甘肃武威）供奉，舌舍利而今还在，世界上唯一一颗三藏法师舌舍利子，其见证的大师了不世之伟大成就。
三寸不烂之舌
公元413年，感知大限即近的鸠摩罗什，对众人起誓：“假如我所传的经典没有错误，在我焚身之后，就让这个舌头不要烧坏，不要烂掉！”不久，鸠摩罗什圆寂，在逍遥宫依佛制焚身，火灭身碎后，惟有舌头完好无损。三寸不烂之舌，证显鸠摩罗什之誓。
鸠摩罗什的一生，充满了坎坷，但却也是传奇的一生。他的一生有众多的弟子，庞大的弟子僧团使佛教义学迅速传播，并使佛教与各地的风俗习惯、民族信仰结合起来，形成了很多佛教派别。对佛教的传播起着重要的作用。
