鸠摩罗什的父亲原是古印度出身婆罗门的高僧鸠摩罗炎，但他笃信佛教，舍弃了位高权重、安逸舒适的宰相位置，出家为僧，而后到龟兹传法。公元344年，在龟兹，鸠摩罗炎与国王的妹妹龟兹公主结婚后生下了儿子鸠摩罗什。鸠摩罗什三岁识字，五岁便能读经，七岁的时候便随母亲出家修行。鸠摩罗什初学小乘佛经，由于他天资聪颖，加之勤奋好学，不到五年便已然有成。随后，四处游学的鸠摩罗什在莎车遇见了宣扬大乘佛经的高僧，于是改学大乘佛经。此后，鸠摩罗什沉浸在佛学的世界里，一面继续学习了大量的佛教经典，一面四处宣扬佛法，年不过二十，便已享誉天竺和西域各国。
建元十九年（公元384年）前秦皇帝苻坚笃信佛教，听说了他的大名，遂派大将吕光率大军征讨龟兹，特别叮嘱此行一定要将鸠摩罗什带回长安。等吕光打败龟兹并将鸠摩罗什带到凉州的时候，却听说苻坚兵败，于是在河西自立为王，国号凉，史称为西凉。西凉建国之后，鸠摩罗什被困凉州。不久，羌族首领姚苌攻破长安，俘杀了前秦皇帝苻坚，建立后秦。姚苌同样仰慕鸠摩罗什之名，加之他杀掉苻坚之后，常做噩梦，日夜难安，于是便派人到凉州盛情邀请鸠摩罗什到长安传播佛法，希望为自己安神禳灾。但吕光父子不愿意放行，于是鸠摩罗什继续被困西凉，直到十七年之后。