释摩腾本是中天竺人，仪表端庄，有风度，通晓大乘与小乘佛经，经常到各地游化。他曾到天竺的一个附属小国去传经，在那里宣讲《金光明经》，当时正值敌国侵犯这个小国的边境。摩腾说： “佛经上讲：‘能够宣讲佛法，就能为地神所保护，从而使人们安居乐业。’如今烽火方起，会对双方有益吗？”于是他发誓用自己的全部的精力，亲自去劝和，终于使这两个国家言归于好，摩腾也因此而赢得了很高的声誉。
汉朝永平年间，有一天，汉明帝梦见有个金人从天上飞到他面前,金人非常高大，头顶有光明。第二天汉明帝便召集群臣来为他释梦。负责外事的通事傅毅启奏道：“我听说西域有神，他的名字叫佛。陛下所梦到的金人，想必就是佛了。”明帝认为他说得很对，立即派遣郎中蔡?与博士弟子秦景等人出使天竺(印度)，寻访佛法。蔡?等到印度后，遇见摩腾，邀请他到汉地。摩腾立志弘扬佛法，不畏疲劳辛苦，冒险穿过沙漠荒野，长途跋涉来到洛阳。明帝盛情款待他，并为他在洛阳城西门外建筑精舍（即白马寺）。从此中国有了出家修佛的人。
由于当时佛法刚刚开始传播，人们并不能皈依信奉佛法，摩腾只好将自己对佛法的深刻理解蕴藏在心中，没有地方宣讲。不久，他便在洛阳逝世了。
有关他的传记说，摩腾用汉语翻译了一卷《四十二章经》，起初藏在兰台石室的第十四间里面。他所住的地方，就是现在洛阳城西雍门外的白马寺。
相传说，有异族国王曾想毁坏了所有的寺庙，在招提寺还没来得及被毁时，夜间有一匹白马绕着寺塔转来转去，发出悲惨的嘶叫声；有人将此事禀报给了国王，国王便停止了毁坏各个寺庙的行动。招提寺也因此而改名为白马寺，其它各寺也多数效仿白马寺取名。
