白马寺的营建与中国佛教史上着名的“永平求法”紧密相连。相传白马寺创建于东汉永平十一年（公元68年）。史载：东汉永平七年，汉明帝刘庄因夜梦金人，遣使西域拜求佛法。公元六十七年，汉使及印度二高僧摄摩腾、竺法兰以白马驮载佛经、佛像抵洛，汉明帝躬亲迎奉。公元六十八年，汉明帝敕令在洛阳雍门外建僧院，为铭记白马驮经之功，故名该僧院为白马寺。
寻佛起源
据史料记载，东汉永平十年（公元67年）的某天晚上，汉明帝刘庄做了一个梦，梦见一位神仙，金色的身体有光环绕，轻盈飘荡从远方飞来，降落在御殿前。汉明帝非常高兴。第二天一早上朝，他把自己的梦告诉群臣，并询问是何方神圣。太史傅毅博学多才，他告诉汉明帝：听说西方天竺（印度）有位得道的神，号称佛，能够飞身于虚幻中，全身放射着光芒，君王您梦见的大概是佛吧！于是明帝派使者羽林郎中秦景、博士弟子王遵等13人去西域，访求佛道。
三年后，他们同两位印度僧人迦叶摩腾和竺法兰回到洛阳，带回一批经书和佛像，并开始翻译了一部分佛经，相传《四十二章经》就是其中之一。皇帝命令在首都洛阳建造了中国第一座佛教寺院，以安置德高望重的印度名僧，储藏他们带来的宝贵经像等物品，此寺即今天的洛阳白马寺。据说是因当时驮载经书佛像的白马而得名，而白马寺也因而成为中国佛教的“祖庭”和发源地。
竺法兰
竺法兰，东汉僧，中印度人。讽诵经论数万章，为天竺学者之师。据梁高僧传卷一载，东汉明帝派遣蔡愔至西域求取佛经，师遂于永平十年（67）与大月氏僧迦叶摩腾结伴前来中国，居于洛阳白马寺，与迦叶摩腾合译四十二章经。所译之经另有十地断结经、佛本生经、佛本行经、法海藏等。后寂于洛阳，世寿六十余。
摄摩腾
摄摩腾，Kāyapamātanga，全名迦摄摩腾，迦摄即迦叶，意译饮光，摩腾意译大象，中天竺人。擅长礼仪，解大小乘经典，常以游化为己任。蔡愔一行于彼国遇见迦摄摩腾，请求他跟他们一起返回汉地。摩腾誓志弘通佛法，因此不惧疲苦，冒涉流沙，来到洛阳。汉明帝隆重迎接他并大加赞赏与奖励，于城西门外建立精舍让他居住，这是汉地有沙门的开始。但是大法初传华夏，没有很多人归依信仰佛教，由于找不到具有接受能力的人来向他们弘扬，迦摄摩腾只好将对佛法的高深见解蕴藏于胸中。没过多少年迦摄摩腾就卒于洛阳。
1961年，白马寺被中华人民共和国国务院公布为第一批全国重点文物保护单位之一。[9]
1983年，白马寺被国务院确定为汉族地区佛教全国重点寺院。[10]
2001年1月，白马寺被国家旅游局评为首批4A景区。
