二位高僧佛心为之所动，决定在这里“面南岭，建经台;倚北阜，筑讲堂;傍危峰，搭方丈;临浚流，立僧房”。寺成于东汉永平十四年，即公元71年，汉明帝敕名“东都大法王寺”，晚了白马寺三年，这也是中国第二座佛教寺院。

摄摩腾、竺法兰于这座中土宝刹“对千年之乔木，纳万代之芬芳”，神思静虑，译经布道。继永平十一年他们在白马寺完成中国第一部汉译佛经《四十二章经》后，又于嵩山大法王陆续译出几种小乘佛教的早期经典。汉明帝笃信佛教。大法王寺建成后，由于嵩山地处京畿，往来方便，明帝及随从官员多次亲临道场，听经拜佛。明帝还下令，新任命的官员，不论职位高低，都必须到大法王寺听经学法后方可上任。

佛教犹如一粒从西方飘来的种子，首先在嵩洛之间扎下了根。

东汉末年，大乘佛教传入嵩洛。“乘”是乘载，小乘佛教说的是自我解脱，崇拜的是罗汉，大乘佛教讲的是普渡众生，崇拜的是菩萨。除了目的有差异，修行的方式上，大乘也比较简便。随着大乘佛经传入，佛教的影响开始波及民间。三国时期，嵩洛间出了中国佛教史上第一个正式受戒出家的汉族僧人，他就是朱士行。