桑耶寺的全名是“Pal dra dmar samye lunzhou mi gyur glun ”，藏文含义为“吉祥红岩思量无际不变顿成神殿”。公元7世纪时，吐蕃国王松赞干布分别与尼泊尔、唐王朝联姻，迎娶了尼泊尔的赤尊公主和唐朝的文成公主，同时将佛教引介绍到西藏。虽然，当时已修建了大昭寺和小昭寺，但这些寺院主要用作王室供养佛像，或者给外来的游方僧提供落脚地点，寺内实际上并没有实际修行参学的僧侣。
8世纪末，吐蕃王朝的势力达到鼎盛时期。当时的吐蕃国王赤松德赞笃信佛教，他派人到印度迎请寂护和莲花生两位佛教大师，至西藏弘扬佛法。藏王赤松 德赞，莲花生大师与寂护大师，在西藏佛教历史上被尊称为“师君三尊”，他们决定在西藏修建第一座寺院。经过莲花生大师与藏王赤松德赞的亲自勘测，最终选址在靠近吐蕃王朝冬宫的雅鲁藏布江北岸兴建，由寂护大师设计出了建设方案。
据《桑耶寺志》记载，762年，赤松德赞亲自为寺院举行奠基，此后在莲花生的主持下，经过长达十二年时间的建造，到775年终告落成。由于有传说在初建时，赤松德赞急于想知道建成后的景象，于是莲花生就从掌中变出了寺院的幻象，赤松德赞看后不禁惊呼“桑耶”（意为“出乎意料”、“不可想象”），后来就把这一声惊语作为了寺名。
桑耶寺落成后举行了盛大的开光仪式。赤松德赞又从唐朝、印度和于阗等地邀请名僧大德，到寺院住寺传经译经，宣布佛教为吐蕃王朝的国教，并规定吐蕃上下民众，必须一律遵奉佛教。此外，藏王赤松德赞还亲自从吐蕃皇室及贵族子弟中，挑选七名聪慧灵异的贵族子弟剃度为僧，成为西藏历史上第一批出家僧众，从此之后，西藏佛教有了完整的佛法僧体系。这七位出家的贵族子弟，在历史上被称“七觉士”（sad-mi mi-bdun）。桑耶寺是西藏第一座具备佛、法、僧三宝的正规寺院，在藏传佛教界拥有崇高的地位。
9世纪中叶，崇尚武力的吐蕃国王朗达玛，为了扩大帝国疆域，强行出家僧人参军出战，限制僧侣活动，禁止佛教传播，桑耶寺也遭到封禁。10世纪后期，西藏佛教复兴，桑耶寺重新开放，这里遂成为宁玛派（红教）的中心寺院。到元朝，萨迦派统治西藏时期，对桑耶寺进行过重新修葺，并派遣僧人住寺，此后桑耶寺成了宁玛、萨迦两派共处之寺。