潭柘寺始建于西晋愍帝建兴四年（316年），是佛教传入北京地区后修建最早的一座寺庙。始创时规模不大，名叫嘉福寺。当时佛教还未能被民间所接受，因而发展缓慢。以后又出现了北魏和北周两次“灭佛”，故而嘉福寺自建成之后，一直未有发展，后来逐渐破败。

唐代武则天万岁通天年间（696-697年），佛教华严宗高僧华严和尚来潭柘寺开山建寺，持《华严经》以为净业，潭柘寺就成为了幽州地区第一座确定了宗派的寺院，潭柘寺得到兴盛。

唐代会昌年间，唐武宗李炎崇信道教，在道士赵归真和权臣李德裕的怂恿下，唐武宗下令在全国排毁佛教。潭柘寺也因此而荒废。

五代后唐时期，著名的禅宗高僧从实禅师来到了潭柘寺，铲除荒夷，整修寺院，“师与其徒千人讲法，潭柘宗风大振”，才使潭柘寺走出了“武宗灭佛”的阴影，重又繁盛了起来。当时的潭柘寺也从此由华严宗改为禅宗。

辽代时期由于幽州地区律宗大盛，而禅宗则发展缓慢，潭柘寺的香火衰微。

金代，禅宗在中都（今北京）地区有了很大的发展，潭柘寺先后出现了数位禅宗大师，大大提高了寺院的声誉。金熙宗完颜亶于皇统元年（1141年）到潭柘寺进香礼佛，并拨款对潭柘寺进行了整修和扩建，这是第一位到潭柘寺进香的皇帝，使后代皇帝争相效仿，这对于进一步提高潭柘寺的地位，繁盛寺院香火，都起到了极大的推动作用。金熙宗将当时的寺名龙泉寺改为“大万寿寺”，拨款对潭柘寺进行了大规模的整修和扩建，开创了皇帝为潭柘寺赐名和由朝廷出资整修潭柘寺的先河。

金大定年间，皇太子完颜允恭代表其父金世宗完颜雍到潭柘寺进香礼佛，当时的住持僧重玉禅师为此特写下了《从显宗幸潭柘》一诗，记述了当时的盛况，后于明昌五年（1194年）镌刻成碑，立于寺中，现此碑犹存，镶嵌在金刚延寿塔后边地阶的崖壁上。在金代，潭柘寺禅学昌盛，其代表人物是临济宗大师广慧通理禅师开性。开性终老于寺中，圆寂后被佛门尊为“广慧通理”禅师。

潭柘寺全景

元代元世祖忽必烈的女儿，妙严公主为了替其父赎罪，而到潭柘寺出家。后终老于寺中，她每日里在观音殿内跪拜诵经，“礼忏观音”，年深日久，竟把殿内的一块铺地方砖磨出了两个深深的脚窝。现今妙严公主“拜砖”依然供奉在潭柘寺的观音殿内，是潭柘极为珍贵的一件历史文物。后妙严大师终老于寺中，其墓塔在寺前的下塔院。元代末期的元顺帝孛儿只斤＆#8226;妥欢贴睦尔崇信佛教，特别是对当时名贯京城的潭柘寺极为青眯，元顺帝曾请潭柘寺住持雪涧禅师享用御宴，并且由皇妹亲自下厨，礼遇之高前所未有。

明初重臣姚广孝法号道衍，被明太祖朱元璋挑选高僧，从侍燕王朱棣，建文帝削藩时，朱棣按照姚广孝的谋划，起兵“靖难”，从而夺取了皇位，即为明成祖。朱棣继皇帝位后，封姚广孝为僧录司左善世，庆寿寺钦命住持，后又加封为太子少师，赐名“广孝”，仍参与军政大事。功成名就之后，姚广孝辞官不做，而到京西的潭柘寺隐居修行，每日里与自己的老友，潭柘寺住持无初德始禅师探讨佛理。期间，明成祖朱棣曾到潭柘寺看望过他。据说当年修建北京城时，设计师就是姚广孝，他从潭柘寺的建筑和布局中获得了不少灵感，北京城的许多地方都是依照潭柘寺的样子修建的，太和殿就是仿照潭柘寺的大雄宝殿而建的，同为重檐庑殿顶，井口天花绘金龙和玺，所不同的是更高大了一些而已。后来姚广孝奉旨主持编纂《永乐大典》才离开了潭柘寺，但其在潭柘寺隐居修行时的住所少师静室，至今犹存遗址。  

明代从太祖朱元璋起，历代皇帝及后妃大多信佛，由朝廷拨款，或由太监捐资对潭柘寺进行了多次整修和扩建，使潭柘寺确立了今天的格局。

明代的潭柘寺成为当时对外交流的一个窗口，许多外国人久慕潭柘寺的盛名，而纷纷到此来学习佛法，有的甚至终老于此，其中最著名的有日本的无初德始、东印度的底哇答思、西印度的连公大和尚等人。

万历二十三年，达观大师奉神宗皇帝朱翊钧之命，任潭柘寺的钦命住持。在此期间，由万历皇帝的母亲慈圣宣文明肃皇太后出资，在达观大师的主持下，对潭柘寺进行了大规模的整修。达观大师与朝廷密切，经常奉诏进宫为皇室讲经说法，从而进一步加深了潭柘寺与朝廷的联系。

在明代，潭柘寺曾进行了多次大规模的整修和扩建。宣德年间，“孝诚皇后首赐内币之储，肇造殿宇”，对潭柘寺进行了整修和扩建。从正统三年二月到第二年九月，潭柘寺又大兴土木，在皇室的资助下，扩建寺院，广造佛像。在此期间，英宗皇帝“诏考戒坛”，奉英宗皇帝之命，在寺内修建了戒坛，英宗皇帝赐名为“广善戒坛”，越靖王朱瞻墉还在寺内建造了一座高大的金刚延寿塔，正统四年，明英宗“颁大藏经五千卷”给潭柘寺。

弘治十年（1497年），司礼监太监戴义出资作为工食费，并奏请明孝宗拨款，对潭柘寺再次进行了整修和扩建。正德二年（1507年）三月到次年九月，潭柘寺又进行了历时一年半的整修，“殿庑堂室焕然一新，又增僧舍五十余楹”，再一次扩大了寺院的规模。万历二十二年（1594年），由孝定皇太后出资，整修潭柘寺，增添殿宇，并建造了方丈院等房舍80余间。

明代的200多年期间内，皇帝几次对寺院赐名，因而寺名几次更改。明宣宗赐名“龙泉寺”，天顺元年，明英宗“敕改仍名嘉福寺”，但民间仍称其为潭柘寺。

清康熙二十五年（1686年），康熙皇帝降旨，命阜成门内广济寺的住持僧，著名的律宗大师，与自己相交多年的震寰和尚为潭柘寺的钦命住持。当年秋天，康熙皇帝驾临潭柘寺进香礼佛，并且留住了数日，赏赐给潭柘寺御书金刚经10卷、药师经10卷、沉香山1座、寿山石观音1尊、寿山石罗汉18尊。  

康熙三十一年，康熙皇帝亲拨库银1万两，整修潭柘寺。在震寰和尚的亲自主持下，从康熙三十一年秋到三十三年夏，历时近两年，整修了殿堂共计300余间，使这座古刹又换新颜。

康熙三十六年，康熙皇帝二游潭柘寺，亲赐寺名为“敕建岫云禅寺”，并亲笔题写了寺额，从此潭柘寺就成为了北京地区最大的一座皇家寺院。

康熙三十七年，康熙皇帝为牌楼亲题匾额，并赐给潭柘寺桂花12桶和龙须竹8杠。

康熙三十八年，康熙皇帝命著名的律宗高僧止安律师为潭柘寺的钦命住持，并赐给潭柘寺镀金剑光吻带四条，安装在大雄宝殿的殿顶上。

清雍正年间一向深居简出的雍正皇帝也专程到潭柘寺进香礼佛。

乾隆七年（1742年），乾隆皇帝第一次游幸潭柘寺，“赐供银二百金、匾额九、楹联二、诗二、章幅子一轴、法琅五供一堂”。在潭柘寺到处都留下了乾隆皇帝的墨宝。乾隆九年，乾隆皇帝把御笔心经和自己手书的诗篇赐给了潭柘寺。

1929年蒋介石来北京时，曾专程到潭柘寺去进香。

1950年，北京市园林局接管了潭柘寺，稍加整修后，作为名胜古迹景区向游人开放，成为北京市首批开放的七个公园景区之一。

1956年，全国人大朱德委员长到潭柘寺视察，指示有关部门，要修建一条从门头沟通往潭柘寺的公路，为前来游览的人们提供交通上的方便。

1957年夏，陈毅副总理到潭柘寺参观视察。

1957年10月28日，经北京市人民政府批准，潭柘寺被列为北京市首批重点文物保护单位，对潭柘寺的文物保护工作起到了很大的作用。

1964年春，全国政协委员、末代皇帝溥仪到寺参观考察。

文革期间，潭柘寺受到了空前的浩劫，文物遭到了毁坏和流失，建筑也受到了损坏，因而于1968年底被迫关闭，停止开放。

1978年，北京市政府拨款，重修潭柘寺。这次重修不仅整修了殿堂，重塑了佛像，而且还修建了旅游服务设施。1980年7月，潭柘寺进行试开放，8月1日是正式游人开放。  

1997年初，潭柘寺恢复宗教活动。

2001年6月，国务院确定潭柘寺为全国重点文物保护单位。

2003年夏季，潭柘寺举办一系列庆典活动，庆祝建寺1696年周年。经考证潭柘寺创建于西晋永嘉元年（307），这个考证结果得到各界认同。

2007年9月9日潭柘寺举行了隆重的建寺1700年周年庆祝活动。