瑯琊寺原名寶應寺，為唐代大歷年間滁州刺史李幼卿與法琛和尚所創建。據說，李幼卿與法琛和尚在造寺之前，曾先繪圖呈送唐代宗。恰巧代宗皇帝頭天夜里夢見在一片山林深處有一座寺院，其形狀、規模和那張圖上畫的頗為相似。代宗十分高興，特賜名“寶應”。后又易名為“開化禪寺”、“開化律寺”，因其坐落在瑯琊山中，人們便統稱為瑯琊寺。
瑯琊寺依山傍林，建筑雄偉。寺內最大的建筑是大雄寶殿和藏經樓。大雄寶殿高14米，深15.3米，雕梁畫棟，十分壯觀。殿內塑有如來佛、觀世音、十八羅漢。藏經樓建在寺院的最高處，居高臨下，相傳樓內曾藏有一部貝葉經?，樼鹚碌钠渌ㄖ袩o梁殿、明月館、念佛樓、祗園、悟經堂等，或前或后，或搞或低，交相輝映，構成一幅雄壯而優美的山寺圖。其自然名勝有歸云洞、雪鴻洞、石上松等，奇姿巧態，各具特色。
由于世事的變遷，瑯琊寺及其周圍建筑幾興幾毀，很多亭臺早已不復見了。現在的建筑，大部分是民國初年由達修主持重新修建起來的。建筑保持了古代原有的格局和式樣。許多碑刻、石刻、古磚依然可見，所以瑯琊寺正門內有一幅對聯說：“古寺猶存明季石，山門尚有建康磚。”除了部分明代建筑外，還有唐碑、宋刻，都具有很高的歷史文物價值。