长兴城迤逦北行约三十五里鼎甲桥境，长兴古刹名寺横玉山寺坐落于景色清幽的观音山之阳，其开山历史可追溯至唐代香山精舍住持宪上人。宪上人为南山律宗门徒。长城人士道宣律师，开创了佛教南山律宗，收徒千名。弟子弘景再收鉴真、宪上人。宪上人虽为名僧，愧不及东渡日本的师兄鉴真，终身不许门徒提及姓名，自诩无名僧人。传说宪上人为安置禅僧，在横玉山始创禅院，从此横玉山便梵呗绕峰、福泽十方。长兴籍“大历十才子”之一钱起，为苕溪畔的宪上人留下《同李五夕次香山精舍访宪上人》诗一首：彼岸闻山钟，仙舟过苕水。松门入幽映，石径趋迤逦。初月开草堂，远公方觏止。忘言在闲夜，凝念得微理。泠泠功德池，相与涤心耳。由此可见香山精舍的一斑。

元代横玉山便有观音庵的记载。长兴县志记：观音庵在县西北三十里横玉山，旧传山形类石鼠，窃食于田，元大德间皋塘巡检司杜朴立祠其上，岁修祀事，遂大熟，山下有泉，一泓浮碧，汲以煮茶，甘而冽，俗名光竹潭，亦金沙之脉也。

观音庵如一滴菩萨甘露之水，润泽了横玉山四边众生。元代沈贞书《横玉山神庙记》，为之佐证：“然一乡六都之田，较之邻壤得稔而充其敛积者盖眇。有善地理者曰：‘彼乡横山形类石鼠，是其窃食于畎’”。“前元大德间东平杜朴巡逻于皋塘，因民情欲立祠于上，妥神而镇禳之”。立祠以后，随即“人叹神宁，岁屡大熟，官无负租，民有余栗，四节游赏，为一方壮观”。而后寺院“自兵戈抢攘，祠宇悉废，颓基破础，鞠为榛荆”，祠不兴而事不安，横玉山地域就“不克有秋，村落凋悴，贡赋甫缺，乡民仓皇思复神祠之旧”。沈贞记：“有慕义人顾福慧裒群材、鸠众工 ，经始于洪武戊午，而落成于明年已未。为宇十楹 ，两翼既勤朴斫，且涂丹雘，覆瓦鳞鳞，堵壁辉辉。敞东轩，涵太湖之波澜，启南扉，挹弁峰之苍翠”。从此，此地年年丰收。山以神名，百姓遂呼此山为观音山。明嘉靖五年，著名元曲编选大师臧懋循的族人臧如樟，斥资重修观音院。清顺治年间再建横玉山寺，同治八年（1869年）住持释智方重建，并驻锡修禅论道，弘化众生。

与中国大多数寺院一样，横玉山寺历遭兵乱焚毁，千年古迹遂付劫灰，唯留一莲池宝石，寺内一古井，水体清澈。寺庙前方一马平川，东北有群山环抱，谓之“青龙”，东南方地势坦荡，谓之“白虎”。民间有“宁可青龙高一丈，白虎不可高一寸”的说法，曾有云游僧至此，留下 “风水此地最盛” 一句。

时至2000年金秋，横玉山寺经政府批准开放，昌明法师担当中兴重任。15年斗转星移，历尽艰辛，修缮山顶原有大殿，天王殿、寮房等；从2002年开始，寺院建设中心移至山下，重建了: 天王殿、放生池、地藏殿、阿弥陀殿、三圣宝殿、玉佛殿、净修堂、五观堂、万佛楼、五佛殿等，从前至后，依自然地势渐次升高，建筑风格清幽古朴，充分体现了我国古典建筑的特色。

2010年昌明法师应众信大愿，在古庙遗址上规划重建古观音道场，依中国传统寺院布局形式，中心轴线，纵深布局，左右对称。九品莲花宝塔置于殿后，道场前低后高，步步登高步步为莲，直至九品。功德圆满之后，横玉山寺将是长兴“帝乡佛国”北陲的重要寺院，福慧重建之义荫庇众生，昭感群灵。

现在横玉山寺是和谐寺观教堂创建活动湖州市先进单位，住持昌明法师为bet365mobile常务理事，县佛教协会副会长。