铁佛寺始建于南朝梁天监年间(502-519年)，原名“八政”,初为尼寺。唐武德元年(618年)改为僧寺，开元年间改名开元寺，供奉唐明皇真容。开元寺东廊奉观音像，南廊设智者院，供普贤像。但因开元寺屡遭火灾，佛像多次被毁，唯存廊庑。宋天圣三年（1025）中，铸铁观音像，并将开元寺东廊改为铁观音院。熙宁元年（1068）赐名寿圣观音禅院。绍兴二十二年（1153）改广福观音院。元末毁于兵祸，仅存铁观音像。明洪武二年（1369）以院基造泰定仓，移寺于今址，改名西林铁佛寺。宣德八年（1433）僧昙壁又铸大铁佛释迦牟尼、文殊、普贤三尊，创慈云阁。景泰五年（1454）重修，邑人陈秉中撰《湖州郡城铁佛禅寺碑记》（石佚）。清同治间又遭兵毁，仅存铁观音和三尊大佛立在露天，因遭风吹雨打日晒，三尊大佛上出现了锈点，唯独铁观音佛像不蚀不锈。同治十三年（1874）重建观音殿，光绪初年又重建铁佛殿，铁观音和三尊佛像又开始承受人间香火。民国七年（1918）派人赴扬州大明寺请来正法眼藏（法卷）。民国三十年（1941）僧恒森接法卷为铁佛寺四十四代主持。民国三十三年（1944）重修，铁佛殿增塑阿难、迦叶二尊者及十八罗汉像。

  新中国成立后，人民政府重视保护文物古迹，1963年铁佛寺即被列为浙江省重点文物保护单位。“文化大革命”动乱期间，铁佛寺成为红卫兵破四旧的对象，铁观音和明朝铸的三尊大铁佛被送到钢铁厂熔化，三天后三尊大铁佛已经熔化，而铁观音炼而不熔、砸而不碎。后来铁佛寺恒森老和尚冒险把铁观音藏在挖了3米深的菜地里，因此才幸免于难，但已失去一手，却也可见铁观音的造化有多深了。两幢大殿被占作工厂，法卷等文物均遭毁弃。

  1978年后，省、地政府先后拨款由原嘉兴地区文物管理委员会组织施工进行重修铁佛寺。铁观音造像重新耸立于大殿之上，历劫再造法相重现。1979年文物管理部门对铁佛寺进行改善。1981年4月13日，浙江省人民政府重新公布铁佛寺为省重点文物保护单位。1993年底，铁佛寺文保所对铁佛寺厢房启动修建工程。1994年2月和4月，工程方案分别经市政府和省文物局批准，总投资160万元，建筑面积780平方米，于1994年5月26日正式动工，并在市政府及规划与建局共同支持下完成修缮。后因前殿部分梁柱霉变，1996年bet365mobile募资27万元加以修葺、粉饰。2009年，随着湖州市劳动路改造工程的开展，湖州市委、市政府高度重视铁佛寺修复工程，按照文物保护的要求，对寺庙周围店铺、寺前的住宅楼等建筑进行拆迁，并拨款修建了天王殿、钟鼓楼以及寺前广场。2010年智根法师开始住持铁佛寺，自此铁佛寺修复工程进入快速发展时期。

  2011年底西厢房重建完工，2013年底开始又陆续对观音殿、大雄宝殿进行彻底修复加固，修建了文化长廊，并对庭院进行景观化改造，至2014年上半年，铁佛寺修复基建工程基本完工。一个道风纯正、环境优美的铁佛寺已呈现在广大市民面前。