新竹金山寺位於新竹科学园区内，此地名为「金山面」，地名如当地山势，形如「金」或「人」字，取「形开金面」之意。清乾隆、嘉庆年间汉人入垦，崇祀观音以保开垦平安，清咸丰3年（西元1853年）郭家献地，建造草庵称为「香莲庵」，历经修建改名，日治明治29年（西元1896年）重建後改名「金山寺」。
金山寺主体建筑为坐东南朝西北，格局是一座单落三开间带左右护龙的建筑，正身明间供奉观世音菩萨、韦驮、伽蓝护法、十八罗汉、太岁星君，左护龙供奉注生娘娘，右护龙供奉九玄七祖牌位。
新竹金山寺一带山势形如「金」或「人」字，中间坡度和缓，可以眺望竹堑城，故取风水吉祥之意「形开金面」而称「金山面」。清乾隆、嘉庆年间汉人入垦此地，崇祀观音以保开垦平安， 清咸丰3年（西元1853年）郭家献地，建造一座草庵称为「香莲庵」。清同治初年天恩和尚（生卒年不详）倡捐改建，易茅为瓦，由於附近环境清幽，寺右有冷水坑，故成为新竹的一处名胜，常有游客游览。同治6年（西元1867年）林占梅（西元1821-1868年）作〈游灵泉禅寺题壁〉，此时改名为「灵泉寺」。
清光绪12年（西元1886年）士绅林汝梅（占梅之弟，西元1833-1894年）倡议修建成三合院格局，光绪14年（西元1888年）开始募化扩建，考量寺名「灵泉」容易与北门郑家别墅「冷泉」混淆，又为祈祷清廷长治久安，遂改寺名为「长清寺」。
日治明治28年（西元1895年），长清寺遭日军焚毁，隔年由闽籍人士杨标（生卒年不详）倡首鸠资重建，为去除不祥，也为除去日军疑忌，而使用寺庙所在地名「金山面」命名为「金山寺」。
战後金山寺作为监狱使用近16、17年之久。民国67年（西元1978年）新竹设立科学园区，金山寺纳入徵收之列，直到民国68年（西元1979年）暂列为古蹟、民国74年（西元1985年）内政部正式公告为古蹟後，金山寺的保存问题才解决。
民国79年（西元1990年）展开古蹟修复工程，民国80年（西元1991年）迎神安座并建醮，此後参拜人数日增，空间不足，遂於民国81年（西元1992年）增建後殿等附属设施，民国85年（西元1996年）竣工举行安座仪式。
新竹金山寺现存栋架为日治明治29年（西元1896年）重建时所奠定，建筑现貌迄今仍保持传统寺庙建筑之风格。主体建筑方位为坐东南朝西北，格局是一座单落三开间带左右护龙的建筑。
金山寺的壁体以土埆砖墙为主要材料，墙身作法上以卵石台度作基础，台度上承接斗子墙，而内墙作法为土埆墙表面再予以白灰粉刷，构架形式为大木梁柱和砖土承重墙混合之结构系统，仅正身的步口有作擡梁式构架，其余皆是作圆桁直接搭在砖墙上的硬山搁檩式作法。
正身为三开间，立面采用板门与隔扇的组合，隔扇的隔心为直棂，板门则因长年烟燻而无法辨识所绘的门神，檐口构架为一通叠二瓜栋架，叠斗柱顶起卷棚顶的双脊檩，檐口柱为圆木柱。
正身室内采用四枝砖砌的方柱「砖顿」，取代木栋架的「四点金柱」形制，在砖柱之间以木通梁及通随，使室内空间畅通。明间神龛供奉观世音菩萨，龛外供奉韦驮与伽蓝护法，室内两侧墙前分别供奉十八罗汉，原本供奉的镇殿观音像老旧、十八罗汉像遭窃，遂於民国75年（西元1986年）改为樟木雕刻的佛像。
正身共十五架桁，屋顶采双坡水硬山单檐翘脊式屋顶，屋顶铺设素烧板瓦，屋脊翘脊平缓，装饰较少。左护龙厢房内供奉注生娘娘，右护龙厢房内供奉「本寺各姓氏九玄七祖莲座」牌位，後殿供奉的是释迦牟尼佛、药师佛、阿弥陀佛。
正身的步口摆放的出食台是金山寺现存的重要文物，出食台为一座石雕八角柱，具有古拙苍劲之韵味，石柱上刻有「香莲庵大清咸丰拾年岁次庚申仲冬立」与「原漳泉南沐恩弟子方仕钦等敬献」，显示金山寺在清咸丰年间称为「香莲庵」，且寺内曾有僧侣，因而设置出食台作为僧侣进行出食仪式使用。
后檐墙彩绘释迦牟尼佛故事，从左而右依序为劝佛回宫、佛陀降生、四王献钵，三幅彩绘主题对应大雄宝殿主祀释迦牟尼佛。
镇殿观世音菩萨像是民国75年（公元1986年）所妆塑（制作神像的古称）。
台湾民间信仰常将观音与十八罗汉一同供奉，金山寺是在正身室内两侧沿着墙面供奉十八罗汉。
护龙屋面铺设板瓦，马背山墙的形式为火形马背，形式作法简朴。
新竹金山寺保存之出食台与石狮，是金山寺现存的重要文物。
出食台为一座石雕八角柱，具有古拙苍劲之韵味。石柱上刻有「香莲庵大清咸丰拾年岁次庚申仲冬立」与「原漳泉南沐恩弟子方仕钦等敬献」，且寺内曾有僧侣，因而设置出食台作为僧侣进行出食仪式使用
正身室内采用砖砌方柱，不同于其他庙宇所使用的木柱、石柱作法。
新竹金山寺于民国81年（公元1992年）增建大雄宝殿。