新竹金山寺位於新竹科學園區內，此地名為「金山面」，地名如當地山勢，形如「金」或「人」字，取「形開金面」之意。清乾隆、嘉慶年間漢人入墾，崇祀觀音以保開墾平安，清咸豐3年（西元1853年）郭家獻地，建造草庵稱為「香蓮庵」，歷經修建改名，日治明治29年（西元1896年）重建後改名「金山寺」。
金山寺主體建築為坐東南朝西北，格局是一座單落三開間帶左右護龍的建築，正身明間供奉觀世音菩薩、韋馱、伽藍護法、十八羅漢、太歲星君，左護龍供奉註生娘娘，右護龍供奉九玄七祖牌位。
新竹金山寺一帶山勢形如「金」或「人」字，中間坡度和緩，可以眺望竹塹城，故取風水吉祥之意「形開金面」而稱「金山面」。清乾隆、嘉慶年間漢人入墾此地，崇祀觀音以保開墾平安， 清咸豐3年（西元1853年）郭家獻地，建造一座草庵稱為「香蓮庵」。清同治初年天恩和尚（生卒年不詳）倡捐改建，易茅為瓦，由於附近環境清幽，寺右有冷水坑，故成為新竹的一處名勝，常有遊客遊覽。同治6年（西元1867年）林占梅（西元1821-1868年）作〈遊靈泉禪寺題壁〉，此時改名為「靈泉寺」。
清光緒12年（西元1886年）士紳林汝梅（占梅之弟，西元1833-1894年）倡議修建成三合院格局，光緒14年（西元1888年）開始募化擴建，考量寺名「靈泉」容易與北門鄭家別墅「冷泉」混淆，又為祈禱清廷長治久安，遂改寺名為「長清寺」。
日治明治28年（西元1895年），長清寺遭日軍焚毀，隔年由閩籍人士楊標（生卒年不詳）倡首鳩資重建，為去除不祥，也為除去日軍疑忌，而使用寺廟所在地名「金山面」命名為「金山寺」。
戰後金山寺作為監獄使用近16、17年之久。民國67年（西元1978年）新竹設立科學園區，金山寺納入徵收之列，直到民國68年（西元1979年）暫列為古蹟、民國74年（西元1985年）內政部正式公告為古蹟後，金山寺的保存問題才解決。
民國79年（西元1990年）展開古蹟修復工程，民國80年（西元1991年）迎神安座並建醮，此後參拜人數日增，空間不足，遂於民國81年（西元1992年）增建後殿等附屬設施，民國85年（西元1996年）竣工舉行安座儀式。
新竹金山寺現存棟架為日治明治29年（西元1896年）重建時所奠定，建築現貌迄今仍保持傳統寺廟建築之風格。主體建築方位為坐東南朝西北，格局是一座單落三開間帶左右護龍的建築。
金山寺的壁體以土埆磚牆為主要材料，牆身作法上以卵石臺度作基礎，臺度上承接斗子牆，而內牆作法為土埆牆表面再予以白灰粉刷，構架形式為大木樑柱和磚土承重牆混合之結構系統，僅正身的步口有作擡樑式構架，其餘皆是作圓桁直接搭在磚牆上的硬山擱檁式作法。
正身為三開間，立面採用板門與隔扇的組合，隔扇的隔心為直櫺，板門則因長年煙燻而無法辨識所繪的門神，檐口構架為一通疊二瓜棟架，疊斗柱頂起捲棚頂的雙脊檁，檐口柱為圓木柱。
正身室內採用四枝磚砌的方柱「磚頓」，取代木棟架的「四點金柱」形制，在磚柱之間以木通樑及通隨，使室內空間暢通。明間神龕供奉觀世音菩薩，龕外供奉韋馱與伽藍護法，室內兩側牆前分別供奉十八羅漢，原本供奉的鎮殿觀音像老舊、十八羅漢像遭竊，遂於民國75年（西元1986年）改為樟木雕刻的佛像。
正身共十五架桁，屋頂採雙坡水硬山單檐翹脊式屋頂，屋頂鋪設素燒板瓦，屋脊翹脊平緩，裝飾較少。左護龍廂房內供奉註生娘娘，右護龍廂房內供奉「本寺各姓氏九玄七祖蓮座」牌位，後殿供奉的是釋迦牟尼佛、藥師佛、阿彌陀佛。
正身的步口擺放的出食臺是金山寺現存的重要文物，出食臺為一座石雕八角柱，具有古拙蒼勁之韻味，石柱上刻有「香蓮庵大清咸豐拾年歲次庚申仲冬立」與「原漳泉南沐恩弟子方仕欽等敬獻」，顯示金山寺在清咸豐年間稱為「香蓮庵」，且寺內曾有僧侶，因而設置出食臺作為僧侶進行出食儀式使用。
後檐牆彩繪釋迦牟尼佛故事，從左而右依序為勸佛回宮、佛陀降生、四王献鉢，三幅彩繪主題對應大雄寶殿主祀釋迦牟尼佛。
鎮殿觀世音菩薩像是民國75年（西元1986年）所粧塑（製作神像的古稱）。
臺灣民間信仰常將觀音與十八羅漢一同供奉，金山寺是在正身室內兩側沿著牆面供奉十八羅漢。
護龍屋面鋪設板瓦，馬背山牆的形式為火形馬背，形式作法簡樸。
新竹金山寺保存之出食臺與石獅，是金山寺現存的重要文物。
出食臺為一座石雕八角柱，具有古拙蒼勁之韻味。石柱上刻有「香蓮庵大清咸豐拾年歲次庚申仲冬立」與「原漳泉南沐恩弟子方仕欽等敬獻」，且寺內曾有僧侶，因而設置出食臺作為僧侶進行出食儀式使用
正身室內採用磚砌方柱，不同於其他廟宇所使用的木柱、石柱作法。
新竹金山寺於民國81年（西元1992年）增建大雄寶殿。