蓋聞木本水源，啟山川之秀，神恩祖德，錫子民之澤，查本寺淵源，始自民國三十六年丁亥夏月，里民郭清水君於淡水河大漢溪與新店溪之交流處撈蜆時，拾獲佛祖金身，繼由郭老明、郭竅嘴，郭耀泰，郭清池諸君於河邊搭蓋小亭安奉供善信參拜。民國四十年由地主張家成、佃農郭水火之子，郭阿慶、郭卿、郭明原、郭俊麟，提供土地約四十坪，草創小廟。民國四十四年復由前里長郭清南與全體里民，以標建士林鎮公所「延平橋」碼頭工程所得之工資新台幣參萬陸仟元，獻建舊正殿一座，至民國五十五年爐主莊朝根君集資增建兩端「室仔間」；民國五十六年爐主洪朝進君集資增修廟頂剪花及牆堵水池諸工程；民國六十年四月二十二日由地主張家成奉獻一百四十坪土地，佃農郭水火（郭卿之父）更無條件奉獻，故至今葫蘆寺本體有一百八十坪土地，規模大具。
民國六十年陽明山管理局時代，本寺申請成立財團法人陽明山士林葫蘆寺，公推洪朝進君為第一任董事長，至七十二年郭石鱉君接任第二任董事長，與郭卿君發起購置寺前九十五坪以廣寺庭，與前置廟地合計現址約二百七十一點三四坪，廟貌益增輝煌，香火更形鼎盛。
民國五十七年七月陽明山管理局改制為台北市後，民國七十六年本寺更名為財團法人台北葫蘆寺，推選郭卿君為第一屆董事長，並於九月董監事會決議，將舊廟拆除重建新廟，改用宮殿式盡其侖奐之光，擇於民國七十七年歲次戊辰年三月廿四日（甲子日）早子時動土興工。於同年十二月十七日（甲申日）早子時入廟安座。直至民國八十六年元月董事會推選翁仁義君為第二屆董事長，並為民國九十年二月董事會推選翁仁義君連任第三屆董事長。同年九月董監會決議興建本寺活動中心。民國九十二年新建活動中心、重建牌樓、環保金爐等落成啟用。民國九十四年四月董事會推選翁仁義君連任第四屆董事長。民國九十四年七月董監事會決議增設文昌帝君殿。民國九十八年四月董事會推選翁仁義君連任第五屆董事長。民國一百零二年四月董事會推選翁仁義君連任第六屆董事長。民國一百零六年四月董事會推選郭江源君任第七屆董事長，民國一百零九年十一月董事會推選郭江源君連任第八屆董事長。
溯自前後一甲子之篳路藍縷，端賴地方善信之不斷捐獻，始有本寺今日之巍峨峻宇，功德宏深，萬年香火，永祐黎民。本區原只有「葫蘆」一里，現地方繁榮，整編為葫蘆、葫東、福順，富光等四里，公益付出更擴及社子、後港地區共十七里，可謂佛光普照，觀音慈悲，恩澤貽遍，為紀此締造善績，特謹述顛末，勒碑永誌千秋萬載，以示不忘焉。