虫供養塔は、江戸時代全国的に行われた五穀豊穣を願って水田に発生した害虫を、村境の川や海まで送り出し、虫の霊を鎮め祭るという農民の素朴な祈りの行事のなかで建立されたものである。 『肥前聞書』に「毎年六月に虫供養風祭と申す事有之、其の入用高は相定り居候て、年貢の内より兼て取分被置候、其の節惣郡百姓中於屋宅酒食被下置候」とあり、県内においても虫供養が催されていたことが知られる。 塔は、方形基礎石上に建てられた高さ2.2メートル、長径0.56メートル、短径0.51メートル、厚さ0.3～0.36メートルの短冊形塔である。 　碑面には次のように陰刻されている。 　　　　嵩　貞享二乙丑歳十一月十九日 　　謹奉讀大乗妙典壹萬部 　　　　為　五穀満田虫供養成就 碑表の下部に、深町村・北島村・扇町村など嘉瀬郷の村名と施主名が記されている。 貞享2年(1685)に各村々の祈願により建立されてものである。 当時の信仰風俗を知るうえで、県内唯一の虫供養塔として極めて貴重である。

　現在牛島町にある二十三夜尊は、構口東の江見線と旧34号線の分岐点で、副島自転車店のところに祀っていたが、道路を作るとき邪魔になるので何処かに移転しなくてはとの話が出て、いろいろ協議の結果牛島町がその候補地に挙げられることになった。牛島町の町民が協議を重ねていたところ、当時町内（思案橋のところ）で酒造業をしていた人で後に貴族院議員になったり、また佐賀馬鉄（馬車鉄道）の誘致で活躍されたり、循誘小学校の前身で柳町校舎といわれたときの学校敷地を寄付されたりした、下村辰右衛門さんが『二十三夜尊を祀った町には火災が起こらない』との話をされたので、これを契機として移転の話が決まった。移転先は、今の構口西堤防の松林を切り開いてそこに祀ることになった。そのとき、祠の石造りに安置することになり、下村さんが寄付されて明治26年7月23日に移転落成した。爾来、初代自治会長森喜太郎、２代目角町、３代目小宮、４代目吉村、５代目馬場卯一、６代目香月と二十三夜尊まつりを受け継いできた。まつりの様子は、町内に舞台を作り、花火を打ち上げ、景品の抽選会や金魚すくいなど夜は10時頃まで大変賑わった。また、午前10時には僧侶を迎えて、お祀りしていた。お蔭様でこれまで牛島町には一度も火災が発生せず大変感謝している。