公園是了為紀念明代文學家、抗倭英雄唐荊川先生而建,園內有唐荊川先生墓、荊川讀書處等紀念性景點。園內古跡眾多,其中唐氏宗祠原位于市區青果巷224號,后移建于此。該祠為唐氏大宗祠,存硬山式木結構門屋三間,明抬梁式楠木廳三間,寬10米,進深6檁9.5米,廳后有享堂上下三間,壁間嵌有元代大書法家倪瓚等書條石刻,為明末清初建筑。
荊川先生讀書處也叫陳渡草堂,系明代江南古典園林建筑群,包括五言樓、春池館、壓溪榭、賴云閣和回廊、假山、清溪、小橋等樓堂庭院。讀書處為荊川先生早年告病辭官,歸里后潛心讀書的地方。他在此閉門謝客,教誨門生,為學主張不尚空談,務求實在。