军山气象台建于军山绝顶之巅，其前为普陀别院旧址，“仰窥象纬抬头易，自有云雷绕膝生”这一张謇集古人诗句为之题写的联语，正是对气象台所处位置的绝佳写照。也正因如此，张謇在筹建气象台时，对山上各条道路的路况进行了认真细致的勘察，最后在乾隆年间刘郎路的基础上又兴修了一段上山的道路，形成了如今北麓的这一道路，这在《气象台新路记》中有详细记载。

气象台共三层，建在条石累成的须弥座上，前设台阶可直接上二层。内设木楼梯，通达顶部。室内为当年气象台的工作室及设备仪器室。登上二层顶部平台，视野极为开阔，四望无际；回首西望，狼、剑诸山依依相拱；南瞰长江，波涛无垠，东望则是南通市开发区林立的建筑，若逢万里无云的日子，甚至连大上海也依稀可见。

气象台顶层为一小阁，四角红瓦为顶，故从军山脚下望去，宛如翠木林中一朵盛开的红莲。

　

军山气象台的前身是1903年建于南通博物苑内的测候所，其建立比气象台还早上10年。1913年开始筹建气象台。军山气象台是南通的第一个气象台，也是全国第一个民办气象台。1917年元旦起，气象台正式开展观测、计算、统计、时间工作，每日上午十一时和下午五时与上海徐家汇气象台对钟，且每天在南通报上发布天气预报，这是南通气象史上的第一页。当军山气象台已以日时仪观日、以经纬仪观星对时时，北京还在使用“施放午炮对时”。

气象台还根据观测，进行了各项科学研究和科学普及工作，如在南通境内进行大地测绘工作，预报日、月食、对行星、黑子、极光、黄道光进行观测研究，并介绍日、月食、潮汐、极光等的成因、解释自然现象，破除迷信。

从1918年起，气象台每年编年报一册，发表一年的观测记录和研究成果。此外，还有月报、季报。这些附有英文的刊物与40多个国家的气象台交换。第二位台长陈?曾回忆：“当时军山气象台之设备，国内固属仅见，国际间亦有相当声誉，曾列入英国出版的国际气象台名册中。”

1926年，张謇逝世后，气象台曾改名为“南通学院农科军山气象台”，1935年又由江苏省建设厅接管。1938年春，由于日军侵占南通，气象台被严重破坏。