徐家汇藏书楼创建于清道光27年（1847年），迄今已有150年历史，它原是天主教耶稣会教士贮藏从国外带来的书籍之处，在光绪23年（1897年）建造了这座二千余平方米建筑面积的两层楼的藏书楼。
徐家汇藏书楼同耶稣会教士设计，仿梵蒂冈教廷的藏书楼风格，外观为清水砖墙多窗。二楼藏西文书籍，内部设计全为梵蒂冈式。一楼是中文书库，仿清乾隆时藏四库全书的文澜阁，
该处现为上海图书馆，被列为上海市优秀近代建筑保护单位。