教堂原来所有的彩绘玻璃均来自法国。现在的彩绘玻璃是2004年重修时专门从菲律宾定制的。
大教堂一共经历了两次重大破坏:
第一次抗日战争期间,一架日机撞上了塔尖避雷针,撞在教堂前的沧海茶楼,并爆炸,部份拿破仑时期的彩色玻璃被震碎。
第二次可以说是颠覆性的破坏,文化大革命中,大教堂遭红卫兵打砸,所有宗教油画被撕毁,抗战剩下的部份拿破仑时期的彩色玻璃全被打碎,花窗被打烂,所有经书和讲道用的带跪板的长椅全被焚烧,石壁石柱甚至被烧得爆裂,虽历经数次修复,仍有烧痕。文革期间,这里一度成了垃圾处理场。直到1979年,政府重新落实宗教信仰政策,才又重新修复并开放大教堂。
这是大教堂穹顶上的彩绘玻璃。彩绘玻璃所刻画的圣经故事,既烘托了大教堂神圣的宗教气氛,又是一种无声的宗教宣传与教育。