酸雨使非金属建筑材料(混凝土、砂浆和砂砖)表面硬化溶解水泥，出现空洞和裂缝，强度下降，建筑物损坏。建筑材料变脏、变黑影响城市容量和城市景观，被称为“黑壳”效果。我国雾都重庆“黑壳”效果相当明显。

天然大理石通称汉白玉，3年后用酸雨洗净，完全变色失去光泽的时间为3-8年。大理石含钙量特别多，最怕酸雨侵蚀。砂浆混凝土墙面被酸雨侵蚀后，出现“白霜”，分析这种白霜是石膏(硫酸钙)。例如，有两座高157米尖塔的着名德国科隆大教堂，石壁表面已经腐蚀凹凸不平的“酸筋”。进入世界遗产名单的着名印度泰姬陵，由于大气污染和酸雨的腐蚀，大理石逐渐失去了光泽，乳白色慢慢变成了黄色。