慢性反流性肾病还须与其他原因引起的慢性肾小管间质性肾脏疾病相鉴别，特别是镇痛剂性肾病。作鉴别时还须考虑肾结核之可能，尿涂片及培养发现有分枝杆菌以及尿路造影发现有典型的肾结核表现时可资鉴别。尿路造影发现有慢性肾盂肾炎改变者，有时还需进一步作肾脏核素扫描、血管造影或CT扫描等检查与肾脏肿瘤相鉴别。
局灶及节段性增生性肾小球肾炎其后期病变亦可类似本病之病理改变，此病变也多见于IgA肾病、局灶增生性狼疮性肾炎及紫癜性肾炎、小血管炎等。其病理改变为局灶性节段性内皮细胞及系膜细胞增生，伴局灶及节段分布的新月体形成。根据其相应的临床表现及特征性免疫荧光所见，可作鉴别。