肾结石需与下列疾病进行鉴别。
1.胆结石 胆结石可致胆绞痛，易与右侧肾绞痛相混淆。胆结石合并有胆囊炎时，可出现右上腹部持续性疼痛，阵发性加剧，墨菲征阳性。右肋缘下有时可有触痛并随呼吸移动的肿大胆囊，或边界不清、活动度不大而有触痛的被大网膜包裹的包块。胆结石病人尿常规检查一般正常，B超检查可以确定诊断。
2.肾结核 肾结石合并有梗阻和感染时应与肾结核相鉴别。肾结核往往有慢性顽固的膀胱刺激症状，经一般抗生素治疗无明显效果;尿中有脓细胞，而普通尿培养无细菌生长;有时伴有肺结核或肾脏的小结核病灶;膀胱镜检查可见充血水肿、结核性结节、结核性溃疡、结核性肉芽肿和瘢痕形成等病变，在膀胱三角区和输尿管开口附近病变尤为明显。输尿管口常呈洞穴状，有时见混浊尿液排出;钙化型肾结核在平片可见全肾广泛钙化，局灶性者在肾内可见斑点钙化阴影。肾结核造影的早期X线表现为肾盏边缘不整齐，有虫蛀样改变，严重者可见肾闭塞、空洞形成，肾盏肾盂不规则扩大或模糊变形。
3.海绵肾 海绵肾的发病率为1/5000，患者的肾髓质集合管呈囊状扩张，大体外观如海绵状。70%病例存在双侧肾病变，每个肾脏有1个至数个乳头受累。本病出生时即存在，但无症状，通常到40～50岁因发生结石或感染合并症才被发现。集合管扩张造成长期的尿液滞留，加上经常合并的高尿钙症，是发生结石和感染的原因肾小管浓缩和酸化功能常受损。腹部平片可见肾脏大小正常或轻度增大，肾区内可见成簇的多发性结石(在乳头区呈放射状排列)。静脉肾盂造影见到的髓质集合管呈扇状囊状扩张为诊断本病的依据。
4.肾盂肿瘤 肾盂肿瘤多为乳头状瘤，良性与恶性之间常无明显界限，转移途径与肾癌相同;由于肾盂壁薄，周围淋巴组织丰富，所以常有早期淋巴转移。该病多在40岁以后发生，男性多于女性。早期表现为无痛性血尿，但无明显肿块;晚期因肿瘤增大，造成梗阻时可出现肿块。尿沉渣检查有时可见肿瘤细胞，血尿时膀胱镜检查可见患侧输尿管口喷血。在造影片上有充盈缺损，需与透X线结石鉴别。CT和B超可协助鉴别。
5.胆道蛔虫症 肾结石病人出现肾绞痛时，应与胆道蛔虫病进行鉴别。胆道蛔虫主要表现为剑突下阵发性“钻顶样”剧烈绞痛，其特点为发作突然，缓解亦较迅速。疾病发作时，病人常辗转不安，全身出汗，甚至脸色苍白，四肢发冷，并常伴有恶心呕吐，呕吐物可含胆汁甚或蛔虫。发作间歇期，疼痛可完全消失。有时疼痛可放射至右肩部或背部。B超可明确诊断。
6.急性阑尾炎 右侧肾结石病人出现肾绞痛时，应注意与急性阑尾炎进行鉴别。转移性右下腹痛是急性阑尾炎的特点。70%～80%的病人，在发病开始时感觉上腹疼痛，数小时至十几小时后转移至右下腹部。上腹部疼痛一般认为是内脏神经反射引起，而右下腹痛则为炎症刺激右下腹所致。急性阑尾炎的腹部体征表现为右下腹有局限固定而明显的压痛点，当腹痛尚未转移至右下腹前，压痛已固定在右下腹，这在诊断上具有重要意义。若症状不典型或阑尾位置异常，应参考其他症状体征进行鉴别。如一时难以确诊，应严密观察，全面分析，以减少误诊。
7.急性胰腺炎 腹痛是急性胰腺炎的主要症状。腹痛常开始于上腹部，但亦可局限于右上腹或左上腹部，视病变侵犯的部位而定。如胰头部病变且合并胆道疾患，除右上腹痛外，可向右肩或右腰部放射;炎症主要侵犯胰尾时，上腹疼痛可向左肩背部放射。疼痛的性质和强度大多与病变的程度一致。水肿性胰腺炎多为持久性疼痛，可伴有阵发性加重，多可忍受;出血或坏死性胰腺炎则多为刀割样剧痛，不易为一般镇痛药所缓解，严重者可发生休克。根据病史、体征及血、尿淀粉酶的测定，多数急性胰腺炎的诊断一般可以确立。
8.卵巢囊肿蒂扭转 肾结石女性病人出现肾绞痛时应注意与卵巢囊肿蒂扭转相鉴别。卵巢囊肿蒂扭转的典型症状为突然发生剧烈腹痛，甚至发生休克、恶心、呕吐。妇科检查发现有压痛显著、张力较大的肿块并有局限性肌紧张。如果扭转发生缓慢，则疼痛较轻，有时扭转能自行复位，疼痛也随之缓解。
9.淋巴结钙化 若位于肾区内，可误诊为肾结石。淋巴结钙化为圆形颗粒状致密影，内部不均匀，且多发、散在，静脉尿路造影片加侧位片有助与肾结石区别。
10.其他 肾结石还应与其他引起腰背痛、腹痛的有关疾病进行鉴别，如宫外孕破裂、胃炎、胃溃疡等疾病。