應與良性小動脈性腎硬化癥及腎小動脈膽固醇結晶栓塞鑒別，它們也可引起慢性腎臟缺血性病變。
良性小動脈性腎硬化癥（BANS）需有長期持續高血壓史（常為10余年），而本病可不伴高血壓或僅有較短期高血壓；兩病腎病臨床表現相似，但是BANS兩腎大小對稱，而本病兩腎大小常不一致；兩病腎臟病理均顯示腎實質缺血性病變，但是BANS患者腎小動脈硬化十分突出，而本病不伴高血壓時無腎小動脈硬化。除以上各點外，有無腎動脈粥樣硬化狹窄的影像學變化是兩病鑒別關鍵。
腎小動脈膽固醇結晶栓塞又稱粥樣栓塞性腎病，它與缺血性腎病一樣均可由腎動脈粥樣硬化引起。血管外科手術或導管插管誘發管壁粥樣硬化斑大量碎裂、膽固醇結晶廣泛栓塞腎小動脈時，臨床呈現急性腎衰竭；而管壁粥樣硬化斑反復自發小量碎裂，引起腎小動脈多次小范圍栓塞時，臨床卻呈現進行性慢性腎衰竭。后者需與缺血性腎臟病鑒別，鑒別要點是在腎穿刺組織的小動脈腔和（或）腎小球中發現膽固醇結晶（石蠟包埋切片中，僅能見到膽固醇結晶溶解后的結晶形裂隙）。
不過，在此必須強調，腎動脈粥樣硬化性缺血性腎臟病常能與BANS和（或）膽固醇結晶栓塞并存，此時它們將共同致病，加速腎衰竭進程。