從全身來看，應于急性風濕熱、急性白血病鑒別，從局部及X線所見，應與骨肉瘤、Ewing肉瘤、骨組織細胞增多癥鑒別：
（1）骨肉瘤 通常好發于10～20歲，在四肢骨，大部分發生在長骨干骨骺部；偶爾發生在骨干部，和骨髓炎相比，其骨破壞、骨膜反應的范圍比較局限，但有時X線鑒別困難；通過CT、MRI檢查及活體組織檢查鑒別是必要的。
（2）Ewing肉瘤 常常與骨髓炎難以鑒別。Ewing肉瘤發病部位在四肢骨的骨干部；有時有劇痛，伴發熱及局部熱感；血沉升高；白細胞升高；CRP陽性，呈炎癥反應。X線上，早期以骨膜反應為主，骨髓內缺乏變化，診斷困難。骨膜反應與骨髓炎相比，規則，多半呈蔥皮狀骨膜反應，這是特征。必須活檢證實診斷。
（3）骨組織細胞增多癥 根據發病部位，顯示種種X線像。發生在四肢長管狀骨時，有高度的骨質破壞及顯著的骨膜反應，因局部及全身均有輕度的炎癥癥狀，骨組織細胞增多癥與骨髓炎相比，骨破壞的范圍及骨膜反應都是局限性的；如從死骨上看，有時也不出現硬化像。
（4）骨樣骨瘤 有時與骨髓炎難以鑒別。X線上，常發生在長管狀骨的偏在性（即發生在中央偏上，或下）X線顯示高度骨膜反應及骨皮質肥厚，如果細心觀察，其中可見病灶的骨透亮像。