在光柵尺的應用中，分辨率與精度是完全不同的兩個概念。
直線光柵尺中的精度指的是系統精度。精度等級的定義是：在任意1 m長的測量范圍內，測量曲線上的極限值±F不超過精度等級±a。
精度反映了光柵尺輸出的信號數據對測量的真實長度的準確度，可以理解為測量誤差值，是已測定的固定值。
分辨率是指光柵尺可讀取并輸出的最小長度單位，也可稱為測量步距。例如時針的分辨率是小時，分針的分辨率是分，秒針的分辨率是秒。
對于增量式TTL信號類型的光柵尺，例如LS177，還存在細分的概念。對于細分后的光柵尺來說，細分前的系統精度更加重要，細分可以提高分辨率，但不能提高精度，甚至可能降低了精度。原因在于①細分前，精度遠優于分辨率，細分后可以將精度用的更充分；②目前大部分的運動控制是用速度環控制的，細分提高了分辨率，可以提高速度環的精度，帶來的最終加工效果看，似乎也是精度提高了。