度(Precision)是指使用同種備用樣品進(jìn)行重復(fù)測定所得到的結(jié)果之間的重現(xiàn)性。測量度（也常簡稱精度）高,，是指偶然誤差與系統(tǒng)誤差都比較小,，這時測量數(shù) 據(jù)比較集中在真值附近。雖然度高可說明準(zhǔn)確度高,，但的結(jié)果也可能是不準(zhǔn)確的,。誤差是準(zhǔn)確度的表示，是實測值與真實值偏離程度,，而偏差是精密度的表示,，是平行測量間的相異程度。 準(zhǔn)確度表示測量結(jié)果的正確性,，精密度表示測量結(jié)果的重復(fù)性和重現(xiàn)性,，精密度是準(zhǔn)確度的前提條件。 普通意義的分辨率（resolution）就是屏幕圖像的精密度,，是指顯示器所能顯示的像素的多少,。對于光柵尺而言是指可以測量的小單位.對于傳感器的分辨率與精度的理解，可以拿千分尺為例,，分辨率代表千分尺可以讀到小數(shù)點后幾位,，但精度還與尺子的加工精度，測量方法有關(guān)系,。 同樣的,，在光柵尺的使用中，分辨率與精度是*不同的兩個概念,。
       光柵尺的分辨率,，是指光柵尺可讀取并輸出的長度變化，對應(yīng)的參數(shù)有：每毫米光柵刻線數(shù),、脈沖數(shù),、細(xì)分等。比如50線光柵和100線光柵在同等條件下分辨率就不一樣,，同等的50線光柵如果細(xì)分方法不一樣分辨率也會不一樣,。
        光柵尺的精度，是指光柵尺輸出的信號數(shù)據(jù)對測量的真實長度度的準(zhǔn)確度,，對應(yīng)的參數(shù)是微米（μm）,、納米（nm）.目前國內(nèi)光柵尺分辨率一般有5μm、1μm,、0.5μm,、0.2μm、0.1μm,。那么這些分辨率是怎么得來的呢,？ 以每毫米50線光柵為例,，經(jīng)過4細(xì)分，就能得到很簡單的5μm的分辨率,，而不用采用電子細(xì)分,，這也是目前國內(nèi)海德漢機(jī)床尺的多數(shù)工藝，至于高分辨率的光柵尺,，就必須采用電子細(xì)分技術(shù),，增加插補(bǔ)細(xì)分器才能得到,。高分辨率光柵尺一般應(yīng)用于儀器儀表如視頻儀,、工具顯微鏡、CNC加工中心等,。
影響光柵尺測量精度有如下幾個方面：
A：光學(xué)部分  B：機(jī)械部分  C：電氣部分  D：使用中的安裝與傳輸接收部分,，使用后的精度下降，機(jī)械部分自身的偏差,。
A,、光學(xué)部分對精度的影響：
光柵尺玻璃—主要的是母尺精度、每毫米刻線數(shù),、刻線精度,、刻線寬度一致性等。
光發(fā)射源—光的平行與一致性,、光衰減,。
光接收單元—讀取誤差、讀取響應(yīng),。
光學(xué)系統(tǒng)使用后的影響—污染,，衰減。
B,、機(jī)械部分對精度的影響：
安裝精度,。軸承的精度與結(jié)構(gòu)精度。光學(xué)組建安裝的精度,。 例如,，就軸承的結(jié)構(gòu)而言，單軸承支撐結(jié)構(gòu)的軸承偏差無法消除,，而且經(jīng)使用后偏差會更大,，而雙軸承結(jié)構(gòu)或多支承結(jié)構(gòu)，可有效降低單個軸承的偏差,。
C,、電氣部分對精度的影響：
電源的穩(wěn)定精度—對光發(fā)射源與接收單元的影響。讀取響應(yīng)與電氣處理電路帶來的誤差,；電氣噪音影響,，取決于光柵尺電氣系統(tǒng)的抗干擾能力,；例如，如果電子細(xì)分,，也會帶來的誤差,，按照德國海德漢提供的介紹，海德漢光柵尺的細(xì)分電氣誤差與正余弦曲線誤差會有一個很小的差異,。
D,、光柵尺使用中帶來的精度影響：

輸出電纜的抗干擾與信號延遲（較長距離或較快頻率下）；
       接收設(shè)備的響應(yīng)與接收設(shè)備內(nèi)部處理可能的誤差,。
       光柵尺高速位移時的動態(tài)響應(yīng)偏差,。
       常見的就是我們自己使用安裝的方法與安裝結(jié)果帶來的偏差。
       綜上所述,，光柵尺的分辨率和精度其實是兩個*不同的概念,，但是二者有關(guān)聯(lián)，高分辨率可以得到高的測量精度,，但不是高分辨率一定能得到高的測量精度,。在同等條件下，理論上高分辨率光柵尺一定可以得到高的測量精度,。