一個編碼器的分辨率依賴于其編碼器的刻線數(增量編碼器)或者編碼器碼盤模式(**值編碼器)。一般來說，分辨率是一個固定值，一旦編碼器被制造出來就沒辦法再增加刻線數或者編碼。但是增量編碼器可以通過信號細分來增加分辨率，

       例如，方波增量編碼器(HTL/TTL)輸出增量方波信號，通過每次記錄每個增量通道(信號A)的上升沿和下降沿，可以提高兩倍的編碼器分辨率。這樣當我們記錄兩個通道(信號A和B)的上升沿和下降沿時，我們可以提高四倍的編碼器分辨率(4倍頻)
對于采用sin/cos信號的編碼器，相對于方波信 號，我們可以通過θ來對電信號進行細分以提供更高的分辨率，如下圖所示。
 當編碼器的線數和測量單位確定以后，精度受到這些刻線或者測量單位的寬度和間距的影響，不一致的寬度或者間距會導致脈沖的誤差。同時，一些外部因素同樣會影響編碼器的精度。旋轉編碼器的精度主要取決以下幾方面：

       1)  徑向光柵的方向偏差

       2)  刻線碼盤相對軸承的偏心

       3)  軸承徑向偏差

       4)  與聯軸器的連接導致的誤差
        
       對于直線編碼器來說，由于溫度引起的刻線和安裝表面的擴張同樣會影響編碼器的精度，一致的寬度和測量間隙是影響增量編碼器精度的關鍵因素。 
        
       對于伺服電機編碼器來說，分辨率與精度的關系非常容易讓人混淆。精度主要取決于編碼器的制造工藝，而分辨率可以通過細分來提高，但不是說高的分辨率就代表編碼器可以達到高的精度。例如:通過使用sin/cos增量信號，西門子伺服電機編碼器可以將分辨率提高到高達24位(分辨率16777216)，轉換后編碼器可以描述的*小單位為0.07角秒,但是其物理精度僅僅可以達到±40角秒，分辨率能提供的精度遠大于編碼器的實際物理精度。