一般來說，游標上有n個等分刻度，它們的總長度與尺身上（n－1）個等分刻度的總長度相等，若游標上最小刻度長為x，主尺上最小刻度長為y
則 nx＝（n－1）y，
x＝y(tǒng)－（y/n）
主尺和游標的最小刻度之差為
Δx＝y(tǒng)－x＝y(tǒng)/n
y/n叫游標卡尺的精度，它決定讀數(shù)結果的位數(shù)。由公式可以看出，提高游標卡尺的測量精度在于增加游標上的刻度數(shù)或減小主尺上的最小刻度值。一般情況下y為1毫米，n取10、20、50其對應的精度為0.1，0.05毫米、0.02毫米。精度為0.02毫米的機械式游標卡尺由于受到本身結構精度和人的眼睛對兩條刻線對準程度分辨力的限制，其精度不能再提高。
游標卡尺的保管
游標卡尺使用完畢，用棉紗擦拭干凈。長期不用時應將它擦上黃油或機油，兩量爪合攏并擰緊緊固螺釘，放入卡尺盒內蓋好。
【注意事項】
1.游標卡尺是比較精密的測量工具，要輕拿輕放，不得碰撞或跌落地下。使用時不要用來測量粗糙的物體，以免損壞量爪，不用時應置于干燥地方防止銹蝕。
2.測量時，應先擰松緊固螺釘，移動游標不能用力過猛。兩量爪與待測物的接觸不宜過緊。不能使被夾緊的物體在量爪內挪動。
3.讀數(shù)時，視線應與尺面垂直。如需固定讀數(shù)，可用緊固螺釘將游標固定在尺身上，防止滑動。
4.實際測量時，對同一長度應多測幾次，取其平均值來消除偶然誤差。