分辨率
测量分辨率定义了可靠地检测到测量变化的能力。不要把分辨率与测量精度、甚至测量可重复性混为一谈。在定时测量中，分辨率是辨别信号定时中微小变化的能力，而不管变化是有目的的，还是由噪声引起的。
在实时示波器中，定时分辨率受到取样速率、内插精度和基于软件的数学运算库的限制。在使用40GS/s的取样速率和SIN（X）/X内插时，可能会实现几十飞秒的分辨率。由于上面的参考实例中的分辨率基于数学运算库，因此实际分辨能力低于一飞秒（0.0001 ps）。
分辨率是指测量定时中微小变化的能力。但这可能并不一定反映真实情况。当测量变化小于仪器内部固有噪声时会发生什么情况呢？在测量幅度小的噪声或抖动时，必须考虑示波器系统的抖动本底噪声。只知道系统分辨率对理解精度或示波器整体能力的实际极限并没有什么帮助。
抖动本底噪声（JNF）
抖动本底噪声（Jitter Noise Floor）是抖动测量时仪器固有的噪声。在示波器中JNF决定着可以检测到的抖动底限。客观的讲，幅度小于JNF的抖动示波器是观察不到的。尽管某些厂商可能声称可以分辨小于JNF的抖动幅度，但这种能力几乎没有什么参数价值。
检验JNF的方法之一是测量没有噪声的、完美定时的信号。尽管完美信号非常少见，但适当良好的信号源是存在的，可以用来表征抖动本底噪声。一般用于这一测试的常用仪器是具有低相位噪声的高精度RF发生器。
图5：采集1ms稳定时钟波形得到的1K到15G的所有抖动结果。
泰克示波器使用时间间隔误差（TIE）来测量JNF。TIE是最优方法，因为它测试出信号中的任何相位误差，而不管误差具有高频特点还是低频特点，是单次事件误差还是累积误差。此外，在实时示波器中，TIE方法可以将计算得到的完美时钟作为参考时钟源。