在进行实际测试时，要考虑到偏置误差和增益误差的影响，设定的A/D输入模拟幅值一般应略大于标称幅值，这样转换结果中端点的码个数可能会多于其它点的个数。现假设A/D实际设置幅度比理想幅度大s LSB（s的取值一般为5～10），平均码个数为m，则除去第一点和最后一点的影响，码值实际的平均个数k为：
这也就是1个LSB码宽所对应的码的个数。
所谓的偏置误差定义为偏置点的理想值与实际值的偏差。A/D的偏置点可以用如下方法求得：当数字输出由0向1转变时，模拟输入值减去1/2 LSB的值。增益误差是指在偏置误差得到修正后，增益点的理想值与实际值的偏差。A/D的增益点是指当数字输出转换到最大值时，模拟输入值加上1/2LSB的值。这两种误差都可以通过修正，调整到0。由定义可以推出偏置误差和增益误差按码出现次数的计算公式如下：
DNL定义为实际转换码宽与理想码宽（1 LSB）的差。INL定义为实际转换点与理想转换点之差，通常要取每个转换码宽的中点与理想转换曲线之差。所谓的理想转换曲线有两种定义，可以是输出转换点的最佳拟合直线，也可以是修正偏置误差和增益误差后的直线，第二种定义由于在计算上很方便所以实际上更常用。按码的出现次数计算，第i个码的DNL和INL值的计算公式为：
