AMP / OFS 标定计算器(汇报参数校正)

Value = ⌊(AD × AMP + 4096) / 8192⌋ + OFS ≡ K × SV  (AMP 为 Q13,K = 2N)

输入

LSB = 1/K = — 物理单位
#AD(0~4095)SV(实际值)

≥3 点自动转最小二乘,2 点即标准两点法。标定点建议取量程 ~10% 与 ~90%,间距越大增益误差越小。

结果

AMP—Q13 定点
OFS—K 域整数
等效增益(K域/count)
—
OFS 物理值
—
AD=0 时 Value
—
AD=4095 时 Value(物理)
—

回验(Value 实算 vs round(K×SV))

来源ADSVValue 实算round(K×SV)残差(K域)残差(物理)