输入
LSB = 1/K = — 物理单位
| # | AD(0~4095) | SV(实际值) |
|---|
≥3 点自动转最小二乘,2 点即标准两点法。标定点建议取量程 ~10% 与 ~90%,间距越大增益误差越小。
结果
AMPQ13 定点
OFSK 域整数
- 等效增益(K域/count)
- —
- OFS 物理值
- —
- AD=0 时 Value
- —
- AD=4095 时 Value(物理)
- —
| # | AD(0~4095) | SV(实际值) |
|---|
≥3 点自动转最小二乘,2 点即标准两点法。标定点建议取量程 ~10% 与 ~90%,间距越大增益误差越小。
| 来源 | AD | SV | Value 实算 | round(K×SV) | 残差(K域) | 残差(物理) |
|---|