ZXP
ZX8536 精度计算器
ZXP 致新精密官方算法 v1.1.2
ZX8536 | 频率范围 DC ~ 8MHz | 基本精度 ±0.05% | 精度保证 1mΩ ~ 100MΩ |
基于 ZXP 致新精密官方精度准确算法 逆向验证后的准确算法
测量功能
测试条件
范围: DC(输0), 4Hz ~ 8MHz
范围: 0.01V ~ 5V (AC) / 1V固定(DC)
°C
范围: 0°C ~ 55°C (18~28°C内G=1.0)
被测件 (DUT) 参数
D
ZX8536 官方精度公式参考
▾
基本精度公式 (ZXP 致新精密官方)
1kΩ~100MΩ 量程: 基本精度 = A + B × |10×Zx/Range − 1| 100mΩ~100Ω 量程: 基本精度 = A + B × |Range/Zx − 1| 高频额外修正: 1.0001MHz ~ 5MHz: 基本精度 × ((f/1MHz) + 3) / 4 5.0001MHz ~ 8MHz: 基本精度 × (f/1MHz) / 2 测量精度 = 基本精度 × C × D × E × F × G
系数定义
C (电平): V < 1V → 1 + 0.2/V; V = 1V → 1.0; V > 1V → 1 + 2.0/V D (速度): AC: FAST=8, MED=4, SLOW=2, SLOW2=1; DC: FAST=4, MED=3, SLOW=2, SLOW2=1 E (电缆): 0m=1.0, 1m=1.5, 2m=2.0, 4m=3.0 F (偏置): OFF=1.0, ON=2.0 (ON时DC测量除外) G (温度): 18°C~28°C → 1.0; 超出 → 1 + 0.1 × |t − 23|
官方Z系数A/B表 [%rdg.]
| 量程 | DC | 4~99Hz | 100~999Hz | 1~10kHz | 10~100kHz | 100k~1MHz | 1~5MHz | 5~8MHz |
|---|---|---|---|---|---|---|---|---|
| 100MΩ | 1/1 | 6/5 | 3/2 | 3/2 | — | — | — | — |
| 10MΩ | 0.5/0.3 | 0.8/1 | 0.5/0.3 | 0.5/0.3 | 2/1 | — | — | — |
| 1MΩ | 0.2/0.1 | 0.4/0.08 | 0.3/0.05 | 0.3/0.05 | 0.5/0.1 | 3/0.5 | — | — |
| 100kΩ | 0.1/0.01 | 0.3/0.03 | 0.2/0.03 | 0.2/0.03 | 0.25/0.04 | 1/0.3 | 2/0.5 | 2/0.5 |
| 10kΩ | 0.1/0.01 | 0.3/0.03 | 0.2/0.02 | 0.05/0.02 | 0.3/0.02 | 0.5/0.05 | 2/0.5 | 2/0.5 |
| 1kΩ | 0.1/0.01 | 0.3/0.02 | 0.2/0.02 | 0.2/0.02 | 0.2/0.02 | 0.4/0.02 | 1.5/0.2 | 1.5/0.2 |
| 100Ω | 0.1/0.02 | 0.3/0.02 | 0.2/0.02 | 0.2/0.02 | 0.2/0.02 | 0.5/0.03 | 1.5/0.2 | 1.5/0.2 |
| 10Ω | 0.2/0.15 | 0.5/0.1 | 0.4/0.05 | 0.4/0.05 | 0.4/0.05 | 0.8/0.1 | 2/1.5 | 2/1.5 |
| 1Ω | 0.3/0.3 | 1.5/1 | 1/0.3 | 1/0.3 | 1/0.3 | 1.5/1 | 3/3 | 3/3 |
| 100mΩ | 1/1 | 8/8 | 5/4 | 3/2 | 2/2 | 4/3 | — | — |
注：— 表示该量程不支持此频段 (仪器自动限制)
ZX8536 精度等值线分布图 (官方算法)
ZX8536 (ZXP 致新精密官方算法) | 电压=1V, MED, 23°C, 0m, 偏置OFF | 400×400 | 蓝色=最佳精度区