Datasheet

62
Test Range/NPLC 20 10 2 1 0.025 0
DCV 100 mV
0.413 0.213 0.053 0.033 0.016 0.016
1 V
0.414 0.213 0.053 0.033 0.016 0.016
10 V
0.413 0.213 0.053 0.033 0.016 0.016
100 V
0.414 0.214 0.053 0.033 0.016 0.016
300 V
0.413 0.213 0.053 0.033 0.016 0.016
DCI 10 mA
0.413 0.214 0.053 0.033 0.016 0.016
100 mA
0.393 0.213 0.053 0.033 0.016 0.016
1 A
0.414 0.213 0.053 0.033 0.016 0.016
2 A
0.413 0.213 0.053 0.033 0.016 0.016
2W 100 Ω
0.414 0.214 0.053 0.033 0.016 0.016
1 kΩ
0.414 0.213 0.053 0.033 0.016 0.016
10 kΩ
0.413 0.214 0.054 0.033 0.016 0.016
100 kΩ
0.413 0.213 0.053 0.033 0.016 0.016
1 MΩ
0.413 0.213 0.053 0.033 0.016 0.016
10 MΩ
0.413 0.213 0.053 0.033 0.016 0.016
100 MΩ
0.413 0.214 0.053 0.033 0.016 0.016
4W 100 Ω
0.863 0.461 0.141 0.102 0.063 0.062
1 kΩ
0.830 0.431 0.110 0.069 0.030 0.030
10 kΩ
0.829 0.430 0.110 0.069 0.030 0.030
100 kΩ
0.830 0.430 0.110 0.069 0.030 0.030
1 MΩ
0.831 0.431 0.110 0.070 0.030 0.030
10 MΩ
0.986 0.585 0.265 0.225 0.186 0.185
100 MΩ
0.986 0.585 0.265 0.225 0.186 0.186
Test Conditions of PC and USB DMM Module
• Processor: Intel® Core™2 Duo Processor E8400 3.00 GHz, 6 MB L2 cache, 1333 MHz FSB
• Memory : 2GB DDR2
• Hard Disk Drive (HDD): 160GB
• Microsoft Windows XP
• Professional Version 2002, Service Pack 2.
• The module is loaded with FW revision 1.12 and running with AMM version is 1.8.7.0