AN3137

Contents

Doc ID 16983 Rev 3

3/42

3.2

Linearity errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

3.2.1

Differential nonlinearity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

3.2.2

Integral nonlinearity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.3

Offset error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.4

Gain error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.5

Hardware design errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3.5.1

External resistance design error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3.5.2

ADC reference voltage source . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.5.3

Temperature influence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.5.4

AC performance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

4

Methods for precision improvement . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

4.1

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

4.2

Hardware methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

4.2.1

Analog zooming . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

4.2.2

Adding white noise or triangular sweep . . . . . . . . . . . . . . . . . . . . . . . . . 22

4.2.3

Hardware design rules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

4.3

Software methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

4.3.1

Averaging samples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

4.3.2

Digital signal filtering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

4.3.3

FFT for AC measurement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

4.3.4

ADC calibration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

4.3.5

Minimizing internal CPU noise . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.4

High impedance source measurement . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.4.1

ADC input stage problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.4.2

Explanation of the behavior . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.4.3

Minimizing added errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

4.4.4

Source of described problem - ADC design . . . . . . . . . . . . . . . . . . . . . 33

4.5

Design rules for minimizing errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

5

Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

Appendix A

Source code examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

A.1

Project code example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

A.2

Source code description . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

A.2.1

Program flow. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38