Microchip Technology ADM00317 Data Sheet

DS22272C-page 60

© 2011-2012 Microchip Technology Inc.

The Integral Nonlinearity (INL) error is the maximum
deviation of an actual transfer function from an ideal
transfer function (straight line).

In the MCP47X6, INL is calculated using two end points
(zero and full scale). INL can be expressed as a per-
centage of full scale range (FSR) or in a fraction of an
LSb. INL is also called relative accuracy. 

shows how to calculate the INL error in LSb and

 shows an example of INL accuracy. 

      

The Differential Nonlinearity (DNL) error (see 

is the measure of step size between codes in actual
transfer function. The ideal step size between codes is
1 LSb. A DNL error of zero would imply that every code
is exactly 1 LSb wide. If the DNL error is less than 1 LSb,
the DAC ensures monotonic output and no missing
codes. The DNL error between any two adjacent codes
is calculated as follows:

–

(

)

=

Where: 

INL is expressed in LSb.           

V

Ideal

=

Code*LSb 

V

OUT

=

The output voltage measured with 
a given DAC input code

010

001

000

Analog

Output

(LSb)

DAC Input Code

011

111

100

101

1

2

3

4

5

6

0

7

110

Ideal Transfer Function

Actual Transfer Function

INL = < -1 LSb

INL = 0.5 LSb

INL = - 1 LSb

ΔV

–

----------------------------------

=

Where: 

DNL is expressed in LSb.           

Δ

=

The measured DAC output 
voltage difference between two 
adjacent input codes

010

001

000

Analog
Output

(LSb)

DAC Input Code

011

111

100

101

1

2

3

4

5

6

0

7

DNL = 2 LSb

DNL = 0.5 LSb

110

Ideal Transfer Function

Actual Transfer Function