Digital Signal Processing Reference
In-Depth Information
A16.3
Zweierkomplement-Format
Wortlänge
w
8 bit
16 bit
2
(
w
/bit1)
2
7
= 7.812510
3
2
15
| 3.051810
5
Kleinste positive Zahl (LSB)
12
(
w
/bit1)
0.9921875
Größte positive Zahl (1LSB)
| 0.999969482
Kleinste negative Zahl
1
1
1
(12
(
w
/bit1)
) / 2
(
w
/bit1)
| 2
w
/bit1
Dynamik (1LSB)/LSB
127
32768
2
8
= 3.9062510
3
2
16
| 1.525910
5
Präzision
LSB/2
A16.4
Beispiele für das Zweierkomplement-Format mit
w
= 8 bit
x
x
2
c
[
x
]
Q
x
x
2
c
[
x
]
Q
0.996
7F
Hex
0.9921875
0
00
Hex
0
0.125
10
Hex
0.125
0.125
F0
Hex
0.125
0.004
01
Hex
0.0078125
1
80
Hex
1
A16.5
Normalisierte Zahlendarstellung nach IEEE 754-1985
Theoretisch
Single Precision
Double Precision
E
| 2
128
| 3.4028 10
38
| 2
1024
| 1.7976 10
308
2
max
(1
M
)
f
,max
Größte positive Maschinenzahl
|
2
2
126
| 1.1755 10
38
2
1022
| 2.2251 10
308
Kleinste positive Maschinenzahl
(normalisiert)
2
E
min
1 + 2
23
| 1+1.1921 10
7
1 + 2
52
| 1+2.2204 10
16
Kleinste Maschinenzahl
1
größer 1
(normalisiert)
12
w
bit
| 2
254
| 2.8948 10
76
2
E
1
E
| 2
2046
Dynamik
max
min
|
2
24
| 5.9605 10
8
2
53
| 1.1102 10
16
Präzision
2
w
bit 1
2
1
f
0
= 1 und
f
1
,
f
2
, ... = 0
2
Aussteuerungsunabhängiger Quantisierungsfehler aufgrund der Wortlänge der Mantisse
