Transform and Quantization - Advanced Video Coding Systems - page 87

⊡
⊣

⊤
⊦

32 32 32 32 32 32 32 32 32 32 32 32 32 32 32 32

45 45 44 43 41 39 36 34 30 27 23 19 15 11 7 2

45 43 40 35 29 21 13 4 − 4 − 13 − 21 − 29 − 35 − 40 − 43 − 45

45 41 34 23 11 − 2 − 15 − 27 − 36 − 43 − 45 − 44 − 39 − 30 − 19 − 7

44 38 25 9 − 9 − 25 − 38 − 44 − 44 − 38 − 25 − 9 9 25 38 44

44 34 15 − 7 − 27 − 41 − 45 − 39 − 23 − 2 9 6 5 3 0 1

43 29 4 − 21 − 40 − 45 − 35 − 13 13 35 45 40 21 − 4 − 29 − 43

43 23 − 7 − 34 − 45 − 36 − 11 19 41 44 27 − 2 − 30 − 45 − 39 − 15

42 17 − 17 − 42 − 42 − 17 17 42 42 17 − 17 − 42 − 42 − 17 17 42

− 27 − 45 − 30 − 23 − 45 − 34

41 11 7 39 43 15 2 36 44 19

− − −

13

− − −

29

− −

40 4 35 43 29 45 21 21 45 13 43 35 4 40

39 − 2 − 41 − 36 7 43 34 − 11 − 44 − 30 15 45 27 − 19 − 45 − 23

38 − 9 − 44 − 25 25 44 9 − 38 − 38 9 44 25 − 25 − 44 − 9 8

36 − 15 − 45 − 11 39 34 − 19 − 45 − 7 1 0 − 23 − 44 − 2 3 7

35 − 21 − 43 4 45 13 − 40 − 29 29 40 − 13 − 45 − 4 3 1 − 35

34 − 27 − 39 19 43 − 11 − 45 2 45 7 − 44 − 15 41 23 − 36 − 30

T L 16

32 = ×

32 − 32 − 32 32 32 − 32 − 32 32 32 − 32 − 32 32 32 − 32 − 32 32

30 − 36 − 23 41 15 − 44 − 7 5 − 2 − 45 11 43 − 19 − 39 27 34

29 − 40 − 13 45 − 4 − 43 21 35 − 35 − 21 43 4 − 45 13 40 − 29

27 − 43 − 2 4 − 23 − 30 41 7 − 45 19 34 − 39 − 11 45 − 15 − 36

25 − 44 9 38 − 38 − 9 4 − 25 − 25 44 − 9 − 38 38 9 − 44 25

23 − 45 19 27 − 45 15 30 − 44 11 34 − 43 7 36 − 41 2 39

21 − 45 29 13 − 43 35 4 − 40 40 − 4 − 35 43 − 13 − 29 45 − 21

19 − 44 36 − 2 − 34 45 − 23 − 15 43 − 39 7 30 − 45 27 11 − 41

17 − 42 42 − 17 − 17 42 − 42 17 17 − 42 42 − 17 − 17 42 − 42 17

15 − 39 45 − 30 2 27 − 44 41 − 19 − 11 36 − 45 34 − 7 − 23 43

13 − 35 45 − 40 21 4 − 29 43 − 43 29 − 4 − 21 40 − 45 35 − 13

11 − 30 43 − 45 36 − 19 − 2 3 − 39 45 − 41 27 − 7 − 15 34 − 44

9 − 25 38 − 44 44 − 38 25 − 9 − 9 5 − 38 44 − 44 38 − 25 9

7 − 19 30 − 39 44 − 45 43 − 36 27 − 15 2 11 − 23 34 − 41 45

4 − 13 21 − 29 35 − 40 43 − 45 45 − 43 40 − 35 29 − 21 13 − 4

2 − 7 1 − 15 19 − 23 27 − 30 34 − 36 39 − 41 43 − 44 45 − 45

T 32 = T L 16 × 32 T R 16 × 32

⊡
⊣

⊤

32 32 32 32 32 32 32 32 32 32 32 32 32 32 32 32

− 2 − 7 − 11 − 15 − 19 − 23 − 27 − 30 − 34 − 36 − 39 − 41 − 43 − 44 − 45 − 45

− 45 − 43 − 40 − 35 − 29 − 21 − 13 − 4 4 13 21 29 35 40 43 45

7 9 0 9 4 5 3 6 7 5 2 − 11 − 23 − 34 − 41 − 45

− 9 − 25 − 38 − 44 − 44 − 38 − 25 − 9

44 38 25 9 9 25 38 44

−
11

− − − − −

9 2 3 9 5 1 7 7

− −

34

−

30 43 45 36 15 44

⊦

− 43 − 29 − 4 1 0 5 5 3 − 13 − 35 − 45 − 40 − 21 4 29 43

15 39 45 30 2 − 27 − 44 − 41 − 19 11 36 45 34 7 − 23 − 43

42 17 − 17 − 42 − 42 − 17 17 42 42 17 − 17 − 42 − 42 − 17 17 42

− 19 − 44 − 36 − 2 4 5 3 − 15 − 43 − 39 − 7 0 5 7 − 11 − 41

− 40 − 4 5 3 3 − 29 − 45 − 21 21 45 29 − 13 − 43 − 35 4 40

23 45 19 − 27 − 45 − 15 30 44 11 − 34 − 43 − 7 6 1 2 − 39

38 − 9 − 44 − 25 25 44 9 − 38 − 38 9 44 25 − 25 − 44 − 9 8

− 27 − 3 2 4 3 − 30 − 1 7 5 9 − 34 − 39 11 45 15 − 36

− 35 21 43 − 4 − 45 − 13 40 29 − 29 − 40 13 45 4 − 43 − 21 35

30 36 − 23 − 41 15 44 − 7 − 45 − 2 5 1 − 43 − 19 39 27 − 34

T R 16 × 32 =

32 − 32 − 32 32 32 − 32 − 32 32 32 − 32 − 32 32 32 − 32 − 32 32

− 34 − 27 39 19 − 43 − 11 45 2 − 45 7 44 − 15 − 41 23 36 − 30

− 29 40 13 − 45 4 43 − 21 − 35 35 21 − 43 − 4 5 − 13 − 40 29

36 15 − 45 11 39 − 34 − 19 45 − 7 − 41 30 23 − 44 2 43 − 27

25 − 44 9 38 − 38 − 9 4 − 25 − 25 44 − 9 − 38 38 9 − 44 25

− 39 − 2 1 − 36 − 7 3 − 34 − 11 44 − 30 − 15 45 − 27 − 19 45 − 23

− 21 45 − 29 − 13 43 − 35 − 4 0 − 40 4 35 − 43 13 29 − 45 21

41 − 11 − 27 45 − 30 − 7 9 − 43 15 23 − 45 34 2 − 36 44 − 19

17 − 42 42 − 17 − 17 42 − 42 17 17 − 42 42 − 17 − 17 42 − 42 17

− 43 23 7 − 34 45 − 36 11 19 − 41 44 − 27 − 2 0 − 45 39 − 15

− 13 35 − 45 40 − 21 − 4 9 − 43 43 − 29 4 21 − 40 45 − 35 13

44 − 34 15 7 − 27 41 − 45 39 − 23 2 19 − 36 45 − 43 30 − 11

9 − 25 38 − 44 44 − 38 25 − 9 − 9 5 − 38 44 − 44 38 − 25 9

− 45 41 − 34 23 − 11 − 2 5 − 27 36 − 43 45 − 44 39 − 30 19 − 7

− 4 3 − 21 29 − 35 40 − 43 45 − 45 43 − 40 35 − 29 21 − 13 4

45 − 45 44 − 43 41 − 39 36 − 34 30 − 27 23 − 19 15 − 11 7 − 2