]> Creatis software - gdcm.git/blob - src/gdcmopenjpeg/libopenjpeg/t1.c
Add IsParsable() method, to avoid confusion with IsReadable()
[gdcm.git] / src / gdcmopenjpeg / libopenjpeg / t1.c
1 /*
2  * Copyright (c) 2001-2002, David Janssens
3  * Copyright (c) 2002-2003, Yannick Verschueren
4  * Copyright (c) 2002-2003,  Communications and remote sensing Laboratory, Universite catholique de Louvain, Belgium
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'
17  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
18  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
19  * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
20  * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
21  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
22  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
23  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
24  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
25  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
26  * POSSIBILITY OF SUCH DAMAGE.
27  */
28
29 #include "t1.h"
30 #include "j2k.h"
31 #include "mqc.h"
32 #include "raw.h"      /* Antonin */
33 #include "int.h"
34 #include "mct.h"
35 #include "dwt.h"
36 #include "fix.h"
37 #include <stdio.h>
38 #include <math.h>
39 #include <stdlib.h>
40
41 #define T1_MAXCBLKW 1024
42 #define T1_MAXCBLKH 1024
43
44 #define T1_SIG_NE 0x0001
45 #define T1_SIG_SE 0x0002
46 #define T1_SIG_SW 0x0004
47 #define T1_SIG_NW 0x0008
48 #define T1_SIG_N 0x0010
49 #define T1_SIG_E 0x0020
50 #define T1_SIG_S 0x0040
51 #define T1_SIG_W 0x0080
52 #define T1_SIG_OTH (T1_SIG_N|T1_SIG_NE|T1_SIG_E|T1_SIG_SE|T1_SIG_S|T1_SIG_SW|T1_SIG_W|T1_SIG_NW)
53 #define T1_SIG_PRIM (T1_SIG_N|T1_SIG_E|T1_SIG_S|T1_SIG_W)
54
55 #define T1_SGN_N 0x0100
56 #define T1_SGN_E 0x0200
57 #define T1_SGN_S 0x0400
58 #define T1_SGN_W 0x0800
59 #define T1_SGN (T1_SGN_N|T1_SGN_E|T1_SGN_S|T1_SGN_W)
60
61 #define T1_SIG 0x1000
62 #define T1_REFINE 0x2000
63 #define T1_VISIT 0x4000
64
65 #define T1_NUMCTXS_AGG 1
66 #define T1_NUMCTXS_ZC 9
67 #define T1_NUMCTXS_MAG 3
68 #define T1_NUMCTXS_SC 5
69 #define T1_NUMCTXS_UNI 1
70
71 #define T1_CTXNO_AGG 0
72 #define T1_CTXNO_ZC (T1_CTXNO_AGG+T1_NUMCTXS_AGG)
73 #define T1_CTXNO_MAG (T1_CTXNO_ZC+T1_NUMCTXS_ZC)
74 #define T1_CTXNO_SC (T1_CTXNO_MAG+T1_NUMCTXS_MAG)
75 #define T1_CTXNO_UNI (T1_CTXNO_SC+T1_NUMCTXS_SC)
76 #define T1_NUMCTXS (T1_CTXNO_UNI+T1_NUMCTXS_UNI)
77
78 #define T1_NMSEDEC_BITS 7
79 #define T1_NMSEDEC_FRACBITS (T1_NMSEDEC_BITS-1)
80
81 /* add TONY */
82 #define T1_TYPE_MQ 0
83 #define T1_TYPE_RAW 1
84 /* dda */
85
86 static int t1_lut_ctxno_zc[1024];
87 static int t1_lut_ctxno_sc[256];
88 static int t1_lut_ctxno_mag[4096];
89 static int t1_lut_spb[256];
90 static int t1_lut_nmsedec_sig[1 << T1_NMSEDEC_BITS];
91 static int t1_lut_nmsedec_sig0[1 << T1_NMSEDEC_BITS];
92 static int t1_lut_nmsedec_ref[1 << T1_NMSEDEC_BITS];
93 static int t1_lut_nmsedec_ref0[1 << T1_NMSEDEC_BITS];
94
95 static int t1_data[T1_MAXCBLKH][T1_MAXCBLKW];
96 static int t1_flags[T1_MAXCBLKH + 2][T1_MAXCBLKH + 2];
97
98 int t1_getctxno_zc(int f, int orient)
99 {
100   return t1_lut_ctxno_zc[(orient << 8) | (f & T1_SIG_OTH)];
101 }
102
103 int t1_getctxno_sc(int f)
104 {
105   return t1_lut_ctxno_sc[(f & (T1_SIG_PRIM | T1_SGN)) >> 4];
106 }
107
108 int t1_getctxno_mag(int f)
109 {
110   return t1_lut_ctxno_mag[(f & T1_SIG_OTH) |
111            (((f & T1_REFINE) != 0) << 11)];
112 }
113
114 int t1_getspb(int f)
115 {
116   return t1_lut_spb[(f & (T1_SIG_PRIM | T1_SGN)) >> 4];
117 }
118
119 int t1_getnmsedec_sig(int x, int bitpos)
120 {
121   if (bitpos > T1_NMSEDEC_FRACBITS)
122     return t1_lut_nmsedec_sig[(x >> (bitpos - T1_NMSEDEC_FRACBITS)) &
123                ((1 << T1_NMSEDEC_BITS) - 1)];
124   else
125     return t1_lut_nmsedec_sig0[x & ((1 << T1_NMSEDEC_BITS) - 1)];
126 }
127
128 int t1_getnmsedec_ref(int x, int bitpos)
129 {
130   if (bitpos > T1_NMSEDEC_FRACBITS)
131     return t1_lut_nmsedec_ref[(x >> (bitpos - T1_NMSEDEC_FRACBITS)) &
132                ((1 << T1_NMSEDEC_BITS) - 1)];
133   else
134     return t1_lut_nmsedec_ref0[x & ((1 << T1_NMSEDEC_BITS) - 1)];
135 }
136
137 void t1_updateflags(int *fp, int s)
138 {
139   int *np = fp - (T1_MAXCBLKW + 2);
140   int *sp = fp + (T1_MAXCBLKW + 2);
141   np[-1] |= T1_SIG_SE;
142   np[1] |= T1_SIG_SW;
143   sp[-1] |= T1_SIG_NE;
144   sp[1] |= T1_SIG_NW;
145   *np |= T1_SIG_S;
146   *sp |= T1_SIG_N;
147   fp[-1] |= T1_SIG_E;
148   fp[1] |= T1_SIG_W;
149   if (s) {
150     *np |= T1_SGN_S;
151     *sp |= T1_SGN_N;
152     fp[-1] |= T1_SGN_E;
153     fp[1] |= T1_SGN_W;
154   }
155 }
156
157 void t1_enc_sigpass_step(int *fp, int *dp, int orient, int bpno, int one,
158           int *nmsedec, char type, int vsc)
159 {
160   int v, flag;
161   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
162     : (*fp);
163   if ((flag & T1_SIG_OTH) && !(flag & (T1_SIG | T1_VISIT))) {
164     v = int_abs(*dp) & one ? 1 : 0;
165     if (type == T1_TYPE_RAW) {   /* BYPASS/LAZY MODE */
166       mqc_setcurctx(t1_getctxno_zc(flag, orient));   /* ESSAI */
167       mqc_bypass_enc(v);
168     } else {
169       mqc_setcurctx(t1_getctxno_zc(flag, orient));
170       mqc_encode(v);
171     }
172     if (v) {
173       v = *dp < 0 ? 1 : 0;
174       *nmsedec +=
175    t1_getnmsedec_sig(int_abs(*dp), bpno + T1_NMSEDEC_FRACBITS);
176       if (type == T1_TYPE_RAW) {   /* BYPASS/LAZY MODE */
177    mqc_setcurctx(t1_getctxno_sc(flag));   /* ESSAI */
178    mqc_bypass_enc(v);
179       } else {
180    mqc_setcurctx(t1_getctxno_sc(flag));
181    mqc_encode(v ^ t1_getspb(flag));
182       }
183       t1_updateflags(fp, v);
184       *fp |= T1_SIG;
185     }
186     *fp |= T1_VISIT;
187   }
188 }
189
190
191
192 void t1_dec_sigpass_step(int *fp, int *dp, int orient, int oneplushalf,
193           char type, int vsc)
194 {
195   int v, flag;
196   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
197     : (*fp);
198   if ((flag & T1_SIG_OTH) && !(flag & (T1_SIG | T1_VISIT))) {
199     if (type == T1_TYPE_RAW) {
200       if (raw_decode()) {
201    v = raw_decode();   /* ESSAI */
202    *dp = v ? -oneplushalf : oneplushalf;
203    t1_updateflags(fp, v);
204    *fp |= T1_SIG;
205       }
206     } else {
207       mqc_setcurctx(t1_getctxno_zc(flag, orient));
208       if (mqc_decode()) {
209    mqc_setcurctx(t1_getctxno_sc(flag));
210    v = mqc_decode() ^ t1_getspb(flag);
211    *dp = v ? -oneplushalf : oneplushalf;
212    t1_updateflags(fp, v);
213    *fp |= T1_SIG;
214       }
215     }
216     *fp |= T1_VISIT;
217   }
218 }            /* VSC and  BYPASS by Antonin */
219
220 void t1_enc_sigpass(int w, int h, int bpno, int orient, int *nmsedec,
221           char type, int cblksty)
222 {
223   int i, j, k, one, vsc;
224   *nmsedec = 0;
225   one = 1 << (bpno + T1_NMSEDEC_FRACBITS);
226   for (k = 0; k < h; k += 4) {
227     for (i = 0; i < w; i++) {
228       for (j = k; j < k + 4 && j < h; j++) {
229    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
230           && (j == k + 3 || j == h - 1)) ? 1 : 0;
231    t1_enc_sigpass_step(&t1_flags[1 + j][1 + i],
232              &t1_data[j][i], orient, bpno, one,
233              nmsedec, type, vsc);
234       }
235     }
236   }
237 }
238
239 void t1_dec_sigpass(int w, int h, int bpno, int orient, char type,
240           int cblksty)
241 {
242   int i, j, k, one, half, oneplushalf, vsc;
243   one = 1 << bpno;
244   half = one >> 1;
245   oneplushalf = one | half;
246   for (k = 0; k < h; k += 4) {
247     for (i = 0; i < w; i++) {
248       for (j = k; j < k + 4 && j < h; j++) {
249    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
250           && (j == k + 3 || j == h - 1)) ? 1 : 0;
251    t1_dec_sigpass_step(&t1_flags[1 + j][1 + i],
252              &t1_data[j][i], 
253
254              orient, 
255
256              oneplushalf,
257              type, vsc);
258       }
259     }
260   }
261 }            /* VSC and  BYPASS by Antonin */
262
263 void t1_enc_refpass_step(int *fp, int *dp, int bpno, int one, int *nmsedec,
264           char type, int vsc)
265 {
266   int v, flag;
267   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
268     : (*fp);
269   if ((flag & (T1_SIG | T1_VISIT)) == T1_SIG) {
270     *nmsedec +=
271       t1_getnmsedec_ref(int_abs(*dp), bpno + T1_NMSEDEC_FRACBITS);
272     v = int_abs(*dp) & one ? 1 : 0;
273     if (type == T1_TYPE_RAW) {   /* BYPASS/LAZY MODE */
274       mqc_setcurctx(t1_getctxno_mag(flag));   /* ESSAI */
275       mqc_bypass_enc(v);
276     } else {
277       mqc_setcurctx(t1_getctxno_mag(flag));
278       mqc_encode(v);
279     }
280     *fp |= T1_REFINE;
281   }
282 }
283
284
285
286 void t1_dec_refpass_step(int *fp, int *dp, int poshalf, int neghalf,
287           char type, int vsc)
288 {
289   int v, t, flag;
290   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
291     : (*fp);
292   if ((flag & (T1_SIG | T1_VISIT)) == T1_SIG) {
293     if (type == T1_TYPE_RAW) {
294       mqc_setcurctx(t1_getctxno_mag(flag));   /* ESSAI */
295       v = raw_decode();
296     } else {
297       mqc_setcurctx(t1_getctxno_mag(flag));
298       v = mqc_decode();
299     }
300     t = v ? poshalf : neghalf;
301     *dp += *dp < 0 ? -t : t;
302     *fp |= T1_REFINE;
303   }
304 }            /* VSC and  BYPASS by Antonin  */
305
306 void t1_enc_refpass(int w, int h, int bpno, int *nmsedec, char type,
307           int cblksty)
308 {
309   int i, j, k, one, vsc;
310   *nmsedec = 0;
311   one = 1 << (bpno + T1_NMSEDEC_FRACBITS);
312   for (k = 0; k < h; k += 4) {
313     for (i = 0; i < w; i++) {
314       for (j = k; j < k + 4 && j < h; j++) {
315    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
316           && (j == k + 3 || j == h - 1)) ? 1 : 0;
317    t1_enc_refpass_step(&t1_flags[1 + j][1 + i],
318              &t1_data[j][i], bpno, one, nmsedec, type, vsc);
319       }
320     }
321   }
322 }
323
324 void t1_dec_refpass(int w, int h, int bpno, char type, int cblksty)
325 {
326   int i, j, k, one, poshalf, neghalf;
327   int vsc;
328   one = 1 << bpno;
329   poshalf = one >> 1;
330   neghalf = bpno > 0 ? -poshalf : -1;
331   for (k = 0; k < h; k += 4) {
332     for (i = 0; i < w; i++) {
333       for (j = k; j < k + 4 && j < h; j++) {
334    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
335           && (j == k + 3 || j == h - 1)) ? 1 : 0;
336    t1_dec_refpass_step(&t1_flags[1 + j][1 + i],
337              &t1_data[j][i], 
338
339              poshalf, 
340
341              neghalf, 
342
343              type, vsc);
344       }
345     }
346   }
347 }            /* VSC and  BYPASS by Antonin */
348
349 void t1_enc_clnpass_step(int *fp, int *dp, int orient, int bpno, int one,
350           int *nmsedec, int partial, int vsc)
351 {
352   int v, flag;
353   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
354     : (*fp);
355   if (partial)
356     goto label_partial;
357   if (!(*fp & (T1_SIG | T1_VISIT))) {
358     mqc_setcurctx(t1_getctxno_zc(flag, orient));
359     v = int_abs(*dp) & one ? 1 : 0;
360     mqc_encode(v);
361     if (v) {
362     label_partial:
363       *nmsedec +=
364    t1_getnmsedec_sig(int_abs(*dp), bpno + T1_NMSEDEC_FRACBITS);
365       mqc_setcurctx(t1_getctxno_sc(flag));
366       v = *dp < 0 ? 1 : 0;
367       mqc_encode(v ^ t1_getspb(flag));
368       t1_updateflags(fp, v);
369       *fp |= T1_SIG;
370     }
371   }
372   *fp &= ~T1_VISIT;
373 }
374
375
376
377
378 void t1_dec_clnpass_step(int *fp, int *dp, int orient, int oneplushalf,
379           int partial, int vsc)
380 {
381   int v, flag;
382   flag = vsc ? ((*fp) & (~(T1_SIG_S | T1_SIG_SE | T1_SIG_SW | T1_SGN_S)))
383     : (*fp);
384   if (partial)
385     goto label_partial;
386   if (!(flag & (T1_SIG | T1_VISIT))) {
387     mqc_setcurctx(t1_getctxno_zc(flag, orient));
388     if (mqc_decode()) {
389     label_partial:
390       mqc_setcurctx(t1_getctxno_sc(flag));
391       v = mqc_decode() ^ t1_getspb(flag);
392       *dp = v ? -oneplushalf : oneplushalf;
393       t1_updateflags(fp, v);
394       *fp |= T1_SIG;
395     }
396   }
397   *fp &= ~T1_VISIT;
398 }            /* VSC and  BYPASS by Antonin */
399
400 void t1_enc_clnpass(int w, int h, int bpno, int orient, int *nmsedec,
401           int cblksty)
402 {
403   int i, j, k, one, agg, runlen, vsc;
404   *nmsedec = 0;
405   one = 1 << (bpno + T1_NMSEDEC_FRACBITS);
406   for (k = 0; k < h; k += 4) {
407     for (i = 0; i < w; i++) {
408       if (k + 3 < h) {
409    if (cblksty & J2K_CCP_CBLKSTY_VSC) {
410      agg = !(t1_flags[1 + k][1 + i] & (T1_SIG | T1_VISIT | T1_SIG_OTH)
411         || t1_flags[1 + k + 1][1 +
412                 i] & (T1_SIG | T1_VISIT |
413                       T1_SIG_OTH)
414         || t1_flags[1 + k + 2][1 +
415                 i] & (T1_SIG | T1_VISIT |
416                       T1_SIG_OTH)
417         || (t1_flags[1 + k + 3][1 + i] &
418             (~
419              (T1_SIG_S | T1_SIG_SE | T1_SIG_SW |
420          T1_SGN_S))) & (T1_SIG | T1_VISIT | T1_SIG_OTH));
421    } else {
422      agg = !(t1_flags[1 + k][1 + i] & (T1_SIG | T1_VISIT | T1_SIG_OTH)
423         || t1_flags[1 + k + 1][1 +
424                 i] & (T1_SIG | T1_VISIT |
425                       T1_SIG_OTH)
426         || t1_flags[1 + k + 2][1 +
427                 i] & (T1_SIG | T1_VISIT |
428                       T1_SIG_OTH)
429         || t1_flags[1 + k + 3][1 +
430                 i] & (T1_SIG | T1_VISIT |
431                       T1_SIG_OTH));
432    }
433       } else {
434    agg = 0;
435       }
436       if (agg) {
437    for (runlen = 0; runlen < 4; runlen++) {
438      if (int_abs(t1_data[k + runlen][i]) & one)
439        break;
440    }
441    mqc_setcurctx(T1_CTXNO_AGG);
442    mqc_encode(runlen != 4);
443    if (runlen == 4) {
444      continue;
445    }
446    mqc_setcurctx(T1_CTXNO_UNI);
447    mqc_encode(runlen >> 1);
448    mqc_encode(runlen & 1);
449       } else {
450    runlen = 0;
451       }
452       for (j = k + runlen; j < k + 4 && j < h; j++) {
453    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
454           && (j == k + 3 || j == h - 1)) ? 1 : 0;
455    t1_enc_clnpass_step(&t1_flags[1 + j][1 + i],
456              &t1_data[j][i], orient, bpno, one,
457              nmsedec, agg && (j == k + runlen), vsc);
458       }
459     }
460   }
461 }
462
463 void t1_dec_clnpass(int w, int h, int bpno, int orient, int cblksty)
464 {
465   int i, j, k, one, half, oneplushalf, agg, runlen, vsc;
466   int segsym = cblksty & J2K_CCP_CBLKSTY_SEGSYM;
467   one = 1 << bpno;
468   half = one >> 1;
469   oneplushalf = one | half;
470   for (k = 0; k < h; k += 4) {
471     for (i = 0; i < w; i++) {
472       if (k + 3 < h) {
473    if (cblksty & J2K_CCP_CBLKSTY_VSC) {
474      agg = !(t1_flags[1 + k][1 + i] & (T1_SIG | T1_VISIT | T1_SIG_OTH)
475         || t1_flags[1 + k + 1][1 +
476                 i] & (T1_SIG | T1_VISIT |
477                       T1_SIG_OTH)
478         || t1_flags[1 + k + 2][1 +
479                 i] & (T1_SIG | T1_VISIT |
480                       T1_SIG_OTH)
481         || (t1_flags[1 + k + 3][1 + i] &
482             (~
483              (T1_SIG_S | T1_SIG_SE | T1_SIG_SW |
484          T1_SGN_S))) & (T1_SIG | T1_VISIT | T1_SIG_OTH));
485    } else {
486      agg = !(t1_flags[1 + k][1 + i] & (T1_SIG | T1_VISIT | T1_SIG_OTH)
487         || t1_flags[1 + k + 1][1 +
488                 i] & (T1_SIG | T1_VISIT |
489                       T1_SIG_OTH)
490         || t1_flags[1 + k + 2][1 +
491                 i] & (T1_SIG | T1_VISIT |
492                       T1_SIG_OTH)
493         || t1_flags[1 + k + 3][1 +
494                 i] & (T1_SIG | T1_VISIT |
495                       T1_SIG_OTH));
496    }
497       } else {
498    agg = 0;
499       }
500       if (agg) {
501    mqc_setcurctx(T1_CTXNO_AGG);
502    if (!mqc_decode()) {
503      continue;
504    }
505    mqc_setcurctx(T1_CTXNO_UNI);
506    runlen = mqc_decode();
507    runlen = (runlen << 1) | mqc_decode();
508       } else {
509    runlen = 0;
510       }
511       for (j = k + runlen; j < k + 4 && j < h; j++) {
512    vsc = ((cblksty & J2K_CCP_CBLKSTY_VSC)
513           && (j == k + 3 || j == h - 1)) ? 1 : 0;
514    t1_dec_clnpass_step(&t1_flags[1 + j][1 + i],
515              &t1_data[j][i], 
516
517              orient, 
518
519              oneplushalf,
520              agg && (j == k + runlen), vsc);
521       }
522     }
523   }
524   if (segsym) {
525     int v = 0;
526     mqc_setcurctx(T1_CTXNO_UNI);
527     v = mqc_decode();
528     v = (v << 1) | mqc_decode();
529     v = (v << 1) | mqc_decode();
530     v = (v << 1) | mqc_decode();
531     /*  if (v!=0xa) 
532        {
533        fprintf(stderr, "warning: bad segmentation symbol %x\n",v);
534        } */
535   }
536 }            /* VSC and  BYPASS by Antonin */
537
538 double t1_getwmsedec(int nmsedec, int compno, int level, int orient, int bpno, int qmfbid, float stepsize, int numcomps)   /*mod fixed_quality*/
539 {
540   double w1, w2, wmsedec;
541   if (qmfbid == 1) {
542     w1 = (numcomps > 1) ? mct_getnorm(compno) : 1;
543     w2 = dwt_getnorm(level, orient);
544   } else {         /* if (qmfbid == 0) */
545     w1 = (numcomps > 1) ? mct_getnorm_real(compno) : 1;
546     w2 = dwt_getnorm_real(level, orient);
547   }
548   wmsedec = w1 * w2 * (stepsize / 8192.0) * (1 << bpno);
549   wmsedec *= wmsedec * nmsedec / 8192.0;
550   return wmsedec;
551 }
552
553 void t1_encode_cblk(tcd_cblk_t * cblk, int orient, int compno, int level, int qmfbid, float stepsize, int cblksty, int numcomps, tcd_tile_t * tile)   /*mod fixed_quality*/
554 {
555   int i, j;
556   int w, h;
557   int passno;
558   int bpno, passtype;
559   int max;
560   int nmsedec;
561   double cumwmsedec = 0;
562   char type = T1_TYPE_MQ;
563
564   w = cblk->x1 - cblk->x0;
565   h = cblk->y1 - cblk->y0;
566
567   max = 0;
568   for (j = 0; j < h; j++) {
569     for (i = 0; i < w; i++) {
570       max = int_max(max, int_abs(t1_data[j][i]));
571     }
572   }
573
574   cblk->numbps = max ? (int_floorlog2(max) + 1) - T1_NMSEDEC_FRACBITS : 0;
575
576   /* Changed by Dmitry Kolyadin */
577   for (i = 0; i <= w; i++)
578     for (j = 0; j <= h; j++){
579       t1_flags[j][i] = 0;
580     }
581
582   bpno = cblk->numbps - 1;
583   passtype = 2;
584
585   mqc_resetstates();
586   mqc_setstate(T1_CTXNO_UNI, 0, 46);
587   mqc_setstate(T1_CTXNO_AGG, 0, 3);
588   mqc_setstate(T1_CTXNO_ZC, 0, 4);
589   mqc_init_enc(cblk->data);
590
591   for (passno = 0; bpno >= 0; passno++) {
592     tcd_pass_t *pass = &cblk->passes[passno];
593     int correction = 3;
594     type = ((bpno < (cblk->numbps - 4)) && (passtype < 2)
595        && (cblksty & J2K_CCP_CBLKSTY_LAZY)) ? T1_TYPE_RAW :
596       T1_TYPE_MQ;
597
598     switch (passtype) {
599     case 0:
600       t1_enc_sigpass(w, h, bpno, orient, &nmsedec, type, cblksty);
601       break;
602     case 1:
603       t1_enc_refpass(w, h, bpno, &nmsedec, type, cblksty);
604       break;
605     case 2:
606       t1_enc_clnpass(w, h, bpno, orient, &nmsedec, cblksty);
607       /* code switch SEGMARK (i.e. SEGSYM) */
608       if (cblksty & J2K_CCP_CBLKSTY_SEGSYM)
609    mqc_segmark_enc();
610       break;
611     }
612
613     cumwmsedec += t1_getwmsedec(nmsedec, compno, level, orient, bpno, qmfbid, stepsize, numcomps);   /*mod fixed_quality*/
614     tile->distotile += t1_getwmsedec(nmsedec, compno, level, orient, bpno, qmfbid, stepsize, numcomps);   /*add antonin quality*/
615
616
617     /* Code switch "RESTART" (i.e. TERMALL) */
618     if ((cblksty & J2K_CCP_CBLKSTY_TERMALL)
619    && !((passtype == 2) && (bpno - 1 < 0))) {
620       if (type == T1_TYPE_RAW) {
621    mqc_flush();
622    correction = 1;
623    /* correction = mqc_bypass_flush_enc(); */
624       } else {         /* correction = mqc_restart_enc(); */
625    mqc_flush();
626    correction = 1;
627       }
628       pass->term = 1;
629     } else {
630       if (((bpno < (cblk->numbps - 4) && (passtype > 0))
631       || ((bpno == (cblk->numbps - 4)) && (passtype == 2)))
632      && (cblksty & J2K_CCP_CBLKSTY_LAZY)) {
633    if (type == T1_TYPE_RAW) {
634      mqc_flush();
635      correction = 1;
636      /* correction = mqc_bypass_flush_enc(); */
637    } else {      /* correction = mqc_restart_enc(); */
638      mqc_flush();
639      correction = 1;
640    }
641    pass->term = 1;
642       } else {
643    pass->term = 0;
644       }
645     }
646
647     if (++passtype == 3) {
648       passtype = 0;
649       bpno--;
650     }
651
652     if (pass->term && bpno > 0) {
653       type = ((bpno < (cblk->numbps - 4)) && (passtype < 2)
654          && (cblksty & J2K_CCP_CBLKSTY_LAZY)) ? T1_TYPE_RAW :
655    T1_TYPE_MQ;
656       if (type == T1_TYPE_RAW)
657    mqc_bypass_init_enc();
658       else
659    mqc_restart_init_enc();
660     }
661
662     pass->distortiondec = cumwmsedec;
663     pass->rate = mqc_numbytes() + correction;   /* FIXME */
664     pass->len =
665       pass->rate - (passno == 0 ? 0 : cblk->passes[passno - 1].rate);
666
667     /* Code-switch "RESET" */
668     if (cblksty & J2K_CCP_CBLKSTY_RESET)
669       mqc_reset_enc();
670   }
671
672   /* Code switch "ERTERM" (i.e. PTERM) */
673   if (cblksty & J2K_CCP_CBLKSTY_PTERM)
674     mqc_erterm_enc();
675   else /* Default coding */ if (!(cblksty & J2K_CCP_CBLKSTY_LAZY))
676     mqc_flush();
677
678   cblk->totalpasses = passno;
679 }
680
681 void t1_decode_cblk(tcd_cblk_t * cblk, int orient, int roishift,
682           int cblksty)
683 {
684   int i, j, w, h;
685   int bpno, passtype;
686   int segno, passno;
687   char type = T1_TYPE_MQ; /*BYPASS mode*/
688   
689   w = cblk->x1 - cblk->x0;
690   h = cblk->y1 - cblk->y0;
691   
692   /* Changed by Dmitry Kolyadin */
693   for (j = 0; j <= h; j++){
694     for (i = 0; i <= w; i++) {
695       t1_flags[j][i] = 0;
696   }
697   }
698     
699   /* Changed by Dmitry Kolyadin */
700   for (i = 0; i < w; i++) {
701       for (j = 0; j < h; j++){
702    t1_data[j][i] = 0;
703       }
704   }
705       
706   bpno = roishift + cblk->numbps - 1;
707   passtype = 2;
708
709   mqc_resetstates();
710   mqc_setstate(T1_CTXNO_UNI, 0, 46);
711   mqc_setstate(T1_CTXNO_AGG, 0, 3);
712   mqc_setstate(T1_CTXNO_ZC, 0, 4);
713
714   for (segno = 0; segno < cblk->numsegs; segno++) {
715     tcd_seg_t *seg = &cblk->segs[segno];
716     
717     /* Add BYPASS mode */
718     type = ((bpno <= (cblk->numbps - 1) - 4) && (passtype < 2)
719       && (cblksty & J2K_CCP_CBLKSTY_LAZY)) ? T1_TYPE_RAW :
720     T1_TYPE_MQ;
721     if (type == T1_TYPE_RAW) 
722       raw_init_dec(seg->data, seg->len);
723     else
724       mqc_init_dec(seg->data, seg->len);
725     /* ddA */
726     
727     for (passno = 0; passno < seg->numpasses; passno++) {
728       switch (passtype) {
729       case 0:
730    t1_dec_sigpass(w, h, bpno+1, orient, type, cblksty);
731    break;
732       case 1:
733    t1_dec_refpass(w, h, bpno+1, type, cblksty);
734    break;
735       case 2:
736    t1_dec_clnpass(w, h, bpno+1, orient, cblksty);
737    break;
738       }
739       
740       if ((cblksty & J2K_CCP_CBLKSTY_RESET) && type == T1_TYPE_MQ) {
741    mqc_resetstates();
742
743    mqc_setstate(T1_CTXNO_UNI, 0, 46);
744
745    mqc_setstate(T1_CTXNO_AGG, 0, 3);
746
747    mqc_setstate(T1_CTXNO_ZC, 0, 4);
748
749       }
750       
751       if (++passtype == 3) {
752    passtype = 0;
753    bpno--;
754       }
755     }
756   }
757 }
758
759 void t1_encode_cblks(tcd_tile_t * tile, j2k_tcp_t * tcp)
760 {
761   int compno, resno, bandno, precno, cblkno;
762   int x, y, i, j, orient;
763   tcd_tilecomp_t *tilec;
764   tcd_resolution_t *res;
765   tcd_band_t *band;
766   tcd_precinct_t *prc;
767   tcd_cblk_t *cblk;
768
769   tile->distotile = 0;      /*add fixed_quality*/
770
771   for (compno = 0; compno < tile->numcomps; compno++) {
772     tilec = &tile->comps[compno];
773     for (resno = 0; resno < tilec->numresolutions; resno++) {
774       res = &tilec->resolutions[resno];
775       for (bandno = 0; bandno < res->numbands; bandno++) {
776    band = &res->bands[bandno];
777    for (precno = 0; precno < res->pw * res->ph; precno++) {
778      prc = &band->precincts[precno];
779      for (cblkno = 0; cblkno < prc->cw * prc->ch; cblkno++) {
780        cblk = &prc->cblks[cblkno];
781
782        if (band->bandno == 0) {
783          x = cblk->x0 - band->x0;
784          y = cblk->y0 - band->y0;
785        } else if (band->bandno == 1) {
786          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
787          x = pres->x1 - pres->x0 + cblk->x0 - band->x0;
788          y = cblk->y0 - band->y0;
789        } else if (band->bandno == 2) {
790          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
791          x = cblk->x0 - band->x0;
792          y = pres->y1 - pres->y0 + cblk->y0 - band->y0;
793        } else {      /* if (band->bandno == 3) */
794          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
795          x = pres->x1 - pres->x0 + cblk->x0 - band->x0;
796          y = pres->y1 - pres->y0 + cblk->y0 - band->y0;
797        }
798
799        if (tcp->tccps[compno].qmfbid == 1) {
800
801          for (j = 0; j < cblk->y1 - cblk->y0; j++) {
802       for (i = 0; i < cblk->x1 - cblk->x0; i++) {
803         t1_data[j][i] =
804           tilec->data[(x + i) +
805             (y + j) * (tilec->x1 -
806                   tilec->
807                   x0)] << T1_NMSEDEC_FRACBITS;
808       }
809          }
810        } else if (tcp->tccps[compno].qmfbid == 0) {
811          for (j = 0; j < cblk->y1 - cblk->y0; j++) {
812       for (i = 0; i < cblk->x1 - cblk->x0; i++) {
813         t1_data[j][i] =
814           fix_mul(tilec->
815              data[x + i +
816              (y + j) * (tilec->x1 -
817                    tilec->
818                    x0)],
819              8192 * 8192 /
820              ((int) floor(band->stepsize * 8192))) >> (13 - T1_NMSEDEC_FRACBITS);
821       }
822          }
823        }
824        orient = band->bandno;   /* FIXME */
825        if (orient == 2) {
826          orient = 1;
827        } else if (orient == 1) {
828          orient = 2;
829        }
830        t1_encode_cblk(cblk, orient, compno, tilec->numresolutions - 1 - resno, tcp->tccps[compno].qmfbid, band->stepsize, tcp->tccps[compno].cblksty, tile->numcomps, tile);   /*mod fixed_quality*/
831      }         /* cblkno */
832    }         /* precno */
833       }            /* bandno */
834     }            /* resno  */
835   }            /* compo  */
836 }
837
838
839 void t1_decode_cblks(tcd_tile_t * tile, j2k_tcp_t * tcp)
840 {
841   int compno, resno, bandno, precno, cblkno;
842
843   for (compno = 0; compno < tile->numcomps; compno++) {
844     tcd_tilecomp_t *tilec = &tile->comps[compno];
845     for (resno = 0; resno < tilec->numresolutions; resno++) {
846       tcd_resolution_t *res = &tilec->resolutions[resno];
847       for (bandno = 0; bandno < res->numbands; bandno++) {
848    tcd_band_t *band = &res->bands[bandno];
849    for (precno = 0; precno < res->pw * res->ph; precno++) {
850      tcd_precinct_t *prc = &band->precincts[precno];
851      for (cblkno = 0; cblkno < prc->cw * prc->ch; cblkno++) {
852        int x, y, i, j, orient;
853        tcd_cblk_t *cblk = &prc->cblks[cblkno];
854        orient = band->bandno;   /* FIXME */
855        if (orient == 2)
856          orient = 1;
857        else if (orient == 1)
858          orient = 2;
859        t1_decode_cblk(cblk, orient,
860             tcp->tccps[compno].roishift,
861             tcp->tccps[compno].cblksty);
862        if (band->bandno == 0) {
863          x = cblk->x0 - band->x0;
864          y = cblk->y0 - band->y0;
865        } else if (band->bandno == 1) {
866          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
867          x = pres->x1 - pres->x0 + cblk->x0 - band->x0;
868          y = cblk->y0 - band->y0;
869        } else if (band->bandno == 2) {
870          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
871          x = cblk->x0 - band->x0;
872          y = pres->y1 - pres->y0 + cblk->y0 - band->y0;
873        } else {      /* if (band->bandno == 3) */
874          tcd_resolution_t *pres = &tilec->resolutions[resno - 1];
875          x = pres->x1 - pres->x0 + cblk->x0 - band->x0;
876          y = pres->y1 - pres->y0 + cblk->y0 - band->y0;
877        }
878
879        if (tcp->tccps[compno].roishift) {
880          int thresh, val, mag;
881          thresh = 1 << tcp->tccps[compno].roishift;
882          for (j = 0; j < cblk->y1 - cblk->y0; j++) {
883       for (i = 0; i < cblk->x1 - cblk->x0; i++) {
884         val = t1_data[j][i];
885         mag = int_abs(val);
886         if (mag >= thresh) {
887           mag >>= tcp->tccps[compno].roishift;
888           t1_data[j][i] = val < 0 ? -mag : mag;
889         }
890       }
891          }
892        }
893
894        if (tcp->tccps[compno].qmfbid == 1) {
895          for (j = 0; j < cblk->y1 - cblk->y0; j++) {
896       for (i = 0; i < cblk->x1 - cblk->x0; i++) {
897                   int tmp=t1_data[j][i];
898                   if (tmp>>1==0) tilec->data[x + i + (y + j) * (tilec->x1 - tilec->x0)] = 0;
899         else tilec->data[x + i + (y + j) * (tilec->x1 - tilec->x0)] = tmp<0?(tmp>>1)+1:(tmp>>1);
900       }
901          }
902        } else {      /* if (tcp->tccps[compno].qmfbid == 0) */
903
904          for (j = 0; j < cblk->y1 - cblk->y0; j++) {
905       for (i = 0; i < cblk->x1 - cblk->x0; i++) {
906                   double tmp=t1_data[j][i] * band->stepsize * 4096.0;
907                   int tmp2;
908         if (t1_data[j][i]>>1 == 0) {
909           tilec->data[x + i + (y + j) * (tilec->x1 - tilec->x0)] = 0;
910         } else {
911                     tmp2=((int) (floor(fabs(tmp)))) + ((int) floor(fabs(tmp*2))%2);
912           tilec->data[x + i + (y + j) * (tilec->x1 - tilec->x0)] = ((tmp<0)?-tmp2:tmp2);  
913         }
914       }
915          }
916        }
917      }
918    }
919       }
920     }
921   }
922 }
923
924 int t1_init_ctxno_zc(int f, int orient)
925 {
926   int h, v, d, n, t, hv;
927   n = 0;
928   h = ((f & T1_SIG_W) != 0) + ((f & T1_SIG_E) != 0);
929   v = ((f & T1_SIG_N) != 0) + ((f & T1_SIG_S) != 0);
930   d = ((f & T1_SIG_NW) != 0) + ((f & T1_SIG_NE) !=
931             0) + ((f & T1_SIG_SE) !=
932                   0) + ((f & T1_SIG_SW) != 0);
933   switch (orient) {
934   case 2:
935     t = h;
936     h = v;
937     v = t;
938   case 0:
939   case 1:
940     if (!h) {
941       if (!v) {
942    if (!d)
943      n = 0;
944    else if (d == 1)
945      n = 1;
946    else
947      n = 2;
948       } else if (v == 1)
949    n = 3;
950       else
951    n = 4;
952     } else if (h == 1) {
953       if (!v) {
954    if (!d)
955      n = 5;
956    else
957      n = 6;
958       } else
959    n = 7;
960     } else
961       n = 8;
962     break;
963   case 3:
964     hv = h + v;
965     if (!d) {
966       if (!hv)
967    n = 0;
968       else if (hv == 1)
969    n = 1;
970       else
971    n = 2;
972     } else if (d == 1) {
973       if (!hv)
974    n = 3;
975       else if (hv == 1)
976    n = 4;
977       else
978    n = 5;
979     } else if (d == 2) {
980       if (!hv)
981    n = 6;
982       else
983    n = 7;
984     } else
985       n = 8;
986     break;
987   }
988   return T1_CTXNO_ZC + n;
989 }
990
991 int t1_init_ctxno_sc(int f)
992 {
993   int hc, vc, n;
994   n = 0;
995   hc = int_min(((f & (T1_SIG_E | T1_SGN_E)) ==
996       T1_SIG_E) + ((f & (T1_SIG_W | T1_SGN_W)) == T1_SIG_W),
997           1) - int_min(((f & (T1_SIG_E | T1_SGN_E)) ==
998               (T1_SIG_E | T1_SGN_E)) +
999              ((f & (T1_SIG_W | T1_SGN_W)) ==
1000               (T1_SIG_W | T1_SGN_W)), 1);
1001   vc = int_min(((f & (T1_SIG_N | T1_SGN_N)) ==
1002       T1_SIG_N) + ((f & (T1_SIG_S | T1_SGN_S)) == T1_SIG_S),
1003           1) - int_min(((f & (T1_SIG_N | T1_SGN_N)) ==
1004               (T1_SIG_N | T1_SGN_N)) +
1005              ((f & (T1_SIG_S | T1_SGN_S)) ==
1006               (T1_SIG_S | T1_SGN_S)), 1);
1007   if (hc < 0) {
1008     hc = -hc;
1009     vc = -vc;
1010   }
1011   if (!hc) {
1012     if (vc == -1)
1013       n = 1;
1014     else if (!vc)
1015       n = 0;
1016     else
1017       n = 1;
1018   } else if (hc == 1) {
1019     if (vc == -1)
1020       n = 2;
1021     else if (!vc)
1022       n = 3;
1023     else
1024       n = 4;
1025   }
1026   return T1_CTXNO_SC + n;
1027 }
1028
1029 int t1_init_ctxno_mag(int f)
1030 {
1031   int n;
1032   if (!(f & T1_REFINE))
1033     n = (f & (T1_SIG_OTH)) ? 1 : 0;
1034   else
1035     n = 2;
1036   return T1_CTXNO_MAG + n;
1037 }
1038
1039 int t1_init_spb(int f)
1040 {
1041   int hc, vc, n;
1042   hc = int_min(((f & (T1_SIG_E | T1_SGN_E)) ==
1043       T1_SIG_E) + ((f & (T1_SIG_W | T1_SGN_W)) == T1_SIG_W),
1044           1) - int_min(((f & (T1_SIG_E | T1_SGN_E)) ==
1045               (T1_SIG_E | T1_SGN_E)) +
1046              ((f & (T1_SIG_W | T1_SGN_W)) ==
1047               (T1_SIG_W | T1_SGN_W)), 1);
1048   vc = int_min(((f & (T1_SIG_N | T1_SGN_N)) ==
1049       T1_SIG_N) + ((f & (T1_SIG_S | T1_SGN_S)) == T1_SIG_S),
1050           1) - int_min(((f & (T1_SIG_N | T1_SGN_N)) ==
1051               (T1_SIG_N | T1_SGN_N)) +
1052              ((f & (T1_SIG_S | T1_SGN_S)) ==
1053               (T1_SIG_S | T1_SGN_S)), 1);
1054   if (!hc && !vc)
1055     n = 0;
1056   else
1057     n = (!(hc > 0 || (!hc && vc > 0)));
1058   return n;
1059 }
1060
1061 void t1_init_luts()
1062 {
1063   int i, j;
1064   double u, v, t;
1065   for (j = 0; j < 4; j++) {
1066     for (i = 0; i < 256; ++i) {
1067       t1_lut_ctxno_zc[(j << 8) | i] = t1_init_ctxno_zc(i, j);
1068     }
1069   }
1070   for (i = 0; i < 256; i++) {
1071     t1_lut_ctxno_sc[i] = t1_init_ctxno_sc(i << 4);
1072   }
1073   for (j = 0; j < 2; j++) {
1074     for (i = 0; i < 2048; ++i) {
1075       t1_lut_ctxno_mag[(j << 11) + i] =
1076    t1_init_ctxno_mag((j ? T1_REFINE : 0) | i);
1077     }
1078   }
1079   for (i = 0; i < 256; ++i) {
1080     t1_lut_spb[i] = t1_init_spb(i << 4);
1081   }
1082   /* FIXME FIXME FIXME */
1083   /* fprintf(stdout,"nmsedec luts:\n"); */
1084   for (i = 0; i < (1 << T1_NMSEDEC_BITS); i++) {
1085     t = i / pow(2, T1_NMSEDEC_FRACBITS);
1086     u = t;
1087     v = t - 1.5;
1088     t1_lut_nmsedec_sig[i] =
1089       int_max(0,
1090          (int) (floor
1091            ((u * u - v * v) * pow(2,
1092                    T1_NMSEDEC_FRACBITS) +
1093             0.5) / pow(2, T1_NMSEDEC_FRACBITS) * 8192.0));
1094     t1_lut_nmsedec_sig0[i] =
1095       int_max(0,
1096          (int) (floor
1097            ((u * u) * pow(2, T1_NMSEDEC_FRACBITS) +
1098             0.5) / pow(2, T1_NMSEDEC_FRACBITS) * 8192.0));
1099     u = t - 1.0;
1100     if (i & (1 << (T1_NMSEDEC_BITS - 1))) {
1101       v = t - 1.5;
1102     } else {
1103       v = t - 0.5;
1104     }
1105     t1_lut_nmsedec_ref[i] =
1106       int_max(0,
1107          (int) (floor
1108            ((u * u - v * v) * pow(2,
1109                    T1_NMSEDEC_FRACBITS) +
1110             0.5) / pow(2, T1_NMSEDEC_FRACBITS) * 8192.0));
1111     t1_lut_nmsedec_ref0[i] =
1112       int_max(0,
1113          (int) (floor
1114            ((u * u) * pow(2, T1_NMSEDEC_FRACBITS) +
1115             0.5) / pow(2, T1_NMSEDEC_FRACBITS) * 8192.0));
1116   }
1117 }