Home
last modified time | relevance | path

Searched refs:CLIP_S16 (Results 1 – 25 of 39) sorted by relevance

12

/external/libhevc/common/
Dihevc_itrans_recon.c139 CLIP_S16((29 * c[0] + 55 * c[1] + c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
141 CLIP_S16((55 * c[2] - 29 * c[1] + c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
143 … CLIP_S16((74 * (pi2_src[0] - pi2_src[2 * src_strd] + pi2_src[3 * src_strd]) + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
145 CLIP_S16((55 * c[0] + 29 * c[2] - c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
168 CLIP_S16((29 * c[0] + 55 * c[1] + c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
171 CLIP_S16((55 * c[2] - 29 * c[1] + c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
174 … CLIP_S16((74 * (pi2_tmp[0] - pi2_tmp[2 * trans_size] + pi2_tmp[3 * trans_size]) + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
177 CLIP_S16((55 * c[0] + 29 * c[2] - c[3] + add) >> shift); in ihevc_itrans_recon_4x4_ttype1()
281 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_itrans_recon_4x4()
283 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_itrans_recon_4x4()
[all …]
Dihevc_iquant_itrans_recon.c195 CLIP_S16((29 * c[0] + 55 * c[1] + c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
197 CLIP_S16((55 * c[2] - 29 * c[1] + c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
213 CLIP_S16((74 * (iq_tmp_1 - iq_tmp_2 + iq_tmp_3) + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
215 CLIP_S16((55 * c[0] + 29 * c[2] - c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
240 CLIP_S16((29 * c[0] + 55 * c[1] + c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
244 CLIP_S16((55 * c[2] - 29 * c[1] + c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
248 … CLIP_S16((74 * (pi2_tmp[0] - pi2_tmp[2 * trans_size] + pi2_tmp[3 * trans_size]) + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
252 CLIP_S16((55 * c[0] + 29 * c[2] - c[3] + add) >> shift); in ihevc_iquant_itrans_recon_4x4_ttype1()
396 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_iquant_itrans_recon_4x4()
398 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_iquant_itrans_recon_4x4()
[all …]
Dihevc_chroma_itrans_recon.c153 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
155 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
157 CLIP_S16(((e[1] - o[1] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
159 CLIP_S16(((e[0] - o[0] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
187 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
190 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
193 CLIP_S16(((e[1] - o[1] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
196 CLIP_S16(((e[0] - o[0] + add) >> shift)); in ihevc_chroma_itrans_recon_4x4()
Dihevc_chroma_iquant_itrans_recon.c196 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
198 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
200 CLIP_S16(((e[1] - o[1] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
202 CLIP_S16(((e[0] - o[0] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
235 CLIP_S16(((e[0] + o[0] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
239 CLIP_S16(((e[1] + o[1] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
243 CLIP_S16(((e[1] - o[1] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
247 CLIP_S16(((e[0] - o[0] + add) >> shift)); in ihevc_chroma_iquant_itrans_recon_4x4()
Dihevc_itrans.c121 CLIP_S16((29 * c[0] + 55 * c[1] + c[3] + add) >> i4_shift); in ihevc_itrans_4x4_ttype1()
123 CLIP_S16((55 * c[2] - 29 * c[1] + c[3] + add) >> i4_shift); in ihevc_itrans_4x4_ttype1()
125 … CLIP_S16((74 * (pi2_src[0] - pi2_src[2 * src_strd] + pi2_src[3 * src_strd]) + add) >> i4_shift); in ihevc_itrans_4x4_ttype1()
127 CLIP_S16((55 * c[0] + 29 * c[2] - c[3] + add) >> i4_shift); in ihevc_itrans_4x4_ttype1()
210 CLIP_S16(((e[0] + o[0] + add) >> i4_shift)); in ihevc_itrans_4x4()
212 CLIP_S16(((e[1] + o[1] + add) >> i4_shift)); in ihevc_itrans_4x4()
214 CLIP_S16(((e[1] - o[1] + add) >> i4_shift)); in ihevc_itrans_4x4()
216 CLIP_S16(((e[0] - o[0] + add) >> i4_shift)); in ihevc_itrans_4x4()
267 CLIP_S16(((e[0] + o[0] + add) >> i4_shift)); in ihevc_itrans_4x4()
269 CLIP_S16(((e[1] + o[1] + add) >> i4_shift)); in ihevc_itrans_4x4()
[all …]
Dihevc_itrans_recon_8x8.c167 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_8x8()
169 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_itrans_recon_8x8()
206 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_8x8()
209 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_itrans_recon_8x8()
251 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_8x8()
254 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_itrans_recon_8x8()
314 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_8x8()
316 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_itrans_recon_8x8()
353 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_8x8()
356 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_itrans_recon_8x8()
[all …]
Dihevc_chroma_itrans_recon_16x16.c187 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
189 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
237 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
240 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
289 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
292 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
363 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
366 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
433 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
435 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_16x16()
[all …]
Dihevc_itrans_recon_16x16.c177 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_16x16()
179 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_itrans_recon_16x16()
228 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_16x16()
231 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_itrans_recon_16x16()
280 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_16x16()
283 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_itrans_recon_16x16()
354 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_16x16()
357 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_itrans_recon_16x16()
424 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_16x16()
426 CLIP_S16(((e[7 - k] - o[7 - k] + add) >> shift)); in ihevc_itrans_recon_16x16()
[all …]
Dihevc_itrans_recon_32x32.c190 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_32x32()
192 CLIP_S16(((e[15 - k] - o[15 - k] + add) >> shift)); in ihevc_itrans_recon_32x32()
251 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_32x32()
254 CLIP_S16(((e[15 - k] - o[15 - k] + add) >> shift)); in ihevc_itrans_recon_32x32()
311 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_32x32()
314 CLIP_S16(((e[15 - k] - o[15 - k] + add) >> shift)); in ihevc_itrans_recon_32x32()
429 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_32x32()
432 CLIP_S16(((e[15 - k] - o[15 - k] + add) >> shift)); in ihevc_itrans_recon_32x32()
506 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_itrans_recon_32x32()
508 CLIP_S16(((e[15 - k] - o[15 - k] + add) >> shift)); in ihevc_itrans_recon_32x32()
[all …]
Dihevc_trans_macros.h59 …out = (WORD16) CLIP_S16(tmp); …
84 …out = (WORD16) CLIP_S16(tmp); …
109 …out = (WORD16) CLIP_S16(tmp); …
134 …out = (WORD16) CLIP_S16(tmp); …
150 …res = CLIP_S16(tmp); …
179 …res = CLIP_S16(tmp); …
Dihevc_chroma_itrans_recon_8x8.c182 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
184 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
223 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
226 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
269 CLIP_S16(((e[k] + o[k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
272 CLIP_S16(((e[3 - k] - o[3 - k] + add) >> shift)); in ihevc_chroma_itrans_recon_8x8()
/external/libmpeg2/common/
Dimpeg2_idct.c253 CLIP_S16(((ai4_e[k] + ai4_o[k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
255 CLIP_S16(((ai4_e[3 - k] - ai4_o[3 - k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
292 CLIP_S16(((ai4_e[k] + ai4_o[k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
295 CLIP_S16(((ai4_e[3 - k] - ai4_o[3 - k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
337 CLIP_S16(((ai4_e[k] + ai4_o[k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
340 CLIP_S16(((ai4_e[3 - k] - ai4_o[3 - k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
400 CLIP_S16(((ai4_e[k] + ai4_o[k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
402 CLIP_S16(((ai4_e[3 - k] - ai4_o[3 - k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
439 CLIP_S16(((ai4_e[k] + ai4_o[k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
442 CLIP_S16(((ai4_e[3 - k] - ai4_o[3 - k] + i4_add) >> i4_shift)); in impeg2_idct_recon()
[all …]
/external/libhevc/decoder/
Dihevcd_itrans_recon_dc.c104 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma()
107 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma()
135 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma()
138 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma()
Dihevcd_mv_pred.c130 ps_mv->i2_mvx = CLIP_S16(mvx); in ihevcd_scale_mv()
131 ps_mv->i2_mvy = CLIP_S16(mvy); in ihevcd_scale_mv()
190 ps_mv->i2_mvx = CLIP_S16(mvx); in ihevcd_scale_collocated_mv()
191 ps_mv->i2_mvy = CLIP_S16(mvy); in ihevcd_scale_collocated_mv()
/external/libavc/common/armv8/
Dih264_platform_macros.h96 static __inline WORD32 CLIP_S16(WORD32 x) in CLIP_S16() function
125 #define CLIP_S16(x) CLIP3(INT16_MIN, INT16_MAX, (x)) macro
/external/libavc/common/arm/
Dih264_platform_macros.h96 static __inline WORD32 CLIP_S16(WORD32 x) in CLIP_S16() function
125 #define CLIP_S16(x) CLIP3(INT16_MIN, INT16_MAX, (x)) macro
/external/libhevc/decoder/x86/
Dihevcd_it_rec_dc_sse42_intr.c84 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma_sse42()
87 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma_sse42()
227 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma_sse42()
230 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma_sse42()
Dihevcd_it_rec_dc_ssse3_intr.c85 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma_ssse3()
88 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_luma_ssse3()
227 dc_value = CLIP_S16((quant_out * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma_ssse3()
230 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevcd_itrans_recon_dc_chroma_ssse3()
/external/libhevc/common/arm/
Dihevc_platform_macros.h91 static __inline WORD32 CLIP_S16(WORD32 x) in CLIP_S16() function
118 #define CLIP_S16(x) CLIP3((x), -32768, 32767) macro
/external/libmpeg2/common/mips/
Dimpeg2_platform_macros.h44 #define CLIP_S16(x) ((x) > 32767) ? (32767) : (((x) < -32768) ? (-32768) : (x)) macro
/external/libmpeg2/common/x86/
Dimpeg2_platform_macros.h44 #define CLIP_S16(x) ((x) > 32767) ? (32767) : (((x) < -32768) ? (-32768) : (x)) macro
/external/libmpeg2/common/armv8/
Dimpeg2_platform_macros.h44 #define CLIP_S16(x) ((x) > 32767) ? (32767) : (((x) < -32768) ? (-32768) : (x)) macro
/external/libhevc/encoder/
Dhme_err_compute.c1778 i4_mv_cost = CLIP_S16(i4_mv_cost); in hme_update_results_grid_pu_bestn_no_encode()
1779 i4_sad = CLIP_S16(i4_sad); in hme_update_results_grid_pu_bestn_no_encode()
1783 i4_tot_cost = CLIP_S16(i4_tot_cost); in hme_update_results_grid_pu_bestn_no_encode()
2240 i4_tot_cost = CLIP_S16(i4_sad + i4_mv_cost); in hme_calc_sad_and_2_best_results()
2246 best_node_cost = CLIP_S16(ps_mv_refine_ctxt->i2_tot_cost[0][index]); in hme_calc_sad_and_2_best_results()
2247 second_best_node_cost = CLIP_S16(ps_mv_refine_ctxt->i2_tot_cost[1][index]); in hme_calc_sad_and_2_best_results()
2434 i4_tot_cost = CLIP_S16(i4_sad + i4_mv_cost); in hme_calc_sad_and_2_best_results_subpel()
2440 best_node_cost = CLIP_S16(ps_subpel_refine_ctxt->i2_tot_cost[0][index]); in hme_calc_sad_and_2_best_results_subpel()
2441 second_best_node_cost = CLIP_S16(ps_subpel_refine_ctxt->i2_tot_cost[1][index]); in hme_calc_sad_and_2_best_results_subpel()
2767 i4_tot_cost = CLIP_S16(i4_sad + i4_mv_cost); in hme_calc_stim_injected_sad_and_2_best_results()
[all …]
Dihevce_common_utils.c423 dc_value = CLIP_S16((i2_deq_value * 64 + add) >> shift); in ihevce_itrans_recon_dc()
426 dc_value = CLIP_S16((dc_value * 64 + add) >> shift); in ihevce_itrans_recon_dc()
628 ps_mv->i2_mvx = CLIP_S16(mvx); in ihevce_scale_mv()
629 ps_mv->i2_mvy = CLIP_S16(mvy); in ihevce_scale_mv()
/external/libmpeg2/common/arm/
Dimpeg2_platform_macros.h66 static __inline WORD32 CLIP_S16(WORD32 x) in CLIP_S16() function

12