Searched refs:xsq_q10 (Results 1 – 2 of 2) sorted by relevance
| /external/libvpx/libvpx/vp9/encoder/ |
| D | vp9_rd.c | 424 static void model_rd_norm(int xsq_q10, int *r_q10, int *d_q10) { in model_rd_norm() argument
425 const int tmp = (xsq_q10 >> 2) + 8; in model_rd_norm()
429 const int a_q10 = ((xsq_q10 - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm()
435 static void model_rd_norm_vec(int xsq_q10[MAX_MB_PLANE], in model_rd_norm_vec()
441 const int tmp = (xsq_q10[i] >> 2) + 8; in model_rd_norm_vec()
444 const int a_q10 = ((xsq_q10[i] - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm_vec()
469 const int xsq_q10 = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz() local
470 model_rd_norm(xsq_q10, &r_q10, &d_q10); in vp9_model_rd_from_var_lapndz()
483 int xsq_q10[MAX_MB_PLANE], d_q10[MAX_MB_PLANE], r_q10[MAX_MB_PLANE]; in vp9_model_rd_from_var_lapndz_vec() local
488 xsq_q10[i] = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz_vec()
[all …]
|
| /external/libaom/libaom/av1/encoder/ |
| D | rd.c | 603 static void model_rd_norm(int xsq_q10, int *r_q10, int *d_q10) { in model_rd_norm() argument
659 const int tmp = (xsq_q10 >> 2) + 8; in model_rd_norm()
663 const int a_q10 = ((xsq_q10 - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm()
686 const int xsq_q10 = (int)AOMMIN(xsq_q10_64, MAX_XSQ_Q10); in av1_model_rd_from_var_lapndz() local
687 model_rd_norm(xsq_q10, &r_q10, &d_q10); in av1_model_rd_from_var_lapndz()
|