Searched refs:xsq_q10 (Results 1 – 1 of 1) sorted by relevance
370 static void model_rd_norm(int xsq_q10, int *r_q10, int *d_q10) { in model_rd_norm() argument371 const int tmp = (xsq_q10 >> 2) + 8; in model_rd_norm()375 const int a_q10 = ((xsq_q10 - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm()381 static void model_rd_norm_vec(int xsq_q10[MAX_MB_PLANE], in model_rd_norm_vec()387 const int tmp = (xsq_q10[i] >> 2) + 8; in model_rd_norm_vec()390 const int a_q10 = ((xsq_q10[i] - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm_vec()415 const int xsq_q10 = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz() local416 model_rd_norm(xsq_q10, &r_q10, &d_q10); in vp9_model_rd_from_var_lapndz()429 int xsq_q10[MAX_MB_PLANE], d_q10[MAX_MB_PLANE], r_q10[MAX_MB_PLANE]; in vp9_model_rd_from_var_lapndz_vec() local434 xsq_q10[i] = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz_vec()[all …]