Searched refs:xsq_q10 (Results 1 – 2 of 2) sorted by relevance
| /external/libvpx/libvpx/vp9/encoder/ |
| D | vp9_rd.c | 454 static void model_rd_norm(int xsq_q10, int *r_q10, int *d_q10) { in model_rd_norm() argument
455 const int tmp = (xsq_q10 >> 2) + 8; in model_rd_norm()
459 const int a_q10 = ((xsq_q10 - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm()
465 static void model_rd_norm_vec(int xsq_q10[MAX_MB_PLANE], in model_rd_norm_vec()
471 const int tmp = (xsq_q10[i] >> 2) + 8; in model_rd_norm_vec()
474 const int a_q10 = ((xsq_q10[i] - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm_vec()
499 const int xsq_q10 = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz() local
500 model_rd_norm(xsq_q10, &r_q10, &d_q10); in vp9_model_rd_from_var_lapndz()
513 int xsq_q10[MAX_MB_PLANE], d_q10[MAX_MB_PLANE], r_q10[MAX_MB_PLANE]; in vp9_model_rd_from_var_lapndz_vec() local
518 xsq_q10[i] = (int)VPXMIN(xsq_q10_64, MAX_XSQ_Q10); in vp9_model_rd_from_var_lapndz_vec()
[all …]
|
| /external/libaom/libaom/av1/encoder/ |
| D | rd.c | 626 static void model_rd_norm(int xsq_q10, int *r_q10, int *d_q10) { in model_rd_norm() argument
682 const int tmp = (xsq_q10 >> 2) + 8; in model_rd_norm()
686 const int a_q10 = ((xsq_q10 - xsq_iq_q10[xq]) << 10) >> (2 + k); in model_rd_norm()
709 const int xsq_q10 = (int)AOMMIN(xsq_q10_64, MAX_XSQ_Q10); in av1_model_rd_from_var_lapndz() local
710 model_rd_norm(xsq_q10, &r_q10, &d_q10); in av1_model_rd_from_var_lapndz()
|