Searched refs:dither_error (Results 1 – 5 of 5) sorted by relevance
575 …Y1 += (7*err + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2] + 8… in yuv2mono_X_c_template()576 c->dither_error[0][i] = err; in yuv2mono_X_c_template()580 …err = Y2 + ((7*Y1 + 1*c->dither_error[0][i+1] + 5*c->dither_error[0][i+2] + 3*c->dither_error[0][i… in yuv2mono_X_c_template()581 c->dither_error[0][i+1] = Y1; in yuv2mono_X_c_template()592 c->dither_error[0][i] = err; in yuv2mono_X_c_template()619 …Y += (7*err + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2] + 8 … in yuv2mono_2_c_template()620 c->dither_error[0][i] = err; in yuv2mono_2_c_template()625 …err += (7*Y + 1*c->dither_error[0][i+1] + 5*c->dither_error[0][i+2] + 3*c->dither_error[0][i+3] + … in yuv2mono_2_c_template()626 c->dither_error[0][i+1] = Y; in yuv2mono_2_c_template()633 c->dither_error[0][i] = err; in yuv2mono_2_c_template()[all …]
941 if (!srcSliceY && (c->flags & SWS_BITEXACT) && c->dither == SWS_DITHER_ED && c->dither_error[0]) in sws_scale()943 memset(c->dither_error[i], 0, sizeof(c->dither_error[0][0]) * (c->dstW+2)); in sws_scale()
418 int *dither_error[4]; member
1766 if (!FF_ALLOCZ_TYPED_ARRAY(c->dither_error[i], c->dstW + 2)) in sws_init_context()2344 av_freep(&c->dither_error[i]); in sws_freeContext()
1222 float dither_error; in get_dithered_pixel() local1246 dither_error = sr * sr + sg * sg + sb * sb + sa * sa; in get_dithered_pixel()1247 if (dither_error > max_dither_error) { in get_dithered_pixel()1249 } else if (dither_error < 2.f / 256.f / 256.f) { in get_dithered_pixel()