Searched refs:sxy (Results 1 – 11 of 11) sorted by relevance
40 const int64_t sxy = (int64_t)stats->xym * N - xmym; // can be negative in SSIMCalculation() local44 const uint64_t num_S = (2 * (uint64_t)(sxy < 0 ? 0 : sxy) + C2) >> 8; in SSIMCalculation()
83 (sxy (- (sum (map * x y)) (* n xbar ybar))))84 (let ((slope (/ sxy sxx)))88 (/ (sq sxy) (* sxx syy))))))))
885 sxy = fsum((xi - xbar) * (yi - ybar) for xi, yi in zip(x, y))886 return sxy / (n - 1)913 sxy = fsum((xi - xbar) * (yi - ybar) for xi, yi in zip(x, y))917 return sxy / sqrt(sxx * syy)957 sxy = fsum((xi - xbar) * (yi - ybar) for xi, yi in zip(x, y))960 slope = sxy / sxx # equivalent to: covariance(x, y) / variance(x)
119 const int64_t sxy = (int64_t)stats->xym * N - xmym; // can be negative in SSIMCalculation() local123 const uint64_t num_S = (2 * (uint64_t)(sxy < 0 ? 0 : sxy) + C2) >> 8; in SSIMCalculation()
4323 GstClockTimeDiff sxx, sxy, syy; in gst_calculate_linear_regression() local4338 xbar = ybar = sxx = syy = sxy = 0; in gst_calculate_linear_regression()4422 sxx = syy = sxy = 0; in gst_calculate_linear_regression()4469 if (G_UNLIKELY (tmp > 0 && sxy > 0 && (G_MAXINT64 - sxy <= tmp))) { in gst_calculate_linear_regression()4472 sxy /= 4; in gst_calculate_linear_regression()4474 } while (G_MAXINT64 - sxy <= tmp); in gst_calculate_linear_regression()4476 } else if (G_UNLIKELY (tmp < 0 && sxy < 0 && (G_MININT64 - sxy >= tmp))) { in gst_calculate_linear_regression()4479 sxy /= 4; in gst_calculate_linear_regression()4481 } while (G_MININT64 - sxy >= tmp); in gst_calculate_linear_regression()4484 sxy += tmp; in gst_calculate_linear_regression()[all …]
692 …xy{zzzyxurpnkklmmnpqprstsrsuy|���������������������}�^{�j���wp�wr|�yw{�~n{sxy��Ϝ�x�jvwz|�imlr��ۦ�…720 …fecbcb`aaabfedh�i+kmq|�������������r�n���������ƻ���������{x��qx~{�lptx�㪤o�sxy~u�pnm��Ӝ���jxuv�eia…
2066 …����������ǯ�����������������������������������������������������w���������sxy��y���Ǯdhdqoi�������…
1086 …���ٷ�¥�̺ʰ���~}���w�}|��v����{��{�}��|돀��d¿�����������jz�go�mswp��f�ltk�̊sxy~�����x~}{�{pnjztw~…
986 …��{�{��~k���ɺ��nč�s��x��U���у���������j���w{˛�t�צy��y�p��|�jsɅ�p����q������sxy��v���i��sz��jŽ��rk�…
4006 …�r��Ǘ{��{�n�jg���U��^fZ^�Z�����U��a�������q��cRLih�u���Ρzݮ��̜�pqmc���x�k��sxy^�}�[�tW���v�_c�߷Ϝz�…
770 …��������������������������������������������������������������������~{����sxy{z{|{~������������…