Lời giải:
Để pt có 2 nghiệm $x_1,x_2$ thì:
$\Delta=(m-2)^2-4(m-25)\geq 0$
$\Leftrightarrow m^2-8m+104\geq 0$
$\Leftrightarrow (m-4)^2+88\geq 0$
$\Leftrightarrow m\in\mathbb{R}$
Áp dụng định lý Viet:
$x_1+x_2=2-m$
$x_1x_2=m-25$
Khi đó:
$(x_1-x_2)^2+5x_1x_2=-17$
$\Leftrightarrow (x_1+x_2)^2+x_1x_2=-17$
$\Leftrightarrow (2-m)^2+m-25=-17$
$\Leftrightarrow m^2-3m-4=0$
$\Leftrightarrow (m+1)(m-4)=0$
$\Leftrightarrow m+1=0$ hoặc $m-4=0$
$\Leftrightarrow m=-1$ hoặc $m=4$