ta có \(\Delta'=4-m\)
để pt có 2 nghiệm phân biệt thì \(\Delta'>0\Leftrightarrow m< 4\)
vì x1 là nghiệm của pt trên nên ta có
\(x_1^2-2x_1+m-3=0\Rightarrow x_1^2=2x_1-m+3\)
vậy \(x_1^2-2x_2+x_1x_2=2\left(x_1-x_2\right)-m+3+m-3=2\left(x_1-x_2\right)=-12\)
\(\Rightarrow x_1-x_2=-6\)
theo vi-ét ta có
\(\left\{{}\begin{matrix}x_1-x_2=-6\\x_1+x_2=2\\x_1x_2=m-3\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x_1=-2\\x_2=4\\m-3=-8\end{matrix}\right.\Leftrightarrow}\left\{{}\begin{matrix}x_1=-2\\x_2=4\\m=-5\end{matrix}\right.\)vậy m=-5