\(\Delta'=m^2-4\left(m^2-m-3\right)=-3m^2+4m+12\ge0\) (1)
Theo Viet ta có: \(\left\{{}\begin{matrix}x_1+x_2=m\\x_1x_2=m^2-m-3\end{matrix}\right.\)
Để 2 nghiệm là độ dài 2 cạnh tam giác vuông \(\Rightarrow\left\{{}\begin{matrix}x_1>0\\x_2>0\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}x_1x_2>0\\x_1+x_2>0\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}m>0\\m^2-m-3>0\left(2\right)\end{matrix}\right.\)
Áp dụng Pitago: \(x_1^2+x_2^2=4\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2-4=0\)
\(\Leftrightarrow m^2-2\left(m^2-m-3\right)-4=0\)
\(\Leftrightarrow-m^2+2m+2=0\Rightarrow\left[{}\begin{matrix}m=1-\sqrt{3}< 0\left(l\right)\\m=1+\sqrt{3}\end{matrix}\right.\)
Thử lại \(m=1+\sqrt{3}\) với 2 điều kiện (1) và (2) thấy đều thỏa mãn