Phương trình có hai nghiệm phân biệt khi:
\(\Delta'=m^2-\left(m^2+m-2\right)>0\Leftrightarrow m< 2.\)
Theo định lí Vi-ét: \(\left\{{}\begin{matrix}x_1+x_2=-\dfrac{b}{a}=-2m\\x_1x_2=\dfrac{c}{a}=m^2+m-2\end{matrix}\right.\).
Theo đề: \(P=-x_1^2+\left(2m+3\right)x_2+3x_1+x_1x_2\)
\(=-x_1^2+2mx_2+3\left(x_1+x_2\right)+x_1x_2\)
\(\Leftrightarrow P=-x_1^2+2mx_2+3\left(-2m\right)+m^2+m-2\)
\(=\left(-x_1^2+m^2+m-2\right)+2mx_2-6m\).
\(x_1\) là nghiệm của phương trình nên: \(x_1^2+2mx_1+m^2+m-2=0\).
Suy ra: \(-x_1^2=2mx_1+m^2+m-2\).
Thay lại vào, tìm được:
\(P=\left(2mx_1+m^2+m-2\right)+2mx_2-6m\)
\(=2m\left(x_1+x_2\right)+m^2-5m-2\)
\(\Rightarrow P=2m\left(-2m\right)+m^2-5m-2\)
\(=-3m^2-5m-2=-3\left(m+\dfrac{5}{6}\right)^2+\dfrac{1}{12}\).
\(\Rightarrow P_{max}=\dfrac{1}{12}\Rightarrow m=-\dfrac{5}{6}\) (thỏa mãn).
