\(\Leftrightarrow\left\{{}\begin{matrix}m+1\ne0\\\Delta'=m^2-\left(m+1\right)\left(m+6\right)>0\\x_1+x_2=\dfrac{2m}{m+1}>0\\x_1x_2=\dfrac{m+6}{m+1}>0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m\ne1\\-7m-6>0\\\dfrac{2m}{m+1}>0\\\dfrac{m+6}{m+1}>0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m< -\dfrac{6}{7}\\\left[{}\begin{matrix}m>0\\m< -1\end{matrix}\right.\\\left[{}\begin{matrix}m>-1\\m< -6\end{matrix}\right.\end{matrix}\right.\) \(\Rightarrow m< -6\)

b) phương trình có 2 nghiệm  \(\Leftrightarrow\Delta'\ge0\)

\(\Leftrightarrow\left(m-1\right)^2-\left(m-1\right)\left(m+3\right)\ge0\)

\(\Leftrightarrow m^2-2m+1-m^2-3m+m+3\ge0\)

\(\Leftrightarrow-4m+4\ge0\)

\(\Leftrightarrow m\le1\)

Ta có: \(x_1^2+x_1x_2+x_2^2=1\)

\(\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2=1\)

Theo viet: \(\left\{{}\begin{matrix}x_1+x_2=-\dfrac{b}{a}=2\left(m-1\right)\\x_1x_2=\dfrac{c}{a}=m+3\end{matrix}\right.\)

\(\Leftrightarrow\left[-2\left(m-1\right)^2\right]-2\left(m+3\right)=1\)

\(\Leftrightarrow4m^2-8m+4-2m-6-1=0\)

\(\Leftrightarrow4m^2-10m-3=0\)

\(\Leftrightarrow\left[{}\begin{matrix}m_1=\dfrac{5+\sqrt{37}}{4}\left(ktm\right)\\m_2=\dfrac{5-\sqrt{37}}{4}\left(tm\right)\end{matrix}\right.\Rightarrow m=\dfrac{5-\sqrt{37}}{4}\)

Câu c:

a) Khi \(m=1\) thì pt đã cho trở thành \(x^2-2x-10=0\) (*)

pt (*) có \(\Delta'=\left(-1\right)^2-\left(-10\right)=11>0\) 

Do đó (*) có 2 nghiệm phân biệt \(\left[{}\begin{matrix}x_1=\dfrac{-\left(-1\right)+\sqrt{11}}{1}=1+\sqrt{11}\\x_2=\dfrac{-\left(-1\right)-\sqrt{11}}{1}=1-\sqrt{11}\end{matrix}\right.\)

b) Xét pt đã cho \(x^2-mx-10=0\) \(\left(a=1;b=-m;c=-10\right)\)

Nhận thấy \(ac=1\left(-10\right)=-10< 0\) nên pt đã cho luôn có 2 nghiệm phân biệt \(x_1,x_2\).

Áp dụng hệ thức Vi-ét, ta có \(\left\{{}\begin{matrix}x_1+x_2=-\dfrac{-m}{1}=m\\x_1x_2=\dfrac{-10}{1}=-10\end{matrix}\right.\)

Ta có \(x_1^2+x_2^2=29\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2=29\Leftrightarrow m^2-2\left(-10\right)=29\)\(\Leftrightarrow m^2+20=29\Leftrightarrow m^2=9\Leftrightarrow m=\pm3\)

Vậy để pt đã cho có 2 nghiệm phân biệt thỏa mãn đề bài thì \(m=\pm3\)

b: Δ=(-2m)^2-4(m^2-2m+2)

=4m^2-4m^2+8m-8=8m-8

Để pt có 2 nghiệm phân biệt thì 8m-8>0

=>m>1

x1^2+x2^2=x1+x2+8

=>(x1+x2)^2-2x1x2-(x1+x2)=8

=>(2m)^2-2(m^2-2m+2)-2m=8

=>4m^2-2m^2+4m-4-2m=8

=>2m^2+2m-12=0

=>m^2+m-6=0

=>(m+3)(m-2)=0

mà m>1

nên m=2