a: \(y=-x^3-3x^2+\left(5-m\right)x\)
=>\(y'=-3x^2-3\cdot2x+5-m\)
=>\(y'=-3x^2-6x+5-m\)
Để hàm số nghịch biến trên R thì \(y'< =0\forall x\)
=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a< 0\end{matrix}\right.\)
=>\(\left\{{}\begin{matrix}\left(-6\right)^2-4\cdot\left(-3\right)\left(5-m\right)< =0\\-3< 0\end{matrix}\right.\)
=>\(36+12\left(5-m\right)< =0\)
=>\(36+60-12m< =0\)
=>\(-12m+96< =0\)
=>-12m<=-96
=>m>=8
b: \(y=x^3+\left(2m-2\right)\cdot x^2+mx\)
=>\(y'=3x^2+2\left(2m-2\right)\cdot x+m\)
=>\(y'=3x^2+\left(4m-4\right)x+m\)
Để hàm số đồng biến trên R thì y'>=0 với mọi x
=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a>0\end{matrix}\right.\)
=>\(\left\{{}\begin{matrix}3>0\\\left(4m-4\right)^2-4\cdot3\cdot m< =0\end{matrix}\right.\)
=>\(16m^2-32m+16-12m< =0\)
=>\(16m^2-44m+16< =0\)
=>\(4m^2-11m+4< =0\)
=>\(\dfrac{11-\sqrt{57}}{8}< =m< =\dfrac{11+\sqrt{57}}{8}\)