Ta có \(y'=-2x^2+2\left(m+1\right)x+2m\)
Hàm số đồng biến trên khoảng (0;2) \(\Leftrightarrow y'\ge0,x\in\left(0;2\right)\) (*)
Vì y'(x) liên tục tại x=0 và x=2 nên (*) \(\Leftrightarrow y'\ge0,x\in\left[0;2\right]\)
\(\Leftrightarrow-2x^2+2\left(m+1\right)x+2m\ge0,x\in\left[0;2\right]\)
\(\Leftrightarrow m\left(x+1\right)\ge x^2-x,x\in\left[0;2\right]\Leftrightarrow m\ge g\left(x\right),x\in\left[0;2\right]\); (trong đó \(g\left(x\right)=\frac{x^2-x}{x+1}\))
\(\Leftrightarrow m\ge Max_{\left[0;2\right]}g\left(x\right)\)
Xét hàm số \(g\left(x\right)=\frac{x^2-x}{x+1}\) trên đoạn \(\left[0;2\right]\)
\(\Rightarrow g'\left(x\right)=\frac{x^2+2x-1}{\left(x+1\right)^2}\Rightarrow g'\left(x\right)=0\Leftrightarrow x=-1+\sqrt{2},x\in\left[0;2\right]\)
\(g\left(0\right);g\left(2\right)=\frac{2}{3};g\left(-1+\sqrt{2}\right)\Rightarrow Max_{\left(0;+\infty\right)}g\left(x\right)=\frac{2}{3}\) tại x=2
Vậy \(m\ge\frac{2}{3}\) thì hàm số đồng biến trên khoảng (0;2)