\(y'=2\left(x-1\right)f'\left(x^2-2m-m\right)\)
Do \(x-1>0\) ; \(\forall x\in\left(1;3\right)\) nên hàm đồng biến trên (1;3) khi \(f'\left(x^2-2x-m\right)\ge0\); \(\forall x\in\left(1;3\right)\)
Do \(f'\left(x\right)\ge0\Leftrightarrow\left[{}\begin{matrix}-3\le x\le1\\x\ge3\end{matrix}\right.\) nên bài toán thỏa mãn khi với mọi \(x\in\left(1;3\right)\) ta có:
\(\left[{}\begin{matrix}-3\le x^2-2x-m\le1\\x^2-2x-m\ge3\end{matrix}\right.\)
\(\Leftrightarrow\left[{}\begin{matrix}m-3\le x^2-2x\le m+1\\x^2-2x\ge m+3\end{matrix}\right.\) (1)
Hàm \(g\left(x\right)=x^2-2x\) có \(f'\left(x\right)=2\left(x-1\right)>0;\forall x\in\left(1;3\right)\) nên đồng biến trên (1;3)
\(\Rightarrow\left\{{}\begin{matrix}g\left(x\right)>g\left(1\right)=-1\\g\left(x\right)< g\left(3\right)=3\end{matrix}\right.\)
Do đó (1) tương đương: \(\left[{}\begin{matrix}\left\{{}\begin{matrix}m-3\le-1\\m+1\ge3\end{matrix}\right.\\m+3\le-1\end{matrix}\right.\) \(\Rightarrow\left[{}\begin{matrix}m=2\\m\le-4\end{matrix}\right.\)