Lời giải:
PT $\Leftrightarrow (x-x^3)+(1-x^3)=m(x^2-1)$
$\Leftrightarrow x(1-x^2)+(1-x)(1+x+x^2)=m(x-1)(x+1)$
$\Leftrightarrow (1-x)[x(1+x)+1+x+x^2]=m(x-1)(x+1)$
$\Leftrightarrow (1-x)(2x^2+2x+1)=(x-1)(mx+m)$
$\Leftrightarrow (x-1)(2x^2+2x+1+mx+m)=0$
Để pt ban đầu có 3 nghiệm pb thì pt $2x^2+(m+2)x+(m+1)=0$ có 2 nghiệm pb khác 1
Điều này xảy ra khi mà:
\(\left\{\begin{matrix} \Delta=(m+2)^2-8(m+1)>0\\ 2.1^2+(m+2).1+(m+1)\neq 0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} m^2-4m-4>0\\ 2m+5\neq 0\end{matrix}\right. \)
$\Leftrightarrow m> 2+2\sqrt{2}$ hoặc ($m< 2-2\sqrt{2}$ và $m\neq \frac{-5}{2})$
\(2x^3+x+1=m.\left(x^2-1\right)\)
\(\Leftrightarrow\left[{}\begin{matrix}2x^3+x+1=0\\x^2-1=0\end{matrix}\right.\)
\(\Leftrightarrow\left[{}\begin{matrix}2x^3+x+1=0\\x^2=1\end{matrix}\right.\)
\(\Leftrightarrow\left[{}\begin{matrix}x=0\\x=1\\x=-1\end{matrix}\right.\)