\(\left(x^2-6x\right)^2-2\left(x-3\right)^2=81\)
\(\Leftrightarrow\left(x^2-6x\right)^2-2\left(x^2-6x+9\right)=81\)
Đặt \(x^2-6x=t\), khi đó pt mang dạng:
\(t^2-2\left(t+9\right)=81\)\(\Leftrightarrow t^2-2t-18=81\)
\(\Leftrightarrow t^2-2t-99=0\Leftrightarrow t^2+9t-11t-99=0\)
\(\Leftrightarrow t\left(t+9\right)-11\left(t+9\right)=0\Leftrightarrow\left(t+9\right)\left(t-11\right)=0\)
\(\Leftrightarrow\orbr{\begin{cases}t+9=0\\t-11=0\end{cases}}\Rightarrow\orbr{\begin{cases}x^2-6x+9=0\\x^2-6x-11=0\end{cases}}\)
\(\Leftrightarrow\orbr{\begin{cases}x^2-6x+9=0\\x^2-2.x.3+9-20=0\end{cases}}\Leftrightarrow\orbr{\begin{cases}\left(x-3\right)^2=0\\\left(x-3\right)^2=20\end{cases}}\)
\(\Leftrightarrow\orbr{\begin{cases}x=3\\x=\sqrt{20}+3\end{cases}}\Leftrightarrow\orbr{\begin{cases}x=3\\x=2\sqrt{5}+3\end{cases}}\)
Vậy tập nghiệm của pt là \(S=\left\{3;2\sqrt{5}+3\right\}.\)