Lời giải:
Ta thấy:
\(11=x^5+y^5=(x^2+y^2)(x^3+y^3)-x^2y^2(x+y)\)
\(=[(x+y)^2-2xy][(x+y)^3-3xy(x+y)]-x^2y^2\)
\(=(1-2xy)(1-3xy)-x^2y^2\)
\(\Leftrightarrow 1-5xy+5x^2y^2=11\)
\(\Leftrightarrow 5x^2y^2-5xy-10=0\)
\(\Leftrightarrow x^2y^2-xy-2=0\)
\(\Leftrightarrow (xy-2)(xy+1)=0\rightarrow \left[\begin{matrix} xy=2\\ xy=-1\end{matrix}\right.\)
Nếu $xy=2, x+y=1$ thì theo định lý Vi-et đảo thì $x,y$ là nghiệm của pt: \(X^2-X+2=0\) (dễ thấy pt này vô nghiệm nên không tìm được $x,y$ thỏa mãn)
Nếu \(xy=-1, x+y=1\). Theo định lý Vi-et đảo thì $x,y$ là nghiệm của pt: \(X^2-X-1=0\Rightarrow (x,y)=(\frac{1+\sqrt{5}}{2}; \frac{1-\sqrt{5}}{2})\) và ngược lại
Vậy..........