Điều kiện \(x\le2;y\ge-1;y^3\left(2x-y\right)\ge0;5y^2-4x^2\ge0\)
Sử dụng bất đẳng thức AM-GM cho 2 số không âm ta có :
\(\sqrt{y^3\left(2x-y\right)}=\sqrt{y^2\left(2xy-y^2\right)}\le\frac{y^2+2xy-y^2}{2}=xy\)
\(\sqrt{x^2\left(5y^2-4x^2\right)}\le\frac{x^2+5y^2-4x^2}{2}=\frac{5y^2-3x^2}{2}\)
Suy ra :
\(3\sqrt{y^3\left(2x-y\right)}+\sqrt{x^2\left(5y^2-4x^2\right)}\le3xy+\frac{5y^2-3x^2}{2}\)
Vì vậy ta phải có : \(4y^2\le3xy+\frac{5y^2-3x^2}{2}\Leftrightarrow3\left(x-y\right)^2\le0\Leftrightarrow x=y\)
Vậy phương trình đầu của hệ tương đương với : x=y
Thay y=x vào phương trình thứ 2 của hệ ta được :
\(\sqrt{2-x}+\sqrt{x+1}+2=x+x^2\) (*)
Do \(\sqrt{2-x}+\sqrt{x+1}>0\Rightarrow x>1\)(do \(x\ge-1\)
Khi đó phương trình (*) tương đương với :
\(x^2-x-1+\left(x-1-\sqrt{2-x}\right)+\left(x-\sqrt{x+1}\right)=0\)
\(\Leftrightarrow\left(x^2-x-1\right)\left(1+\frac{1}{x-1+\sqrt{2-x}}+\frac{1}{x+\sqrt{x+1}}\right)=0\)
\(\Leftrightarrow x^2-x-1=0\) (do \(1+\frac{1}{x-1+\sqrt{2-x}}+\frac{1}{x+\sqrt{x+1}}>0\))
\(\Leftrightarrow\begin{cases}x=\frac{1+\sqrt{5}}{2}\\x=\frac{1-\sqrt{5}}{2}\end{cases}\)
\(\Leftrightarrow x=y=x=\frac{1+\sqrt{5}}{2}\)
Vậy hệ có nghiệm duy nhất \(\left(x;y\right)=\left(\frac{1+\sqrt{5}}{2};\frac{1+\sqrt{5}}{2}\right)\)