Điều kiện\(\begin{cases}7x+y\ge0\\2x+y\ge0\end{cases}\); Đặt \(\begin{cases}u=\sqrt{7x+y}\ge0\\v=\sqrt{2x+y}\ge0\end{cases}\)\(\Rightarrow\)\(\begin{cases}u^2=7x+y\\v^2=2x+y\end{cases}\)\(\Rightarrow\)\(x=\frac{u^2-v^2}{5}\)và \(y=\frac{7v^2-2u^2}{5}\)
HPT trở thành: \(\begin{cases}u+v=5\\u^2-v^2-7v^2+2u^2+5v=5\end{cases}\) \(\Leftrightarrow\) \(\begin{cases}u+v=5\\3u^2-8v^2+5v-5=0\end{cases}\)
\(\Leftrightarrow\) \(\begin{cases}u=5-v\\3\left(5-v\right)^2-8v^2+5v-5=0\end{cases}\)\(\Leftrightarrow\) \(\begin{cases}u=5-v\\-5v^2-25v+70=0\end{cases}\)\(\Leftrightarrow\) \(\begin{cases}u=5-v\\v^2+5v-14=0\left(\text{*}\right)\end{cases}\)
(*) \(\Leftrightarrow v=2\) (nhận) hoặc \(v=-7\) (loại) ; nên HPT trên \(\Leftrightarrow\) \(\begin{cases}u=3\\v=2\end{cases}\)
Do đó HPT đã cho trở thành \(\begin{cases}7x+y=9\\2x+y=4\end{cases}\)\(\Leftrightarrow\)\(\begin{cases}x=1\\y=2\end{cases}\) (phù hợp)