Lời giải:
Ta có \(\left\{\begin{matrix} x+y+2xy=7\\ x^2+y^2-xy=3\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} x+y+2xy=7\\ (x+y)^2-3xy=3\end{matrix}\right.\).
Đặt \(x+y=a; xy=b\). Hệ tương đương:
\(\left\{\begin{matrix} a+2b=7\\ a^2-3b=3\end{matrix}\right.\)
Thay \(a=7-2b\) vào pt thứ 2:
\(\Rightarrow (7-2b)^2-3b=3\)
\(\Leftrightarrow 4b^2-31b+46=0\)
\(\Leftrightarrow b=\frac{23}{4}\) hoặc \(b=2\)
Nếu \(b=\frac{23}{4}\rightarrow a=\frac{-9}{2}\).
Khi đó áp dụng định lý Viete đảo suy ra $x,y$ là nghiệm của PT:
\(X^2+\frac{9}{2}X+\frac{23}{4}=0\)
\(\Leftrightarrow (X+\frac{9}{4})^2+\frac{11}{6}=0\) (vô lý)
Nếu \(b=2\Rightarrow a=3\)
Khi đó áp dụng định lý Viete đảo suy ra $x,y$ là nghiệm của PT:
\(X^2-3X+2=0\Leftrightarrow X\in \left\{1;2\right\}\)
Vậy \((x,y)=(2,1); (1,2)\)