1. Ta có:
\(\Leftrightarrow \left\{\begin{matrix} x+y+3xy=21\\ x^2+y^2-xy=-15\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x+y+3xy=21\\ (x+y)^2-3xy=-15\end{matrix}\right.\)
Đặt $x+y=a; xy=b$ thì HPT trở thành:\( \left\{\begin{matrix} a+3b=21\\ a^2-3b=-15\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} 3b=21-a\\ a^2-3b+15=0\end{matrix}\right.\)
\(\Rightarrow a^2-(21-a)+15=0\Leftrightarrow a^2+a-6=0\)
\(\Leftrightarrow (a-2)(a+3)=0\Rightarrow a=2\) hoặc $a=-3$
Nếu $a=2$ thì $b=\frac{19}{3}$. Như vậy $x+y=2; xy=\frac{19}{3}$
Áp dụng định lý Viet đảo suy ra $x,y$ là nghiệm của PT $X^2-2X+\frac{19}{3}=0$ (pt vô nghiệm)
Nếu $a=-3$ thì $b=8$. Áp dụng định lý Viet đảo thì $x,y$ là nghiệm của PT $X^2+3X+8=0$ (pt vô nghiệm)
Tóm lại HPT vô nghiệm.
2.
HPT \(\Leftrightarrow \left\{\begin{matrix} (x+xy+y)^3-3(x+xy)(x+y)(xy+y)=17\\ x+xy+y=5\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} 5^3-3(x+xy)(x+y)(xy+y)=17\\ (x+1)(y+1)=6\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} (x+xy)(x+y)(xy+y)=36\\ (x+1)(y+1)=6\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} xy(x+y)(x+1)(y+1)=36\\ (x+1)(y+1)=6\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} xy(x+y)=6\\ x+y+xy=5\end{matrix}\right.\)
Theo định lý Viet đảo thì $xy,x+y$ là nghiệm của PT:
$X^2-5X+6=0$
$\Rightarrow (xy,x+y)=(3,2); (2,3)$
Nếu $(xy,x+y)=(3,2)$ thì theo Viet đảo thì $x,y$ là nghiệm của PT $K^2-2K+3=0$ (vô nghiệm)
Nếu $(xy,x+y)=(2,3)$ thì theo Viet đảo thì $x,y$ là nghiệm của PT $K^2-3K+2=0$
$\Rightarrow (x,y)=(1,2); (2,1)$