\(x^2+y^2+3xy=x^2y^2\)
\(\Leftrightarrow\left(x^2+2xy+y^2\right)+xy=x^2y^2\)
\(\Leftrightarrow\left(x+y\right)^2=xy\left(xy-1\right)\)
Do VT là số chính phương nên VP là số chính phương, để VP là số chính phương thì một trong 2 số bằng 0.
Dễ nhận ra x=y=0 là nghiệm cần tìm