Các thừa số sẽ bằng nhau từng đôi một.
\(\Rightarrow\)Có 4 TH:
TH1:\(\left\{{}\begin{matrix}x=4\\x^2+x+1=y\left(y-1\right)\end{matrix}\right.\)\(\Rightarrow\left\{{}\begin{matrix}x=4\\y\left(y-1\right)=21\end{matrix}\right.\)\(\Rightarrow\left\{{}\begin{matrix}x=4\\y=\frac{1\pm\sqrt{85}}{2}\end{matrix}\right.\)(KTM vì x,y nguyên)
TH2: \(\left\{{}\begin{matrix}x=4y\\x^2+x+1=y-1\end{matrix}\right.\)
TH3: \(\left\{{}\begin{matrix}x=4\left(y-1\right)\\x^2+x+1=y\end{matrix}\right.\)
TH4: \(\left\{{}\begin{matrix}x=4y\left(y-1\right)\\x^2+x+1=1\end{matrix}\right.\)
TH5: \(\left\{{}\begin{matrix}x=1\\x^2+x+1=4y\left(y-1\right)\end{matrix}\right.\)
TH6: \(\left\{{}\begin{matrix}x=y\\x^2+x+1=4\left(y-1\right)\end{matrix}\right.\)
TH7: \(\left\{{}\begin{matrix}x=y-1\\x^2+x+1=4y\end{matrix}\right.\)
TH8: \(\left\{{}\begin{matrix}x=y\left(y-1\right)\\x^2+x+1=4\end{matrix}\right.\)
Giờ xét với 4=(-1)(-4) nữa rồi giải ra tìm x,y.
\(x^3+x^2+x=4y^2-4y\Leftrightarrow x^3+x^2+x+1=4y^2-4y+1\)
\(\Leftrightarrow\left(x+1\right)\left(x^2+1\right)=\left(2y-1\right)^2\)
Do vế phải là bình phương của một số nguyên lẻ nên luôn lẻ \(\Rightarrow\) vế trái lẻ \(\Rightarrow x+1\) và \(x^2+1\) đều lẻ
Gọi ước chung lớn nhất của \(x+1\) và \(x^2+1\) là \(d\) \(\Rightarrow d\) lẻ
\(\left\{{}\begin{matrix}x+1⋮d\\x^2+1⋮d\end{matrix}\right.\) \(\Rightarrow x\left(x+1\right)-\left(x^2+1\right)⋮d\Rightarrow x-1⋮d\)
\(\Rightarrow\left(x+1\right)-\left(x-1\right)⋮d\Rightarrow2⋮d\Rightarrow d=Ư\left(2\right)\)
Mà \(d\) lẻ \(\Rightarrow d=1\Rightarrow x+1\) và \(x^2+1\) nguyên tố cùng nhau
\(\Rightarrow\left(x+1\right)\left(x^2+1\right)=\left(2y-1\right)^2\Leftrightarrow\left\{{}\begin{matrix}x+1=n^2\\x^2+1=m^2\end{matrix}\right.\)
\(x^2+1=m^2\Rightarrow\left(m-x\right)\left(m+x\right)=1\)
TH1: \(\left\{{}\begin{matrix}m-x=1\\m+x=1\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x=0\\m=1\end{matrix}\right.\) \(\Rightarrow x+1=1^2\)(thỏa mãn)
\(\Rightarrow4y\left(y-1\right)=0\Rightarrow\left[{}\begin{matrix}y=0\\y=1\end{matrix}\right.\)
TH2: \(\left\{{}\begin{matrix}m-x=-1\\m+x=-1\end{matrix}\right.\) \(\Rightarrow x=0\) (giống trường hợp trên)
Vậy \(\left(x;y\right)=\left(0;0\right);\left(0;1\right)\)