Lời giải:
Ta bổ sung điều kiện \(a,b,c\in\mathbb{N}\)
TH1: Nếu \(p=2\Rightarrow a^2+b^2+c^2=2\)
Khi đó dễ thấy \((a,b,c)=(1,1,0)\) và hoán vị. Thử với điều kiện \(a^4+b^4+c^4\vdots p\) thấy thỏa mãn (chọn)
TH2: \(p\neq 2\Rightarrow (p,2)=1\)
Ta có \(a^4+b^4+c^4\vdots p\)
\(\Leftrightarrow (a^2+b^2+c^2)^2-2(a^2b^2+b^2c^2+c^2a^2)\vdots p\)
\(\Leftrightarrow p^2-2(a^2b^2+b^2c^2+c^2a^2)\vdots p\)
\(\Leftrightarrow 2(a^2b^2+b^2c^2+c^2a^2)\vdots p\)
\(\Leftrightarrow a^2b^2+b^2c^2+c^2a^2\vdots p\) (do \((p,2)=1\) )
\(\Leftrightarrow a^2(b^2+c^2+a^2)+b^2c^2-a^4\vdots p\)
\(\Leftrightarrow a^2p+b^2c^2-a^4\vdots p\)
\(\Leftrightarrow (bc-a^2)(bc+a^2)\vdots p\)
Do p là số nguyên tố nên ta sẽ xét 2 TH sau:
-------------------------------------------------------
+) Nếu \(bc-a^2\vdots p\) sẽ xảy ra 2 khả năng:
\(\bullet bc-a^2=0\Leftrightarrow bc=a^2\)
\(\Rightarrow p=a^2+b^2+c^2=b^2+c^2+2bc-a^2\)
\(\Leftrightarrow p=(b+c)^2-a^2=(b+c+a)(b+c-a)\in\mathbb{P}\)
Do đó trong hai số \(b+c+a, b+c-a\) phải có một số bằng 1 và số còn lại bằng p. Dễ thấy \(b+c+a\geq b+c-a\Rightarrow b+c-a=1\)
Khi đó:
\(\left\{\begin{matrix} b+c=a+1\\ bc=a^2\end{matrix}\right.\Rightarrow (a+1)^2\geq 4a^2\)
\(\Leftrightarrow 2a+1\geq 3a^2\Leftrightarrow -\frac{1}{3}\leq a\leq 1\) kéo theo \(a=0;1 \)
-\(a=0\Rightarrow bc=0; b+c=1\Rightarrow (a,b,c)=(0;0;1); (0;1;0)\) (không thỏa mãn)
-\(a=1\Rightarrow bc=1\Rightarrow b=c=1\). Thử lại thấy thỏa mãn.
\(\bullet bc-a^2\neq 0\Rightarrow bc-a^2\geq p\Leftrightarrow bc-a^2\geq a^2+b^2+c^2\)
\(\Leftrightarrow 0\geq 2a^2+(b-\frac{c}{2})^2+\frac{3c^2}{4}\)
Điều này xảy ra khi \(a=b=c=0\) (không thỏa mãn)
-------------------------------------------
+) Nếu \(bc+a^2\vdots p\)
\(\bullet bc+a^2=0\Rightarrow a=b=c=0\) (không thỏa mãn)
\(bc+a^2\neq 0\Rightarrow bc+a^2\geq p\Leftrightarrow bc+a^2\geq a^2+b^2+c^2\)
\(\Leftrightarrow 0\geq (b-\frac{c}{2})^2+\frac{3c^2}{4}\)
Điều này chỉ xảy ra khi \(b=c=0\Rightarrow p=a^2\) (vô lý với mọi số tự nhiên a)
Vậy \((a,b,c)=(1;1;0)\) và các hoán vị hoặc \((a,b,c)=(1,1,1)\)