Ta có :
a2 + 5ab + b2 = (a - b)2 + 7ab = 7c. (1)
Vì c là số nguyên tố nên c lớn hơn hoặc bằng 2.
Suy ra 7c chia hết 7. (2)
Ta lại có 7ab chia hết 7. (3)
Từ (1), (2), (3) suy ra (a - b)2 chia hết 7
=> a - b chia hết 7 (vì 7 là số nguyên tố)
Do đó (a - b)2 chia hết 7. (4)
Mặt khác c lớn hơn hoặc bằng 2 => 7c chia hết 72. (5)
Từ (1), (4) và (5) suy ra 7ab chia hết 72 => ab chia hết 7.
Suy ra a chia hết 7 hoặc b chia hết 7.
*TH1. a chia hết 7, từ (1) suy ra b chia hết 7.
*TH2. b chia hết 7, từ (1) suy ra a chia hết 7.
Do đó cả a và b đều chia hết cho 7.
Vì a, b là các số nguyên tố nên a = b = 7.
Thay a = b = 7 vào (1) ta được c = 3 (thỏa mãn c là số nguyên tố)
Vậy a = b = 7, c = 3
Ta có :
a2 + 5ab + b2 = (a - b)2 + 7ab = 7c. (1)
Vì c là số nguyên tố nên c lớn hơn hoặc bằng 2.
Suy ra 7c chia hết 7. (2)
Ta lại có 7ab chia hết 7. (3)
Từ (1), (2), (3) suy ra (a - b)2 chia hết 7
=> a - b chia hết 7 (vì 7 là số nguyên tố)
Do đó (a - b)2 chia hết 7. (4)
Mặt khác c lớn hơn hoặc bằng 2 => 7c chia hết 72. (5)
Từ (1), (4) và (5) suy ra 7ab chia hết 72 => ab chia hết 7.
Suy ra a chia hết 7 hoặc b chia hết 7.
*TH1. a chia hết 7, từ (1) suy ra b chia hết 7.
*TH2. b chia hết 7, từ (1) suy ra a chia hết 7.
Do đó cả a và b đều chia hết cho 7.
Vì a, b là các số nguyên tố nên a = b = 7.
Thay a = b = 7 vào (1) ta được c = 3 (thỏa mãn c là số nguyên tố)
Vậy a = b = 7, c = 3