Với x = 0 => y² = 1 => P = 0 (1)
- Với y = 0 => x² = 1 => P = 2 (2)
- Xét x, y ≠ 0, thay 1 = x² + y² ở mẫu thức và đặt x = ay ta có :
P = 2(x² + 6xy)/(1 + 2xy + 2y²)
= 2(x² + 6xy)/(x² + 2xy + 3y²)
= 2(a²y² + 6ay²)/(a²y² + 2ay² + 3y²)
= 2(a² + 6a)/(a² + 2a + 3)
<=> P(a² + 2a + 3) = 2(a² + 6a)
<=> (P - 2)a² + 2(P – 6)a + 3P = 0 (*)
Coi (*) như là PT bậc 2 theo ẩn a tham số P, Để (*) có nghiệm thì :
∆' = (P - 6)² - 3P(P - 2) = - 2P² - 6P + 36 = 81/2 - 2(P + 3/2)² ≥ 0
<=> (P + 3/2)² ≤ 81/4
<=> - 9/2 ≤ P + 3/2 ≤ 9/2
<=> - 6 ≤ P ≤ 3 (3)
So sánh (1); (2) và (3) ta có :MinP = - 6 và MaxP = 3
Thay Pmin = - 6 vào (*) có 4a² + 12a + 9 = 0 <=> (2a + 3)² = 0 <=> a = - 3/2 <=> x = - 3y/2 => 9y²/4 + y² = 1 <=> y² = 4/13 => y = - 2√13/13; y = 2√13/13 => x = 3√13/13 ; x = - 3√13/13
MinP = - 6 xảy ra khi (x; y) = (3√13/13; - 2√13/13); (- 3√13/13; 2√13/13)
Thay Pmax = 3 vào (*) có a² - 6a + 9 = 0 <=> (a - 3)² = 0 <=> a = 3 <=> x = 3y => 9y² + y² = 1 <=> y² = 1/10 => y = - √10/10; y = √10/10 => x = - 3√10/10 ; x = 3√10/10
MaxP = 3 xảy ra khi (x; y) = (3√10/10; √10/10); (- 3√10/10; - √10/10)