Lời giải:
Cộng 2 PT theo vế ta được:
$x(k+2)=3(*)$
Để HPT ban đầu có nghiệm thì PT $(*)$ phải có nghiệm.
Điều này xảy ra khi $k+2\neq 0\Leftrightarrow k\neq -2$
Khi đó:
$x=\frac{3}{k+2}$
$y=2x+4=\frac{6}{k+2}+4$
Khi đó:
$P=x^2+y^2=\frac{9}{(k+2)^2}+(\frac{6}{k+2}+4)^2=\frac{117}{(k+2)^2}+\frac{48}{k+2}+16$
Đặt $\frac{1}{k+2}=a$ thì:
$P=117a^2+48a+16=117(a+\frac{8}{39})^2+\frac{144}{13}\geq \frac{144}{13}$
Vậy $P_{\min}=\frac{144}{13}$. Giá trị này đạt tại $a+\frac{8}{39}=0$
$\Leftrightarrow \frac{1}{k+2}=\frac{-8}{39}$
$\Leftrightarrow k=\frac{-55}{8}$