Với điều kiện đề bài đã cho thì M có GTNN chứ không có GTLN nhé.
Nếu đề bài là $a,b,c$ không âm thì giải như sau:
Do $a,b,c\geq 0$ nên:
\(a^2+ab+b^2=(a+b)^2-ab\leq (a+b)^2\)
\(\Rightarrow \sqrt{a^2+ab+b^2}\leq a+b\)
Hoàn toàn tương tự:
\(\sqrt{b^2+bc+c^2}\leq b+c; \sqrt{c^2+ca+a^2}\leq c+a\)
Cộng theo vế:
$P\leq 2(a+b+c)=6$
Vậy $P_{\max}=6$
Dấu "=" xảy ra khi $(a,b,c)=(3,0,0)$ và các hoán vị của nó.