Lời giải:
Từ điều kiện đã cho của $a,b,c$, tồn tại $x,y,z>0$ sao cho:
\((a,b,c)=\left(\frac{x}{\sqrt{(x+y)(x+z)}}; \frac{y}{\sqrt{(y+z)(y+x)}}; \frac{z}{\sqrt{(z+x)(z+y)}}\right)\)
Khi đó, áp dụng BĐT Cauchy ta có:
\(M=a+b+c=\frac{x}{\sqrt{(x+y)(x+z)}}+\frac{y}{\sqrt{(y+z)(y+x)}}+\frac{z}{\sqrt{(z+x)(z+y)}}\)
\(\leq \frac{1}{2}\left(\frac{x}{x+y}+\frac{x}{x+z}\right)+\frac{1}{2}\left(\frac{y}{y+z}+\frac{y}{y+x}\right)+\frac{1}{2}\left(\frac{z}{z+x}+\frac{z}{z+y}\right)\)
hay \(M\leq \frac{1}{2}\left(\frac{x+y}{x+y}+\frac{y+z}{y+z}+\frac{z+x}{z+x}\right)=\frac{3}{2}\)
Vậy \(M_{\max}=\frac{3}{2}\Leftrightarrow x=y=z\Leftrightarrow a=b=c=\frac{1}{2}\)
Cách khác:
Ta có:
\(a^2+b^2+c^2+2abc=1\)
\(\Leftrightarrow (a+b+c)^2-2(ab+bc+ac)+2abc=1\)
\(\Leftrightarrow (a+b+c)^2-2(a+b+c)+1=2+2(ab+bc+ac)-2(a+b+c)-2abc\)
\(\Leftrightarrow (a+b+c)^2-2(a+b+c)+1=2[1-(a+b+c)+(ab+bc+ac)-abc]\)
\(\Leftrightarrow (a+b+c)^2-2(a+b+c)+1=2(1-a)(1-b)(1-c)\) (đây là đẳng thức khá quen thuộc)
Áp dụng BĐT Cauchy ngược dấu:
\((a+b+c)^2-2(a+b+c)+1=2(1-a)(1-b)(1-c)\leq 2\left(\frac{1-a+1-b+1-c}{3}\right)^3=\frac{2[3-(a+b+c)]^3}{27}\)
\(\Leftrightarrow t^2-2t+1\leq \frac{2(3-t)^3}{27}\) (đặt \(a+b+c=t\))
\(\Leftrightarrow 2t^3+9t^2-27\leq 0\)
\(\Leftrightarrow (2t-3)(t+3)^2\leq 0\Rightarrow 2t-3\leq 0\Rightarrow t=M=a+b+c\leq \frac{3}{2}\)
Vậy \(M_{\max}=\frac{3}{2}\Leftrightarrow a=b=c=\frac{1}{2}\)
Ý tưởng khác:
Nếu \(c\ge1\): \(1=a^2+b^2+c^2+2abc\ge\left(a+b\right)^2+c^2\ge\frac{\left(a+b+c\right)^2}{2}\Rightarrow a+b+c\le\sqrt{2}< \frac{3}{2}\)
Nếu \(0< c\le1\)
\(3\left(6-4M\right)=3\left[6-4\left(a+b+c\right)\right]+8\left(a^2+b^2+c^2+2abc-1\right)\)
\(=\frac{1}{2}\left[\left(4a+4bc-3\right)^2+\frac{2\left(2c-1\right)^2\left(2c+1\right)}{c+1}+\frac{\left(1-c\right)\left(4bc+4b-3\right)^2}{c+1}\right]\ge0\)
\(\Rightarrow M\le\frac{3}{2}\). Như vậy, với mọi trường hợp của c, ta đều có \(M=a+b+c\le\frac{3}{2}\)
Đẳng thức xảy ra khi \(a=b=c=\frac{1}{2}\)
P/s: Em mới nghĩ ra cách này cô Akai Haruma check giúp em ạ!