Lời giải:
Phải thêm điều kiện \(x,y,z>0\) nữa em nhé. Nếu không bài toán sai ngay với \(x=y=z=-1\)
Áp dụng BĐT Cauchy-Schwarz ta có:
\(\text{VT}=\frac{x^4}{y+3z}+\frac{y^4}{z+3x}+\frac{z^4}{x+3y}=\frac{(x^2)^2}{y+3z}+\frac{(y^2)^2}{z+3x}+\frac{(z^2)^2}{x+3y}\)
\(\geq \frac{(x^2+y^2+z^2)^2}{y+3z+z+3x+x+3y}=\frac{(x^2+y^2+z^2)^2}{4(x+y+z)}(1)\)
Áp dụng BĐT Bunhiacopxky: \((x^2+y^2+z^2)(1+1+1)\geq (x+y+z)^2\)
\(\Rightarrow \sqrt{3(x^2+y^2+z^2)}\geq x+y+z(2)\)
Từ \((1); (2)\Rightarrow \text{VT}\geq \frac{(x^2+y^2+z^2)^2}{4\sqrt{3(x^2+y^2+z^2)}}=\frac{\sqrt{(x^2+y^2+z^2)^3}}{4\sqrt{3}}\)
Theo hệ quả của BĐT AM-GM \(x^2+y^2+z^2\geq xy+yz+xz\geq 3\)
Suy ra \(\text{VT}\geq \frac{\sqrt{3^3}}{4\sqrt{3}}=\frac{3}{4}\) (đpcm)
Dấu bằng xảy ra khi \(x=y=z=1\)