Ta có:\(ab^2+bc^2+ca^2-4abc=0\Leftrightarrow\frac{b}{c}+\frac{c}{a}+\frac{a}{b}=4\)
Áp dụng BĐT AM-GM ta có:
\(\frac{b}{c}+\frac{c}{a}\ge2\sqrt{\frac{b}{a}};\frac{c}{a}+\frac{a}{b}\ge2\sqrt{\frac{c}{b}};\frac{a}{b}+\frac{b}{c}\ge2\sqrt{\frac{a}{c}}\)
Cộng theo vế các BĐT trên ta được : \(\sqrt{\frac{b}{a}}+\sqrt{\frac{c}{b}}+\sqrt{\frac{a}{c}}\le4\)
Đẳng thức xảy ra khi và chỉ khi \(\frac{b}{c}=\frac{c}{a}=\frac{a}{b}=\frac{4}{3}\)( vô lý)
Vậy đẳng thức không thể xảy ra.