Lời giải:
Ta có \(M\sqrt[3]{3}=\sqrt[3]{3(a+1)(a^2-a+1)}+\sqrt[3]{3(b+1)(b^2-b+1)}\)
Áp dụng bất đẳng thức AM-GM cho ba bộ số không âm:
\(\sqrt[3]{3(a+1)(a^2-a+1)}\leq \frac{3+a+1+a^2-a+1}{3}=\frac{a^2+5}{3}\)
Tương tự \(\sqrt[3]{3(b+1)(b^2-b+1)}\leq \frac{b^2+5}{3}\)
Do đó \(M\sqrt[3]{3}\leq \frac{a^2+b^2+10}{3}=6\Rightarrow M_{\max}=\frac{6}{\sqrt[3]{3}}\)
Vậy \(M_{\max}=\frac{6}{\sqrt[3]{3}}\Leftrightarrow a=b=2\)